展會(huì)信息港展會(huì)大全

吳恩達(dá)出手,開源最新Python包,一個(gè)接口調(diào)用OpenAI等模型
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-11-26 15:40:41   瀏覽:33次  

導(dǎo)讀:機(jī)器之心報(bào)道編輯:陳陳在構(gòu)建應(yīng)用程序時(shí),與多個(gè)提供商集成很麻煩,現(xiàn)在 aisuite 給解決了。用相同的代碼方式調(diào)用 OpenAI、Anthropic、Google 等發(fā)布的大模型,還能實(shí)現(xiàn)便捷的模型切換和對比測試。剛剛,AI 著名學(xué)者、斯坦福大學(xué)教授吳恩達(dá)最新開源項(xiàng)目實(shí)現(xiàn)了。吳恩達(dá)在推文中宣布了這一好消息開源新的 Python 包:aisuite!這個(gè)工具可以讓開發(fā)者輕松使用來自多個(gè)提供商的大型 ......

機(jī)器之心報(bào)道

編輯:陳陳

在構(gòu)建應(yīng)用程序時(shí),與多個(gè)提供商集成很麻煩,現(xiàn)在 aisuite 給解決了。

用相同的代碼方式調(diào)用 OpenAI、Anthropic、Google 等發(fā)布的大模型,還能實(shí)現(xiàn)便捷的模型切換和對比測試。

剛剛,AI 著名學(xué)者、斯坦福大學(xué)教授吳恩達(dá)最新開源項(xiàng)目實(shí)現(xiàn)了。

吳恩達(dá)出手,開源最新Python包,一個(gè)接口調(diào)用OpenAI等模型

吳恩達(dá)在推文中宣布了這一好消息開源新的 Python 包:aisuite!

這個(gè)工具可以讓開發(fā)者輕松使用來自多個(gè)提供商的大型語言模型。

在談到為何構(gòu)建這個(gè)項(xiàng)目時(shí),吳恩達(dá)表示構(gòu)建應(yīng)用時(shí),發(fā)現(xiàn)與多個(gè)提供商集成非常麻煩。aisuite 正是為了解決這個(gè)問題而誕生的,用戶只需通過更改一個(gè)字符串(如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等),即可選擇不同提供商的模型。

吳恩達(dá)出手,開源最新Python包,一個(gè)接口調(diào)用OpenAI等模型

項(xiàng)目地址:https://github.com/andrewyng/aisuite

項(xiàng)目一上線,大家紛紛表示「這對開發(fā)人員來說非常有用。」

吳恩達(dá)出手,開源最新Python包,一個(gè)接口調(diào)用OpenAI等模型

「超級方便!簡化集成總是有益的,非常好的研究!」

吳恩達(dá)出手,開源最新Python包,一個(gè)接口調(diào)用OpenAI等模型

統(tǒng)一接口設(shè)計(jì),支持多個(gè) AI 提供商的模型

aisuite 使開發(fā)者能夠通過標(biāo)準(zhǔn)化的接口輕松使用多個(gè) LLM。其接口與 OpenAI 的類似,aisuite 可以很容易地與最流行的 LLM 交互并比較結(jié)果。

aisuite 是一個(gè)輕量級的包裝器,它基于 Python 客戶端庫構(gòu)建,允許用戶在不修改代碼的情況下,輕松切換并測試來自不同 LLM 提供商的響應(yīng)。

目前,這個(gè)項(xiàng)目主要集中在聊天補(bǔ)全功能,未來將擴(kuò)展到更多使用場景。

當(dāng)前,aisuite 支持的提供商包括:

OpenAI

Anthropic

Azure

Google

AWS

Groq

Mistral

HuggingFace

Ollama

為了確保穩(wěn)定性,aisuite 使用 HTTP 端點(diǎn)或 SDK 來與提供商進(jìn)行調(diào)用。

安裝

安裝過程有多種選擇。

下面是只安裝基礎(chǔ)包,而不安裝任何提供商的 SDK。

pip install aisuite

帶 Anthropic支持的安裝方式

pip install 'aisuite [anthropic]'

下面是將安裝所有特定于提供商的庫。

pip install 'aisuite [all]'

設(shè)置

開始使用時(shí),你需要為打算使用的提供商獲取 API 密鑰。API 密鑰可以作為環(huán)境變量設(shè)置,具體的使用方式可以參考 aisuite 的 examples 文件夾。

如果大家還不是很明白,可以參考下面簡短的示例展示,即如何使用 aisuite 生成來自 GPT-4o 和 Claude-3-5-Sonnet 的聊天補(bǔ)全響應(yīng)。

先設(shè)置 API 密鑰:

export OPENAI_API_KEY="your-openai-api-key"export ANTHROPIC_API_KEY="your-anthropic-api-key"

使用 Python 客戶端:

import aisuite as aiclient = ai.Client ()models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]messages = [    {"role": "system", "content": "Respond in Pirate English."},    {"role": "user", "content": "Tell me a joke."},]for model in models:    response = client.chat.completions.create (        model=model,        messages=messages,        temperature=0.75    )    print (response.choices [0].message.content)

想要嘗試的讀者可以跟著原項(xiàng)目進(jìn)行配置。如今,我們身處大模型時(shí)代,對于開發(fā)者而言,用一個(gè)統(tǒng)一的接口就能調(diào)用各種大模型,這給開發(fā)者們節(jié)省了大量的時(shí)間成本。

我們期待這種實(shí)用的開源項(xiàng)目越來越多,如果你有好的項(xiàng)目推薦,歡迎大家評論區(qū)留言。

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港