OneAPI - 大模型 API Token 管理系統(tǒng),支持超多模型
大家好,又見面了,我是 GitHub 精選君!
背景介紹
在使用各種大模型進(jìn)行開發(fā)時(shí),我們常常需要管理和分發(fā)各種 API key,這個(gè)過程通常比較繁瑣,而且容易出現(xiàn)各種問題,例如 key 泄露、使用不當(dāng)?shù)?。為了解決這些問題,開發(fā)者 songquanpeng 開發(fā)了一個(gè)名為 OneAPI 的開源項(xiàng)目,它是一個(gè) OpenAI 接口管理 & 分發(fā)系統(tǒng),支持多種大模型,可以用于二次分發(fā)管理 key,僅單可執(zhí)行文件,已打包好 Docker 鏡像,一鍵部署,開箱即用。
GitHub 開源項(xiàng)目 one-api 有超過 3.1k Star,以下是對(duì)應(yīng)的管理界面:
項(xiàng)目介紹
OneAPI 支持多種大模型,包括 OpenAI ChatGPT 系列模型、Anthropic Claude 系列模型、Google PaLM2 系列模型、百度文心一言系列模型、阿里通義千問系列模型、訊飛星火認(rèn)知大模型和智譜 ChatGLM 系列模型。它還支持配置鏡像以及眾多第三方代理服務(wù),例如 OpenAI-SB、API2D、OhMyGPT、AI Proxy、CloseAI 和自定義渠道,可以通過負(fù)載均衡的方式訪問多個(gè)渠道。此外,OneAPI 還支持 stream 模式,可以通過流式傳輸實(shí)現(xiàn)打字機(jī)效果。它支持多機(jī)部署,并且支持令牌管理和兌換碼管理,可以設(shè)置令牌的過期時(shí)間和額度,支持批量生成和導(dǎo)出兌換碼,可使用兌換碼為賬戶進(jìn)行充值。
如何使用
OneAPI 是一個(gè)非常易于使用的開源項(xiàng)目,它已經(jīng)打包好 Docker 鏡像,可以一鍵部署,開箱即用。如果你想手動(dòng)安裝,可以參考項(xiàng)目 README 中的安裝指南。
以下是該項(xiàng)目 Star 趨勢(shì)圖(代表項(xiàng)目的活躍程度):
更多項(xiàng)目詳情請(qǐng)查看如下鏈接。
開源項(xiàng)目地址:https://github.com/songquanpeng/one-api
開源項(xiàng)目作者:songquanpeng
以下是參與項(xiàng)目建設(shè)的所有成員:

關(guān)注我們,一起探索有意思的開源項(xiàng)目。
點(diǎn)擊如下卡片后臺(tái)回復(fù):加群,與技術(shù)極客們一起交流人工智能、開源項(xiàng)目,一起成長。
