中文| English
多平台模型接入,可擴展,多種輸出格式,提供大語言模型聊天服務的機器人插件。
項目狀態:穩步迭代到1.0 正式版(目前已進入Release Candidate 階段)
預設 | 插件模式& 流式輸出 | 圖像渲染輸出 |
---|---|---|
我們可在Koishi 下直接安裝本插件使用基礎功能而無需額外配置。
閱讀此文檔了解更多。
我們目前支持以下模型/平台:
模型/平台 | 接入方式 | 特性 | 注意事項 |
---|---|---|---|
OpenAI | 本地Client,官方API 接入 | 可自定義人格,支持插件/瀏覽模式等聊天模式 | API 接入需要付費 |
Azure OpenAI | 本地Client,官方API 接入 | 可自定義人格,支持插件/瀏覽模式等聊天模式 | API 接入需要付費 |
Google Gemini | 本地Client,官方API 接入 | 速度快,性能超越GPT-3.5 | 需要有Gemini 訪問權限賬號,可能收費 |
Claude API | 本地Client,官方API 接入 | 超大上下文,大部分情況下能超過GPT 3.5,需要API KEY,收費 | 可能較貴,不支持Function Call |
通義千問 | 本地Client,官方API 接入 | 阿里出品國產模型,有免費額度 | 實測效果比智譜略好 |
智譜 | 本地Client,官方API 接入 | ChatGLM,新人註冊可獲取免費Token 額度 | 實測效果比訊飛星火略好 |
訊飛星火 | 本地Client,官方API 接入 | 國產模型,新人註冊可獲取免費Token 額度 | 實測效果約等於GPT 3.5 |
文心一言 | 本地Client,官方API 接入 | 百度出品系列模型模型 | 實測效果比訊飛星火略差 |
混元大模型 | 本地Client,官方API 接入 | 騰訊出品系列大模型 | 實測效果比文心一言好 |
Ollama | 本地Client,自搭建API 接入 | 知名開源模型合集,支持CPU / GPU 混合部署,可本地搭建 | 需要自己搭建後端API,要求一定的配置 |
GPT Free | 本地Client,官方API 接入 | 本地轉發使用其他網站的GPT 模型,項目自動配置網站等配置,無需手動註冊 | 可能隨時失效,不穩定 |
ChatGLM | 本地Client,自搭建後端API 接入 | 可本地搭建,四捨五入不要錢 | 需要自己搭建後端API,要求一定的配置,模型參數不夠大導致聊天效果不夠好 |
RWKV | 本地Client,自搭建API 接入 | 知名開源模型,可本地搭建 | 需要自己搭建後端API,要求一定的配置 |
為模型提供網絡搜索能力我們支持:
從1.0.0-alpha.10
版本開始,我們使用更加可定制化的預設。新的人格預設使用yaml 做為配置文件。
你可以點這裡來查看我們默認附帶的人格文件:catgirl.yml
我們默認的預設文件夾路徑為你当前运行插件的koishi 目录的路径+/data/chathub/presets
。
所有的預設文件都是從上面的文件夾上加載的。因此你可以自由添加和編輯預設文件在這個文件夾下,然後使用命令來切換人格預設。
如需了解更多,可查看此文檔。
在任意Koishi 模版項目上運行下列指令來克隆ChatLuna:
# yarn
yarn clone ChatLunaLab/chatluna
# npm
npm run clone ChatLunaLab/chatluna
可將上面ChatLunaLab/chatluna-koishi
替換成你自己Fork 後的項目地址。
然後編輯模版項目根目錄下的tsconfig.json
文件,在compilerOptions.paths
中添加ChatLuna 項目路徑。
{
"extends" : " ./tsconfig.base " ,
"compilerOptions" : {
"baseUrl" : " . " ,
"paths" : {
"koishi-plugin-chatluna-*" : [ " external/chatluna/packages/*/src " ]
}
}
}
由於項目本身比較複雜,初始使用必須構建一次。
# yarn
yarn workspace @root/chatluna-koishi build
# npm
npm run build -w @root/chatluna-koishi
完成!現在即可在根項目中使用yarn dev
或npm run dev
啟動模版項目並二次開發ChatLuna。
雖然Koishi 支持模塊熱替換(hmr),但本項目可能並未完全兼容。
如果你在使用hmr 二次開發本項目時出現了Bug,請在Issue 中提出,並按上面步驟重新構建項目並重啟Koishi 以嘗試修復。
目前ChatLuna 項目組產能極為稀缺,沒有更多產能來完成下面的目標:
歡迎提交Pull Request 或進行討論,我們非常歡迎您的貢獻!
本項目由ChatLunaLab 開發。
ChatLuna(下稱本項目) 是一個基於大型語言模型的對話機器人框架。我們致力於與開源社區合作,推動大模型技術的發展。我們強烈呼籲開發者和其他使用者遵守開源協議,確保不將本項目(以及社區推動的基於本項目的其他衍生產品)的框架和代碼以及相關衍生物用於可能對國家和社會造成危害的任何目的,以及未經過安全評估和備案的服務。
本項目不直接提供任何生成式人工智能服務的支持,需要使用者自行從提供了生產式人工智能服務的組織或個人獲取使用的算法API。
如果您使用了本項目,請您遵循當地地區的法律法規,使用在當地地區內可用的生產式人工智能服務算法。
本項目不對算法生成的結果負責,所有結果和操作均由使用者自行負責。
本項目的相關信息存儲均由用戶自行配置來源,項目本身不提供直接的信息存儲。
本項目不承擔使用者導致的數據安全、輿情風險或發生任何模型被誤導、濫用、傳播、不當利用而產生的風險和責任。
本項目在編寫時也參考了其他的開源項目,特別感謝以下項目:
koishi-plugin-openai
node-chatgpt-api
poe-api
Bard
chathub
另感謝JetBrains 為本項目提供WebStorm 等IDE 的免費開源許可證。