gpt4all.unity
1.0.0
這是 gpt4all 的 Unity3d 綁定。它提供在本機電腦上運行的大型語言模型 (LLM) 的高效能推理。
此綁定使用過時版本的 gpt4all。它們不支援最新的模型架構和量化。這是我測試過的模型清單。有關更多信息,請檢查此問題。
主要特點:
支援的平台:
「mpt-7b-chat」模型,使用 M1 Pro 在 Macbook 上角色扮演矮人 NPC
複製此儲存庫並將其作為常規 Unity 專案開啟。它應該從 Unity 2019.4 LTS 開始運作。
或者,您可以將此儲存庫作為Unity Package新增至現有專案中。透過此 git URL 將其新增至您的 Unity 套件管理員:
https://github.com/Macoron/gpt4all.unity.git?path=/Packages/com.gpt4all.unity
您需要下載模型權重才能使用該庫。您可以在此處找到官方支援的 gpt4all 型號的完整列表及其下載連結。
有些模型不能用於商業項目或有其他限制。在您的專案中使用它們之前檢查它們的許可證。
下載模型後,將其放入StreamingAssets/Gpt4All
資料夾並更新LlmManager
元件中的路徑。
以下是我在 Unity 中測試過的模型:
待定
該項目已獲得 MIT 許可證的許可。
它使用 gpt4all 和 llama.cpp 的編譯函式庫,這些函式庫也在 MIT 許可下。
模型不包含在此存儲庫中。請聯絡原始模型創建者以了解有關其許可證的更多資訊。