gpt4all.unity
1.0.0
Estos son los enlaces de Unity3d para gpt4all. Proporciona inferencia de alto rendimiento de modelos de lenguaje grandes (LLM) que se ejecutan en su máquina local.
Estos enlaces utilizan una versión desactualizada de gpt4all. No admiten arquitecturas ni cuantificación de los últimos modelos. Aquí hay una lista de modelos que he probado. Para obtener más información, consulte este problema.
Características principales:
Plataformas compatibles:
Modelo "mpt-7b-chat", NPC enano de rol en Macbook con M1 Pro
Clona este repositorio y ábrelo como un proyecto normal de Unity. Debería funcionar a partir de Unity 2019.4 LTS.
Alternativamente, puede agregar este repositorio a su proyecto existente como un paquete Unity . Agréguelo mediante esta URL de git a su Administrador de paquetes de Unity:
https://github.com/Macoron/gpt4all.unity.git?path=/Packages/com.gpt4all.unity
Necesitará descargar los pesos del modelo para poder utilizar esta biblioteca. Puede encontrar la lista completa de modelos gpt4all oficialmente compatibles y sus enlaces de descarga aquí.
Algunos modelos no se pueden utilizar para proyectos comerciales o tienen otras restricciones. Verifique sus licencias antes de usarlas en su proyecto.
Después de descargar el modelo, colóquelo en la carpeta StreamingAssets/Gpt4All y actualice la ruta en el componente LlmManager .
Aquí hay modelos que he probado en Unity:
Por determinar
Este proyecto está bajo la licencia MIT.
Utiliza bibliotecas compiladas de gpt4all y llama.cpp que también están bajo licencia MIT.
Los modelos no están incluidos en este repositorio. Comuníquese con los creadores de modelos originales para obtener más información sobre sus licencias.
