infinigpt matrix
1.0.0
InfiniGPT es un chatbot OpenAI para el protocolo de chat Matrix. Tiene un gran mensaje que le permite interpretar casi cualquier cosa que se te ocurra. Puede establecer cualquier personalidad predeterminada que desee. Se puede cambiar en cualquier momento y cada usuario tiene su propio historial de chat independiente con la configuración de personalidad elegida. Los usuarios pueden interactuar con los historiales de chat de los demás para colaborar si lo desean, pero de lo contrario, las conversaciones se separan por canal y por usuario.
También disponible para IRC en infinigpt-irc
Ahora con soporte de Ollama y cambio de modelo.
pip3 install matrix-nio openai
Obtenga una clave API de OpenAI y configúrela como variable de entorno como OPENAI_API_KEY. Hay un lugar para configurar la variable de entorno en el código si desea usarla en su lugar.
Agregue los modelos de Ollama que desee a la lista de modelos en config.json, si los usa. Primero deberá instalar y familiarizarse con Ollama, asegurarse de poder ejecutar LLM locales, etc. Si no puede, no se preocupe, simplemente puede omitir estos modelos de la configuración.
Puedes instalarlo y actualizarlo con este comando:
curl https://ollama.ai/install.sh | sh
Una vez que esté todo configurado, deberá descargar los modelos que desea utilizar. Puedes jugar con los disponibles y ver cuál funciona mejor para ti. Agréguelos al archivo config.json. Si desea utilizar los que he incluido, simplemente ejecute ollama pull modelname para cada uno.
Configure una cuenta Matrix para su bot. Necesitará el servidor, nombre de usuario y contraseña.
Agréguelos al archivo config.json.
python3 infinigpt.py
.ai mensaje o nombre del bot: mensaje Uso básico. La personalidad está preestablecida por el operador del bot.
.x mensaje de usuario Esto le permite hablar con el historial de chat de otro usuario. usuario es el nombre para mostrar del usuario cuyo historial desea utilizar
.persona personalidad Cambia la personalidad. Puede ser un personaje, tipo de personalidad, objeto, idea. No utilice un mensaje personalizado aquí.
.mensaje personalizado Permite el uso de un mensaje personalizado del sistema en lugar del integrado
.reset Restablecer la personalidad preestablecida
.stock Eliminar personalidad y restablecer la configuración estándar de GPT
.model Lista de modelos de lenguaje grandes disponibles
.model nombre del modelo Cambiar modelo
.model reset Restablecer modelo
.help Muestra el menú de ayuda integrado
