aparentemente la gente todavía usa esto. Se lo agradezco, así que comenzaré a mejorar el repositorio principal nuevamente. Agregué algunos cambios.
Se agregaron tokens máximos a env, para kobold el máximo es 512, así que no pases de eso o obtendrás un error.
Ahora hay soporte para tokens de parada. Actualice sus .envs según el nuevo entorno de muestra. simplemente enumere las palabras que no desea que el bot diga divididas por,
El bot ahora dirá su nombre para mostrar y no su nombre de usuario.
Modifiqué el punto final y el historial de conversaciones para usar langchain y pronto agregaré soporte para oobabooga. Solo necesito agregar una línea para detectar qué API pones como punto final. (AGREGADO)
-Más por venir pronto..
Este bot de Discord utiliza LLM y tarjetas de personajes para charlas informales. El bot admite archivos JSON y tarjetas de taberna, ofreciendo la opción de actualizar automáticamente la imagen y el nombre del bot.
Tenga en cuenta que Discord solo permite cambiar el nombre de los bots dos veces por hora.
https://github.com/oobabooga/text-generación-webui#one-click-installers
Después de instalarlo, querrás ejecutarlo con el parámetro --api o seleccionarlo en la webui. Luego puede configurar el punto final .env como http://127.0.0.1:5000/ suponiendo que lo esté ejecutando localmente.
Actualmente, estos comandos son principalmente útiles para los desarrolladores. Si no los ve, use el comando /sync
para forzar su aparición.
Nombre del comando | Comando de barra diagonal | Más información |
---|---|---|
Comandos de sincronización | /sync | Fuerza que los comandos de barra diagonal aparezcan inmediatamente. |
Recargar diente | /reload | Recarga un engranaje específico en lugar de reiniciar todo. |
Regenerar último mensaje | /regenerate | Elimina el último mensaje y genera otro. |
Ventanas 11:
Ventanas 10: