видимо люди до сих пор этим пользуются. Я ценю это, поэтому снова начну улучшать основной репозиторий. Я добавил несколько изменений.
добавлено максимальное количество токенов в env, для кобольдов максимальное значение равно 512, так что не превышайте это значение, иначе вы получите ошибку
Теперь есть поддержка стоп-токенов. Обновите свой .envs на основе нового образца env. просто перечислите слова, которые вы не хотите, чтобы бот произносил, разделив их на ,
бот теперь будет произносить ваше отображаемое имя, а не имя пользователя.
Я изменил конечную точку и историю разговоров, чтобы использовать langchain, и вскоре добавлю поддержку oobabooga. мне просто нужно добавить строку, чтобы определить, какой API вы указали в качестве конечной точки. (ДОБАВЛЕН)
-скоро будет еще..
Этот бот Discord использует LLM и карточки персонажей для повседневного общения. Бот поддерживает файлы JSON и карточки таверн, предлагая возможность автоматического обновления изображения и имени бота.
Обратите внимание, что Discord позволяет переименовывать ботов только два раза в час.
https://github.com/oobabooga/text-generation-webui#one-click-installers
после установки вам нужно будет запустить его с параметром --api или выбрать его в webui. Затем вы можете установить конечную точку .env как http://127.0.0.1:5000/, предполагая, что вы запускаете ее локально.
В настоящее время эти команды в первую очередь полезны для разработчиков. Если вы их не видите, используйте команду /sync
чтобы заставить их появиться.
Имя команды | Слэш-команда | Дополнительная информация |
---|---|---|
Команды синхронизации | /sync | Принудительно вызывает немедленное появление команд косой черты. |
Перезагрузить шестеренку | /reload | Перезагружает конкретный процессор вместо перезапуска всего. |
Восстановить последнее сообщение | /regenerate | Удаляет последнее сообщение и генерирует другое. |
Windows 11:
Windows 10: