python tgpt
v0.8.1
>>> импортируйте pytgpt.phind как phind>>> bot = phind.PHIND()>>> bot.chat('привет')'Привет! Чем я могу вам помочь сегодня?из pytgpt.image import Imagerimg = Imager()generated_images = img.generate(prompt="Cyberpunk", sum=3,stream=True)img.save(generated_images)
Этот проект обеспечивает беспрепятственное взаимодействие с более чем 45 бесплатными поставщиками LLM без необходимости использования ключа API и создания изображений.
Название python-tgpt взято из родительского проекта tgpt, который работает на Golang. Благодаря этой адаптации Python пользователи могут легко взаимодействовать с рядом доступных бесплатных LLM, обеспечивая более плавное взаимодействие с искусственным интеллектом.
? Пакет Python
FastAPI для веб-интеграции
⌨️ Интерфейс командной строки
? Несколько поставщиков LLM – 45+
? Потоковый и непоточный ответ
Готов к использованию (ключ API не требуется)
Настраиваемое создание и выполнение скриптов
? Офлайн-поддержка больших языковых моделей
? Возможности создания изображений
? Возможности преобразования текста в аудио
⛓️ Связанные запросы через прокси
?️ Улучшенный диалоговый чат.
? Возможность сохранять подсказки и ответы (Разговор)
Возможность загрузки предыдущих разговоров
Легко передавайте запросы Awesome-chatgpt
? Telegram-бот - интерфейс
Асинхронная поддержка всех основных операций.
Это просто хосты LLM, в их число входят:
Финд
Растерянность
Блэкбоксай
Коболдай
Ai4chat
gpt4all (офлайн)
Poe — Poe|Quora (требуется идентификатор сеанса)
Groq (требуется ключ API)
OpenAI (требуется ключ API)
Более 41 провайдера, которых с гордостью предлагает gpt4free.
Чтобы просмотреть список работающих провайдеров, выполните:
$ pytgpt gpt4free тест -y
Питон>=3.10
Разработчики:
pip install --upgrade python-tgpt
Командная строка:
pip install --upgrade "python-tgpt[cli]"
Полная установка:
pip install --upgrade "python-tgpt[all]"
pip install -U "python-tgt[api]"установит зависимости REST API.
Разработчики:
pip install --upgrade "python-tgpt[termux]"
Командная строка:
pip install --upgrade "python-tgpt[termux-cli]"
Полная установка:
pip install --upgrade "python-tgpt[termux-all]"
pip install -U "python-tgt[termux-api]"установит зависимости REST API
Этот пакет предлагает удобный интерфейс командной строки.
Примечание
phind является поставщиком по умолчанию.
Для быстрого ответа:
python -m pytgpt сгенерировать «<Ваше приглашение>»
Для интерактивного режима:
python -m pytgpt интерактивный "<Приглашение к началу работы (хотя и не обязательно)>"
Используйте флаг --provider , за которым следует имя поставщика по вашему выбору. например --provider koboldai
Чтобы вывести список всех поставщиков, предлагаемых gpt4free, используйте следующие команды:
pytgpt gpt4free list providers
Вы также можете просто использовать pytgpt вместо python -m pytgpt .
Начиная с версии 0.2.7, запуск $ pytgpt без какой-либо другой команды или параметра автоматически перейдет в interactive режим. В противном случае вам придется явно объявить желаемое действие, например, запустив $ pytgpt generate .
Создайте быстрый ответ
из pytgpt.phind import PHINDbot = PHIND()resp = bot.chat('<Ваше приглашение>')print(resp)# Вывод: Чем я могу вам помочь сегодня?Вернуть весь ответ
из pytgpt.phind import PHINDbot = PHIND()resp = bot.chat('<Ваше приглашение>')print(resp)# Output"""{'id': 'chatcmpl-gp6cwu2e5ez3ltoyti4z', 'object': 'chat. завершение.chunk', 'создано': 1731257890, 'модель': 'phind-instant-llama-3_1-08-31-2024-checkpoint-1500', 'choices': [{'index': 0, 'delta': {'content': "Привет! Я помощник искусственного интеллекта, созданный Phind для помощи в решении задач по программированию. Чем я могу вам помочь сегодня?"}, 'finish_reason': None}]}""" Просто добавьте stream параметров со значением true .
Только созданный текст
из pytgpt.phind import PHINDbot = PHIND()response = bot.chat('hello',stream=True)для фрагмента в ответе:print(chunk)# output"""HelloHello!Hello! HowHello! Как можноHello! Как можно IHello ! Чем я могу вам помочь? Привет! Как я могу вам помочь? Привет! Как я могу вам помочь сегодня? """Полный ответ
из pytgpt.phind import PHINDbot = PHIND()resp = bot.ask('<Your Prompt>',stream=True)для значения в resp:print(value)# Output"""{'id': 'chatcmpl-icz6a4m1nbbclw9hhgol ', 'объект': 'chat.completion.chunk', 'создано': 1731258032, 'модель': 'phind-instant-llama-3_1-08-31-2024-checkpoint-1500', 'выбор': [{'index': 0, 'delta': {'content': 'Привет'}, 'finish_reason': None}]}{'id': 'chatcmpl-icz6a4m1nbbclw9hhgol', 'object': 'chat.completion.chunk', 'создано': 1731258032, 'модель': 'phind-instant-llama-3_1-08-31-2024-checkpoint-1500', 'выбор': [{'index': 0, 'delta': {'content': "Привет! Я ИИ"}, 'finish_reason': None}]}{'id': 'chatcmpl-icz6a4m1nbbclw9hhgol', 'object': 'chat.completion.chunk', 'created': 1731258032, 'model': ' phind-instant-llama-3_1-08-31-2024-checkpoint-1500', 'choices': [{'index': 0, 'delta': {'content': "Привет! Я помощник искусственного интеллекта, созданный Phind для помощи в кодировании и технических задачах. How"}, 'finish_reason': None}]}{'id': 'chatcmpl-icz6a4m1nbbclw9hhgol', 'object': 'chat.completion.chunk', 'created': 1731258032, 'model': 'phind-instant- llama-3_1-08-31-2024-checkpoint-1500', 'choices': [{'index': 0, 'delta': {'content': "Привет! Я помощник искусственного интеллекта, созданный Phind для помощи в кодировании и технических задачах. Чем я могу вам помочь сегодня?"}, 'finish_reason': None}]}""" import pytgpt.auto import autobot = auto.AUTO()print(bot.chat("<Ваша подсказка>")) импортируйте pytgpt.openai как openaibot = openai.OPENAI("<OPENAI-API-KEY>")print(bot.chat("<Ваше-подсказка>")) импортируйте pytgpt.koboldai как koboldaibot = koboldai.KOBOLDAI()print(bot.chat("<Ваша подсказка>")) импортируйте pytgpt.phind как phindbot = phind.PHIND()print(bot.chat("<Ваша подсказка>")) импортируйте pytgpt.perplexity как perplexitybot = perplexity.PERPLEXITY()print(bot.chat("<Ваша подсказка>")) импортируйте pytgpt.blackboxai как blackboxaibot = blackboxai.BLACKBOXAI()print(bot.chat("<Ваша подсказка>")) импортируйте pytgpt.gpt4free как gpt4freebot = gpt4free.GPT4FREE(provider="Koala")print(bot.chat("<Ваша подсказка>"))Версия 0.7.0 представляет асинхронную реализацию практически для всех поставщиков, за исключением некоторых, таких как perplexity , которая опирается на другие библиотеки, в которых отсутствует такая реализация.
Чтобы упростить задачу, вам просто нужно добавить префикс Async к общему имени синхронного класса. Например, доступ к PHIND будет осуществляться как AsyncPHIND :
import asynciofrom pytgpt.phind import AsyncPHINDasync def main():async_ask = await AsyncPHIND(False).ask("Критика, что Python - это круто.",stream=True)async для потокового_ответа в async_ask:print(streaming_response)asyncio.run(main ()
) import asynciofrom pytgpt.phind import AsyncPHINDasync def main():async_ask = await AsyncPHIND(False).chat("Критика, что Python - это круто.",stream=True)async для потокового_текста в async_ask:print(streaming_text)asyncio.run(main ()
) Чтобы получить более персонализированные ответы, рассмотрите возможность использования оптимизаторов с помощью параметра optimizer . Его значения могут быть установлены как code или system_command .
из pytgpt.phind import PHINDbot = PHIND()resp = bot.ask('<Ваша подсказка>',оптимизатор='код')print(resp)Важный
Начиная с версии 0.1.0, режим взаимодействия по умолчанию — диалоговый. Этот режим расширяет возможности интерактивного взаимодействия, предлагая лучший контроль над историей чата. Связывая предыдущие подсказки и ответы, он делает разговор более интересным.
Вы все еще можете отключить этот режим:
bot = koboldai.KOBOLDAI(is_conversation=False)
Используйте флаг --disable-conversation в консоли для достижения той же функциональности.
Это стало возможным благодаря pollinations.ai.
$ pytgpt imager "<prompt>"# например pytgpt imager "Coding bot"
из pytgpt.image import Imagerimg = Imager()generated_img = img.generate('Coding bot') # [bytes]img.save(generated_img) из pytgpt.image import Imagerimg = Imager()img_generator = img.generate('Coding bot', sum=3,stream=True)img.save(img_generator)# для оперативной памяти из pytgpt.image import Prodiaimg = Prodia()img_generator = img.generate('Coding bot', sum=3,stream=True)img.save(img_generator) Функциональность generate была расширена, начиная с версии 0.3.0, чтобы обеспечить всестороннее использование опции --with-copied и поддержку приема входных данных по конвейеру. Это улучшение вводит заполнители, предлагающие динамические значения для более универсального взаимодействия.
| Заполнитель | Представляет |
|---|---|
{{stream}} | Трубопроводный вход |
{{copied}} | Последний скопированный текст |
Эта функция особенно полезна для сложных операций. Например:
$ git разницы | pytgpt генерировать "Вот файл различий: {{stream}} Сделайте из него краткое сообщение о фиксации, соответствующее моей истории сообщений о фиксации: {{copied}}" --newНа этом рисунке
{{stream}}обозначает результат операции$ git diff, а{{copied}}обозначает содержимое, скопированное из выходных данных команды$ git log.
Эти подсказки предназначены для того, чтобы направлять поведение или реакции ИИ в определенном направлении, побуждая его проявлять определенные характеристики или поведение. Термин «потрясающая подсказка» не является формальным термином в литературе по искусственному интеллекту или машинному обучению, но он воплощает в себе идею создания подсказок, которые эффективны для достижения желаемых результатов. Допустим, вы хотите, чтобы он вел себя как терминал Linux , интерпретатор PHP или просто JAIL BREAK.
Экземпляры:
$ pytgpt интерактивный --awesome-prompt "Терминал Linux"# Действовать как терминал Linux$ pytgpt интерактивный -ap DAN# Побег из тюрьмы
Примечание
Потрясающие подсказки являются альтернативой --intro . Запустите $ pytgpt awesome whole , чтобы просмотреть доступные запросы ( 200+ ). Запустите $ pytgpt awesome --help для получения дополнительной информации.
RawDog — это шедевральная функция, которая использует универсальные возможности Python для управления вашей системой и управления ею в соответствии с вашими потребностями. Вы можете делать с ним буквально все, поскольку он генерирует и выполняет коды Python, управляемые вашими подсказками ! Чтобы попробовать rawdog, просто добавьте флаг --rawdog Shortform -rd в режиме генерации/интерактивном режиме. Это представляет невиданную ранее функцию в экосистеме tgpt . Спасибо AbanteAI/rawdog за идею.
Это может быть полезно в некотором смысле. Например :
$ pytgptgenerate -n -q "Визуализируйте использование диска с помощью круговой диаграммы" --rawdog
Появится всплывающее окно, показывающее использование системного диска, как показано ниже.
Pytgpt v0.4.6 представляет традиционный способ получения переменных из среды. Для этого установите переменные среды в вашей операционной системе или скрипте с префиксом PYTGPT_ за которым следует имя параметра в верхнем регистре, заменяя тире подчеркиванием.
Например, для параметра --provider вы должны установить переменную среды PYTGPT_PROVIDER чтобы указать значение по умолчанию для этого параметра. Тот же случай применим к логическим флагам, таким как --rawdog , переменная среды которого будет PYTGPT_RAWDOG со значением true/false . Наконец, --awesome-prompt примет переменную среды PYTGPT_AWESOME_PROMPT .
Примечание
Это НЕ ограничивается какой-либо командой
Переменные среды можно переопределить, явно объявив новое значение.
Кончик
Сохраните переменные в файле .env в вашем текущем каталоге или экспортируйте их в файл ~/.zshrc . Чтобы загрузить предыдущие разговоры из файла .txt , используйте флаг -fp или --filepath . Если флаг не передан, будет использоваться флаг по умолчанию. Чтобы загрузить контекст из файла, не изменяя его содержимое, используйте флаг --retain-file .
Версия 0.4.6 также представляет динамический поставщик под названием g4fauto , который представляет собой самый быстродействующий поставщик на основе g4f.
Кончик
Чтобы запустить веб-интерфейс для провайдеров на основе g4f, просто запустите $ pytgpt gpt4free gui . $ pytgpt api run запустит REST-API. Доступ к документам и Redoc осуществляется в /docs и /redoc соответственно. Чтобы запустить веб-интерфейс для провайдеров на основе g4f, выполните в своем терминале следующую команду:
$ pytgpt gpt4free графический интерфейс
Эта команда инициализирует веб-интерфейс пользователя для взаимодействия с провайдерами на базе g4f.
Чтобы запустить REST-API:
$ pytgpt запуск API
Эта команда запускает сервер RESTful API, позволяя вам программно взаимодействовать со службой.
Для доступа к документации и Redoc перейдите по следующим путям в веб-браузере:
Документация: /docs
Редок: /redoc
Чтобы включить речевой синтез ответов, убедитесь, что в вашей системе установлен либо проигрыватель VLC, либо, если вы являетесь пользователем Termux, пакет Termux:API.
Чтобы активировать синтез речи, используйте флаг --talk-to-me или его сокращение -ttm при запуске команд. Например:
$ pytgptgenerate "Создать историю огра" --talk-to-me
или
$ pytgpt интерактивный -ttm
Этот флаг предписывает системе озвучивать ответы искусственного интеллекта, а затем воспроизводить их, улучшая взаимодействие с пользователем за счет звуковой обратной связи.
В версии 0.6.4 представлен еще один динамический провайдер, auto , который обозначает общий рабочий провайдер. Это избавит вас от необходимости вручную проверять работающий провайдер каждый раз, когда вы запускаете pytgpt. Однако auto как провайдер не так хорошо работает с потоковыми ответами, поэтому, вероятно, вам придется пожертвовать производительностью ради надежности.
Если вас не устраивают существующие интерфейсы, pytgpt-bot может стать тем решением, которое вы ищете. Этот бот создан для улучшения вашего опыта, предлагая широкий спектр функций. Если вы заинтересованы в общении с помощью искусственного интеллекта, создании изображений и аудио из текста или изучении других инновационных функций, pytgpt-bot оснащен всем необходимым для удовлетворения ваших потребностей.
Бот поддерживается как отдельный проект, поэтому вам просто нужно выполнить команду, чтобы его установить:
$ pip install pytgpt-bot
Использование: pytgpt bot run <bot-api-token>
Или вы можете просто взаимодействовать с тем, который сейчас работает, как @pytgpt-bot.
Для получения дополнительной информации об использовании запустите $ pytgpt --help
Usage: pytgpt [OPTIONS] COMMAND [ARGS]... Options: -v, --version Show the version and exit. -h, --help Show this message and exit. Commands: api FastAPI control endpoint awesome Perform CRUD operations on awesome-prompts bot Telegram bot interface control generate Generate a quick response with AI gpt4free Discover gpt4free models, providers etc imager Generate images with pollinations.ai interactive Chat with AI interactively (Default) utils Utility endpoint for pytgpt
| Нет. | API | Статус |
|---|---|---|
| 1. | При рендеринге | cron-задание |
тгпт
gpt4free
