llmkit

Llmkit - языковой модельный комплект

LLMKIT - это пакет Python, который упрощает взаимодействие с языковыми моделями (LLMS) и позволяет легко генерировать текстовые данные.

Функции

• Простой интерфейс : LLMKIT предоставляет простой интерфейс для взаимодействия с различными языковыми моделями.

• Пользовательские трансформаторы : вы можете создавать пользовательские трансформаторы для форматирования входных данных в подсказки и преобразовать текст, сгенерированный LLM в желаемый формат данных.

• Абстракция модели : LLMKIT абстрагирует детали выбора модели и обработки поставщиков.

Установка

Вы можете установить llmkit с помощью PIP:

pip install llm-stack-kit

Использование

 from llmkit import LLMKit

llm_kit = LLMKit ()

input_data = "Translate the following English text to French: 'Hello, World!'"

# Generate text using the default transformers
generated_text = llm_kit . generate_data ( input_data )

print ( "Generated Text:" , generated_text )

Конфигурация

Для более продвинутого использования и настройки вы можете создавать свои собственные трансформаторы и указать поставщиков моделей. На данный момент поддерживаются только два поставщика моделей: «Openai» и «Cloudflare». Вам нужно предоставить файл .env с OPENAI_API_KEY для OpenAI или CF_API_KEY и CF_ACCOUNT_ID для CloudFlare.

См. Пример пользовательского трансформатора для написания пользовательского трансформатора.

Документация

Комплексная документация будет доступна в ближайшее время.

Внося

Мы приветствуем вклад! Наше руководство взносов будет добавлено в ближайшее время.

Лицензия

LLMKIT распределяется по лицензии MIT. Смотрите лицензию для деталей.

Контакт

Если у вас есть какие -либо вопросы или предложения, не стесняйтесь обращаться к нам по адресу [email protected].