llmkit

Llmkit - kit de modelo de idioma

O LLMKIT é um pacote Python que simplifica a interação com os modelos de idiomas (LLMS) e permite gerar dados de texto com facilidade.

Características

• Interface simples : o LLMKIT fornece uma interface direta para interagir com vários modelos de idiomas.

• Transformadores personalizados : você pode criar transformadores personalizados para formatar dados de entrada em prompts e transformar o texto gerado por LLM no formato de dados desejado.

• Abstração do modelo : LLMKit abstrai os detalhes da seleção de modelos e manuseio de provedores.

Instalação

Você pode instalar o llmkit usando PIP:

pip install llm-stack-kit

Uso

 from llmkit import LLMKit

llm_kit = LLMKit ()

input_data = "Translate the following English text to French: 'Hello, World!'"

# Generate text using the default transformers
generated_text = llm_kit . generate_data ( input_data )

print ( "Generated Text:" , generated_text )

Configuração

Para uso e personalização mais avançados, você pode criar seus próprios transformadores e especificar provedores de modelos. Apenas dois provedores de modelos são suportados por enquanto: "Openai" e "Cloudflare". Você precisa fornecer um arquivo .env com OPENAI_API_KEY para OpenAI ou CF_API_KEY e CF_ACCOUNT_ID para Cloudflare.

Consulte o Exemplo de transformador personalizado para escrever um transformador personalizado.

Documentação

A documentação abrangente será disponibilizada em breve.

Contribuindo

Congratulamo -nos com contribuições! Nossa diretriz de contribuições será adicionada em breve.

Licença

O LLMKIT é distribuído sob a licença do MIT. Consulte a licença para obter detalhes.

Contato

Se você tiver alguma dúvida ou sugestão, sinta -se à vontade para entrar em contato conosco em [email protected].