OptimAI python

OptimAI

OptimAI é um módulo Python poderoso projetado para otimizar seu código analisando seu desempenho e fornecendo sugestões práticas. Ele aproveita um modelo de linguagem grande (LLM) para fornecer insights e recomendações detalhadas com base nos dados de criação de perfil coletados durante a execução do seu código. Este módulo suporta vários tipos de criadores de perfil do pacote perfwatch.

Características

• Decoradores personalizados para otimizar funções com facilidade.
• Integração com perfwatch para criação de perfil de desempenho.
• Capture e analise stdout, tempo de execução de função, uso de rede, chamadas de função, uso de CPU/GPU, etc. usando perfwatch.
• Integração perfeita com vários LLMs para sugestões de otimização de código.
• Suporte para OpenAI, Google Gemini, HuggingFace (offline), ollama e Anthropic.
• Solicitações otimizadas para melhor desempenho em qualquer LLM usando dspy

Instalação

Você pode instalar o OptimAI usando pip:

pip install optimizeai

Configurar

Para usar o OptimAI, você precisa configurá-lo com seu provedor LLM preferido e chave de API. Os provedores de LLM suportados incluem Google (modelos Gemini), OpenAI, Ollama, HuggingFace e Anthropic. Para o Ollama você precisa ter o Ollama instalado e os artefatos do modelo também precisam ser baixados previamente.

1. Selecione o provedor LLM :

   • Para modelos Google Gemini: llm = "google"
   • Para modelos OpenAI: llm = "openai"
   • Para Hugging Face off-line: llm = "huggingface"
   • Para modelos antrópicos: llm = "anthropic"
   • Para modelos Ollama locais: llm = "ollama"

2. Escolha o modelo :

   • Exemplo: model = "gpt-4" , model = "gemini-1.5-flash" , model = "codegemma" ou qualquer outro modelo específico para o provedor LLM escolhido.

3. Defina a chave API :

   • Use a chave de API correspondente para o provedor LLM selecionado. Nenhuma chave de API é necessária para Huggingface Inference e Ollama locais.

Código de exemplo

Aqui está um exemplo básico que demonstra como usar o OptimAI para otimizar uma função:

 from optimizeai . decorators . optimize import optimize
from optimizeai . config import Config
from dotenv import load_dotenv
import time
import os

# Load environment variables
load_dotenv ()
llm = os . getenv ( "LLM" )
key = os . getenv ( "API_KEY" )
model = os . getenv ( "MODEL" )

# Configure LLM
llm_config = Config ( llm = llm , model = model , key = key )
perfwatch_params = [ "line" , "cpu" , "time" ]

# Define a test function to be optimized
@ optimize ( config = llm_config , profiler_types = perfwatch_params )
def test ():
    for _ in range ( 10 ):
        time . sleep ( 0.1 )
        print ( "Hello World!" )
        pass

if __name__ == "__main__" :
    test ()

Configurando variáveis ​​de ambiente

Você pode definir as variáveis ​​de ambiente ( LLM , API_KEY , MODEL ) em um arquivo .env para facilitar o uso:

 LLM=google
API_KEY=your_google_api_key
MODEL=gemini-1.5-flash

Próximos recursos

• Contexto aprimorado para otimização de código : aprimore o contexto fornecido ao LLM para recomendações de otimização mais precisas e relevantes.
• Geração de relatório : O relatório de otimização adequado será gerado.
• Suporte para uma configuração melhor : Está chegando um suporte de configuração melhor, por meio do qual você pode definir vários parâmetros llm.

Contribuindo

Aceitamos contribuições para OptimAI! Se você tiver uma ideia para um novo recurso ou encontrou um bug, abra um problema no GitHub. Se você quiser contribuir com código, bifurque o repositório e envie uma solicitação pull.

Passos para contribuir

1. Bifurque o repositório.
2. Crie uma nova ramificação ( git checkout -b feature-branch ).
3. Faça suas alterações.
4. Confirme suas alterações ( git commit -m 'Add new feature' ).
5. Empurre para o branch ( git push origin feature-branch ).
6. Abra uma solicitação pull.

Licença

OptimAI é licenciado sob a licença MIT. Consulte o arquivo LICENSE para obter mais detalhes.