OptimAI python

OptimAI

OptimAI ist ein leistungsstarkes Python-Modul, das zur Optimierung Ihres Codes entwickelt wurde, indem es seine Leistung analysiert und umsetzbare Vorschläge liefert. Es nutzt ein großes Sprachmodell (LLM), um Ihnen detaillierte Einblicke und Empfehlungen basierend auf den Profilierungsdaten zu geben, die während der Ausführung Ihres Codes gesammelt werden. Dieses Modul unterstützt verschiedene Arten von Profilern aus dem Paket perfwatch.

Merkmale

• Benutzerdefinierte Dekoratoren zur einfachen Optimierung von Funktionen.
• Integration mit perfwatch zur Leistungsprofilerstellung.
• Erfassen und analysieren Sie Standardausgabe, Funktionsausführungszeit, Netzwerknutzung, Funktionsaufrufe, CPU-/GPU-Auslastung usw. mit perfwatch.
• Nahtlose Integration mit verschiedenen LLMs für Code-Optimierungsvorschläge.
• Unterstützung für OpenAI, Google Gemini, HuggingFace (offline), Ollama und Anthropic.
• Optimierte Eingabeaufforderungen für beste Leistung auf jedem LLM mit dspy

Installation

Sie können OptimAI mit pip installieren:

pip install optimizeai

Aufstellen

Um OptimAI verwenden zu können, müssen Sie es mit Ihrem bevorzugten LLM-Anbieter und API-Schlüssel konfigurieren. Zu den unterstützten LLM-Anbietern gehören Google (Gemini-Modelle), OpenAI, Ollama, HuggingFace und Anthropic. Für Ollama muss Ollama installiert sein und die Modellartefakte müssen ebenfalls zuvor heruntergeladen werden.

1. Wählen Sie den LLM-Anbieter aus :

   • Für Google Gemini-Modelle: llm = "google"
   • Für OpenAI-Modelle: llm = "openai"
   • Für Hugging Face offline: llm = "huggingface"
   • Für anthropische Modelle: llm = "anthropic"
   • Für lokale Ollama-Modelle: llm = "ollama"

2. Wählen Sie das Modell :

   • Beispiel: model = "gpt-4" , model = "gemini-1.5-flash" , model = "codegemma" oder jedes andere Modell, das für den ausgewählten LLM-Anbieter spezifisch ist.

3. Legen Sie den API-Schlüssel fest :

   • Verwenden Sie den entsprechenden API-Schlüssel für den ausgewählten LLM-Anbieter. Für lokale Huggingface-Inferenz und Ollama ist kein API-Schlüssel erforderlich.

Beispielcode

Hier ist ein einfaches Beispiel, das zeigt, wie man OptimAI zur Optimierung einer Funktion verwendet:

 from optimizeai . decorators . optimize import optimize
from optimizeai . config import Config
from dotenv import load_dotenv
import time
import os

# Load environment variables
load_dotenv ()
llm = os . getenv ( "LLM" )
key = os . getenv ( "API_KEY" )
model = os . getenv ( "MODEL" )

# Configure LLM
llm_config = Config ( llm = llm , model = model , key = key )
perfwatch_params = [ "line" , "cpu" , "time" ]

# Define a test function to be optimized
@ optimize ( config = llm_config , profiler_types = perfwatch_params )
def test ():
    for _ in range ( 10 ):
        time . sleep ( 0.1 )
        print ( "Hello World!" )
        pass

if __name__ == "__main__" :
    test ()

Umgebungsvariablen festlegen

Zur einfacheren Verwendung können Sie die Umgebungsvariablen ( LLM , API_KEY , MODEL ) in einer .env Datei festlegen:

 LLM=google
API_KEY=your_google_api_key
MODEL=gemini-1.5-flash

Kommende Funktionen

• Verbesserter Kontext für die Codeoptimierung : Verbessern Sie den dem LLM bereitgestellten Kontext für genauere und relevantere Optimierungsempfehlungen.
• Berichtserstellung : Es wird ein ordnungsgemäßer Optimierungsbericht erstellt.
• Unterstützung für eine bessere Konfiguration : Es kommt eine bessere Konfigurationsunterstützung, mit der Sie verschiedene LLM-Parameter festlegen können.

Mitwirken

Wir freuen uns über Beiträge zu OptimAI! Wenn Sie eine Idee für eine neue Funktion haben oder einen Fehler gefunden haben, öffnen Sie bitte ein Issue auf GitHub. Wenn Sie Code beisteuern möchten, forken Sie bitte das Repository und senden Sie eine Pull-Anfrage.

Schritte zum Mitwirken

1. Forken Sie das Repository.
2. Erstellen Sie einen neuen Zweig ( git checkout -b feature-branch ).
3. Nehmen Sie Ihre Änderungen vor.
4. Übernehmen Sie Ihre Änderungen ( git commit -m 'Add new feature' ).
5. Push zum Zweig ( git push origin feature-branch ).
6. Öffnen Sie eine Pull-Anfrage.

Lizenz

OptimAI ist unter der MIT-Lizenz lizenziert. Weitere Einzelheiten finden Sie in der LICENSE-Datei.