OptimAI python

オプティマアイ

OptimAI は、パフォーマンスを分析し、実用的な提案を提供することでコードを最適化するように設計された強力な Python モジュールです。大規模言語モデル (LLM) を利用して、コードの実行中に収集されたプロファイリング データに基づいて詳細な洞察と推奨事項を提供します。このモジュールは、perfwatch パッケージのさまざまな種類のプロファイラーをサポートします。

特徴

• 関数を簡単に最適化するためのカスタム デコレータ。
• パフォーマンス プロファイリングのための perfwatch との統合。
• perfwatch を使用して、標準出力、関数実行時間、ネットワーク使用量、関数呼び出し、CPU/GPU 使用量などをキャプチャして分析します。
• コード最適化の提案のためのさまざまな LLM とのシームレスな統合。
• OpenAI、Google Gemini、HuggingFace (オフライン)、ollam、Anthropic のサポート。
• dspy を使用する LLM で最高のパフォーマンスを実現するための最適化されたプロンプト

インストール

pip を使用して OptimAI をインストールできます。

pip install optimizeai

設定

OptimAI を使用するには、好みの LLM プロバイダーと API キーを使用して構成する必要があります。サポートされている LLM プロバイダーには、Google (Gemini モデル)、OpenAI、Ollama、HuggingFace、Anthropic が含まれます。 Ollama の場合は、Ollama をインストールしておく必要があり、モデル アーティファクトも事前にダウンロードする必要があります。

1. LLM プロバイダーを選択します。

   • Google Gemini モデルの場合: llm = "google"
   • OpenAI モデルの場合: llm = "openai"
   • オフラインで顔をハグする場合: llm = "huggingface"
   • 人間モデルの場合: llm = "anthropic"
   • ローカルの Ollama モデルの場合: llm = "ollama"

2. モデルを選択してください:

   • 例: model = "gpt-4" 、 model = "gemini-1.5-flash" 、 model = "codegemma" 、または選択した LLM プロバイダーに固有のその他のモデル。

3. API キーを設定します。

   • 選択した LLM プロバイダーに対応する API キーを使用します。ローカルの Huggingface Inference と Ollama には API キーは必要ありません。

サンプルコード

以下は、OptimAI を使用して関数を最適化する方法を示す基本的な例です。

 from optimizeai . decorators . optimize import optimize
from optimizeai . config import Config
from dotenv import load_dotenv
import time
import os

# Load environment variables
load_dotenv ()
llm = os . getenv ( "LLM" )
key = os . getenv ( "API_KEY" )
model = os . getenv ( "MODEL" )

# Configure LLM
llm_config = Config ( llm = llm , model = model , key = key )
perfwatch_params = [ "line" , "cpu" , "time" ]

# Define a test function to be optimized
@ optimize ( config = llm_config , profiler_types = perfwatch_params )
def test ():
    for _ in range ( 10 ):
        time . sleep ( 0.1 )
        print ( "Hello World!" )
        pass

if __name__ == "__main__" :
    test ()

環境変数の設定

使いやすくするために、 .envファイルに環境変数 ( LLM 、 API_KEY 、 MODEL ) を設定できます。

 LLM=google
API_KEY=your_google_api_key
MODEL=gemini-1.5-flash

今後の機能

• コード最適化のためのコンテキストの改善: LLM に提供されるコンテキストを強化し、より正確で関連性の高い最適化推奨事項を提供します。
• レポート生成: 適切な最適化レポートが生成されます。
• より良い構成のサポート: さまざまな llm パラメーターを設定できる、より良い構成サポートが提供されます。

貢献する

OptimAI への貢献を歓迎します。新しい機能のアイデアがある場合、またはバグを見つけた場合は、GitHub で問題を開いてください。コードを提供したい場合は、リポジトリをフォークしてプル リクエストを送信してください。

貢献するための手順

1. リポジトリをフォークします。
2. 新しいブランチを作成します ( git checkout -b feature-branch )。
3. 変更を加えます。
4. 変更をコミットします ( git commit -m 'Add new feature' )。
5. ブランチにプッシュします ( git push origin feature-branch )。
6. プルリクエストを開きます。

ライセンス

OptimAI は MIT ライセンスに基づいてライセンスされています。詳細については、LICENSE ファイルを参照してください。