llm comparison tool

大きな言語モデルの比較

このプロジェクトを使用すると、複数の大規模な言語モデルに対してプロンプトをテストし、結果を比較できます。

1. 比較するモデルを選択します。
2. 質問またはプロンプトを入力してください。
3. 結果を比較してください。

OpenRouterを使用して、さまざまなモデルに接続します。一部のモデルは無料で、他のモデルはそうではありません。有料モデルを使用することにした場合、OpenRouterには驚きの請求書を避けるためにクレジット制限があります。

警告：このプロジェクトをプライベートおよび機密情報に使用しないでください。 OpenRouterはさまざまなプロバイダーに接続します。 OpenRouterとプロバイダーのプライバシーポリシーを保証することはできません。 OpenRouterに送信するものが公開されており、それに応じて行動すると仮定します。

クイックゲットスタートガイド

まず、まだ行っていない場合は、環境を準備してください。

次のコマンドを実行して、環境をアクティブにし、ブラウザでアプリケーションを開始します。

 source venv/bin/activate
streamlit run app.py

ブラウザの端子に表示されているURLを開きます。

コンテナとして実行されます

1. コンテナの構築： docker build --progress=plain -t llm-comparison .
2. コンテナを起動します： docker compose up -d
3. http：// machine_addressへのブラウザウィンドウを開きます：8501（ローカルで実行されている場合：http：// localhost：8501）
4. 完了したらコンテナを停止します： docker compose down

環境の準備

これは1回限りのステップです。すでにこれを行っている場合は、 source venv/bin/activate使用して仮想環境を有効にしてください。

環境を準備するための2つのステップがあります。

1. Python環境
2. OpenRouter APIキー

Python環境

次のコマンドを実行して仮想環境を作成し、必要なパッケージをインストールします。

python3 -m venv venv
source venv/bin/activate
pip install --upgrade pip
pip install -r requirements.txt

OpenRouter APIキー

このコードは、OpenRouterを使用して複数のモデルにアクセスします。サポートされているモデルのリストについては、こちらをご覧ください。

既にOpenRouterアカウントをお持ちの場合は、こちらからAPIキーを作成します。アカウントがない場合は、ここでアカウントを作成してから、APIキーを作成します。オプションで、有料モデルを使用する予定がある場合は、クレジットを追加します。

APIキーがあると、次のコンテンツを使用してProject Root Directoryに.envファイルを作成します。

OPENROUTER_API_KEY= < your key >

ここにキーを追加しても安全です。リポジトリにコミットすることはありません。