eternal

永遠の

Eternal は、機械学習ワークフローのための実験的なプラットフォームです。

注: このアプリは開発中のものであり、安定していません。このリポジトリを参考にしてください。私たちは貢献者と建設的なフィードバックを歓迎します。ご自身のプロジェクトの参考としてもご利用ください。

Eternal は、開発者が親切にも世界と共有した他の多くのプロジェクトの中で、 llama.cpp 、 ComfyUI 、 codapiなどのさまざまなプロジェクトを統合しています。すべてのクレジットは、このリポジトリが依存するすべての依存関係のそれぞれの貢献者に属します。あなたのプロジェクトを世界と共有していただきありがとうございます。

Eternal フロントエンドは、伝説的なHTMXフレームワークでレンダリングされます。

重要：

config.yml内のモデルのクォント レベルをシステム仕様に合わせて適切に構成します。ローカル モデルの実行に失敗した場合は、生成されたmain.logファイルを表示して原因を調査します。最も一般的な理由は、RAM が不足しているか、プロンプト テンプレートが正しくないことです。今後のコミットでは、より堅牢なエラー処理とログを実装する予定です。

特徴

• ML モデルの構成とダウンロードが簡単。 .config.ymlのデフォルトのモデル カタログの例を参照してください。
• Meta の Llama-3-8b-Instruct、Mistral AI の Codestral、および強力なパブリック OpenAI GPT-4o、Anthropic Sonnet 3.5、Google Gemini などのローカル言語モデルを使用したテキスト生成。 (公開モデルには独自の API キーが必要です)
• LLM が参照する URL コンテンツをフェッチする Web 検索。
• LLM が参照するユーザーのプロンプトの上位結果を自動的に取得する Web 検索。 Chromeブラウザのインス​​トールが必要です。 Eternal はヘッドレス インスタンスを自動的に管理するため、ブラウザを開く必要はありません。
• ComfyUI バックエンドとカスタム ワークフローを使用した高度な画像生成。 Eternal は ComfyUI を自動的に展開して管理します。

はじめる

基本的なドキュメントは、このリポジトリのdocsフォルダーに提供されます。

ショーケース

Web検索 - 検索

• webget : プロンプトの一部として渡された URL の取得を試みます。
• websearch : プロンプトに関連するページを公開 Web で検索します。

Chromeブラウザのインス​​トールが必要です。

コードの実行

安全なサンドボックスのチャット ビューで LLM 生成コードを実行および編集します。現時点では、JavaScript は WASM 経由で実装されています。さらに多くの言語が近日公開予定です。

画像生成

Eternal は、高品質の出力用に自動的に管理および調整される強力なカスタム ComfyUI ワークフローを使用して画像を生成できます。何百ものパラメータを調整する必要はもうありません。記述して生成します。ロールをimage_botに設定し、ローカルまたはパブリック LLM を選択してプロンプトを強化します。

基本的な画像プロンプト

大規模な言語モデルの強化されたプロンプト

構成

提供された.config.ymlファイルの名前をconfig.ymlに変更し、アプリケーション バイナリと同じパスに配置します。環境やユースケースに合わせて内容を変更してください。

建てる

Eternal は現在、CUDA (nVidia GPU が必要) または MacOS/Metal (M シリーズ Mac が必要) を使用した Linux または Windows WSL での構築をサポートしています。

アプリケーションを構築するには:

 $ git clone https://github.com/intelligencedev/eternal.git
$ cd eternal
$ git submodule update --init --recursive
$ make all

ビルドプロセスで問題が発生した場合は、問題を送信してください。

トラブルシューティング

最初のアプリケーションを起動する前に、新しい Python 3.10 conda 環境と仮想環境を作成することをお勧めします。これにより、必要なパッケージのインストールに関連するエラー メッセージerror: externally-managed-environmentなど) が回避されます。

Eternal の起動に失敗した場合は、次のコマンドを実行して、新しい Conda 環境と Python venv を構成します。

 $ conda create -n eternal python=3.10
$ conda activate eternal
$ python python-m venv .
$ source bin/activate

# Apply execute permissions
$ sudo chmod +x ./eternal

# Run the Eternal binary
$ ./eternal

注: 含まれている.config.ymlの名前をconfig.ymlに変更し、環境に合わせて設定を変更し、ファイルを Eternal バイナリと同じパスに保存してください。

免責事項

この README は、Eternal アプリケーションの概要を説明したものです。詳細なセットアップ手順と機能、依存関係、構成の完全なリストについては、実際のアプリケーションのドキュメントを参照してください。