p8hub

プライベート AI ハブ (P8Hub)

+ プロジェクトの最新情報については vietanhdev をフォローしてください。

「独自の AI サービスをホストして使用します。すべてをシンプルかつプライベートに保ちます。」

AI が私たちの生活のあらゆる側面を変革している時代において、個人や小規模なチームが独自の AI サービスをホストして利用できる、プライベートで使いやすいプラットフォームの必要性を認識しました。 P8Hub のインスピレーションは、AI テクノロジーをアクセス可能かつプライベートなものにして、すべての人に民主化したいという願望から生まれました。

P8Hub のアーキテクチャは、FastAPI バックエンドと Next.js フロントエンドの 2 つの主要コンポーネントで構成されます。バックエンドとフロントエンドは REST API を介して相互に通信します。デプロイを容易にするために、フロントエンドを静的ファイルに構築し、バックエンドから提供します。 Docker との対話 (サービスの実行、停止、監視) は、Whales パッケージの Python を介して行われます。

特徴

一部の機能はまだ開発中です。ここで進捗状況を確認できます。

• ハードウェアリソースを監視します。
• サービス管理（開始、停止/削除）。
• サービスログビューア。
• OllamaLLM - 一般的なチャットボット サービス。
• Teachable AI - コンピューターに画像を分類するよう教えます - STEAM。
• docTR - 文書テキスト認識。
• Whisper - テキスト読み上げサービス。
• TTS 生成 (GPU のみ)
• ドッカー拡張機能。
• 画像生成サービス。
• ドキュメントを追加します。
• テストを追加します。
• アプリエディター。

時間が限られていたため、応募作品は慎重に選ばれませんでした。もっと多くの興味深い AI アプリケーションを P8Hub に統合できると思います。ご提案がございましたら、お知らせいただくか、プル リクエストを作成してください。

I. インストールと使用方法

1. インストール

• Python 3.9 以降。
• p8hubをインストールします。

pip install p8hub

2. 使用方法

• アプリを実行します。

python -m p8hub.app

または単に:

p8hub

• http://localhost:5678/ にアクセスして、ユーザー インターフェイスを表示します。

Private AI Hub をネットワークに対してパブリックに実行したり、パラメーターを使用してポートを変更したりすることもできます。例：

p8hub --host 0.0.0.0 --port 8080

3. Docker 拡張機能 (実験的)

Docker Extension を使用すると、Docker Desktop の機能を拡張できます。 P8Hub 用の Docker 拡張機能を開発しました。以下を実行してインストールできます。

make install-extension

Docker Desktop の UI に拡張機能が表示されるはずです。

II.発達

1. ソースコードのクローンを作成する

git clone https://github.com/vietanhdev/p8hub
cd p8hub

2. バックエンドを実行する

• Python 3.9 以降。
• ソースからインストールするには、 p8hubソース コード ディレクトリから次を実行します。

pip install -e .

• アプリを実行します。

python -m p8hub.app

• http://localhost:5678/ にアクセスして、ユーザー インターフェイスを表示します。

2. フロントエンドを実行する

• 依存関係をインストールします。

 cd frontend
npm install

• アプリを実行します。

npm run dev

• http://localhost:3000/ に移動して、ユーザー インターフェイスを表示します。このアドレスを使用してフロントエンドを開発します。

参考文献

• 次のテンプレート: https://github.com/shadcn-ui/next-template。
• PAutoBot: https://github.com/nrl-ai/pautobot。

このプロジェクトは、Docker AI/ML ハッカソン 2023 のために作成されました。