gpinterface
を使用すると、プロンプトのAPIを簡単に作成できます。
Live Demoはgpinterface.comで入手できます。
gpinterface
ができることのいくつかの具体的な例を次に示します。
LLMモデルを選択して、コンテキストを追加できます。展開したら、次のようなエンドポイントを取得します。
これは、複数の大規模な言語モデル(LLM)にわたる生成プロンプトのテストと展開を合理化するために設計された強力なツールです。使いやすいWebインターフェイスを使用すると、 gpinterface
迅速な構成と実験を可能にします。
gpinterface
現在、以下を含むさまざまな主要な大規模な言語モデルをサポートしています。
この多様なサポートにより、特定のニーズと要件に最適なモデルを選択できます。
お気に入りのモデルが表示されませんか? PRを自由に開いたり、私に連絡してください!
アプリケーションには、PostgreSQLデータベースが必要です。 Dockerを使用してデータベースを開始します。
cd backend
docker-compose up -d
バックエンドは、Prismaを利用してデータベーススキーマと移行を管理します。データベースの初期化で次のコマンドを実行します。
npm run prisma:migrate
サポートされている大規模な言語モデルごとに初期データを使用してデータベースをシードするには、次のコマンドを実行します。
npx ts-node prisma/seed
バックエンド
バックエンドでは、次の環境変数を設定する必要があります。
CLIENT_URL= " http://localhost:3003 "
DATABASE_URL= " postgresql://postgres:[email protected]:5432/postgres " # can be replaced with your DB endpoint
AI21_API_KEY= " YOUR_AI21_API_KEY "
ANTHROPIC_API_KEY= " YOUR_ANTHROPIC_API_KEY "
COHERE_API_KEY= " YOUR_COHERE_API_KEY "
GOOGLE_API_KEY= " YOUR_GOOGLE_API_KEY "
MISTRAL_API_KEY= " YOUR_MISTRAL_API_KEY "
OPENAI_API_KEY= " YOUR_OPENAI_API_KEY "
AWS_ACCESS_KEY_ID= " AWS_ACCESS_KEY " # you need Llama model access in AWS Bedrock
AWS_SECRET_ACCESS_KEY= " AWS_SECRET_KEY " # you need Llama model access in AWS Bedrock
JWT_SECRET= " SECURE_RANDOM_STRING "
COOKIE_SECRET= " SECURE_RANDOM_STRING "
NODE_ENV= " development " # for development logging
これらの変数が、アプリケーションを開始する前に、バックエンドディレクトリの.env
ファイルに設定されていることを確認してください。
フロントエンド
フロントエンドアプリケーションには、次の環境変数が必要です。
NEXT_PUBLIC_API_ENDPOINT= " http://localhost:3000 "
NEXT_PUBLIC_CHAT_ENDPOINT= " http://localhost:3001 "
NEXT_PUBLIC_HOSTNAME= " http://localhost:3003 "
NEXT_PUBLIC_GOOGLE_OAUTH_CLIENT_KEY= " "
これらは、バックエンドサービスが利用可能なエンドポイントと一致するように構成し、フロントエンドがバックエンドと正しく通信できるようにする必要があります。
開発目的でアプリケーションコンポーネントを個別に実行するには:
バックエンドを実行します
cd backend && npm run dev
フロントエンドを実行します
cd frontend && npm run dev
生産展開のためにすべてのコンポーネントを構築するには、これらの手順を順番に進みます
cd shared
npm run build
cd ../backend
npm run build
cd ../frontend
npm run build
サーバーを起動します
バックエンドを実行します
cd backend && npm run start
チャットサーバー(APIサーバー)を実行する
cd backend && npm run start:chat
フロントエンドを実行します
cd frontend && npm run start