nextjs fastapi your chatダウンロード - nextjs fastapi your chatソースコードのダウンロード

nextjs fastapi your chat

AI ソースコード

1.0.0

ダウンロード

Next.js + FastAPI: Web サイトとチャットする

このアプリケーションは、Next.js をフロントエンドとして、FastAPI をバックエンドとして利用することでチャットボットを容易にし、動的な Web インタラクションに LangChain の機能を利用します。

チャットボットインターフェース

ハイブリッドアプリの特徴

LangChain による Web インタラクション: 最新の LangChain バージョンを利用して、Web サイトからの効果的なインタラクションと情報抽出を実現します。
多用途な言語モデルの統合: GPT-4 を含むさまざまなモデルとの互換性を提供します。ユーザーはニーズに合わせてモデルを簡単に切り替えることができます。
ユーザーフレンドリーな Next.js フロントエンド: インターフェースは直感的で、あらゆる技術的背景を持つユーザーにとってアクセスしやすいものです。

運用の仕組み

このアプリケーションは、Python/FastAPI サーバーを/api/ルートの下の Next.js アプリに統合します。これは、 next.config.js書き換えによって実現され、すべての/api/:path*リクエストが/apiフォルダーにある FastAPI サーバーに送信されます。ローカルでは、FastAPI は127.0.0.1:8000で実行されますが、本番環境では Vercel でサーバーレス関数として動作します。

アプリケーションのセットアップ

依存関係をインストールします。
```
npm install
```
OpenAI API キーを使用して.envファイルを作成します。
```
 OPENAI_API_KEY=[your-openai-api-key]
```
開発サーバーを起動します。
```
npm run dev
```
http://localhost:3000 でアプリケーションにアクセスします。 FastAPI サーバーは http://127.0.0.1:8000 で実行されます。

バックエンドのみのテストの場合:

conda create --name nextjs-fastapi-your-chat python=3.10
conda activate nextjs-fastapi-your-chat
pip install -r requirements.txt
uvicorn api.index:app --reload

チャット履歴の維持（TODOリスト）

チャット履歴を保存するためのオプションは次のとおりです。

グローバル変数: シンプルですが、スケーラビリティと一貫性の点では理想的ではありません。
インメモリデータベース/キャッシュ: チャット履歴を保存するための Redis などのスケーラブルなソリューション。
データベースストレージ: 実稼働環境に適した、堅牢で永続的な方法。

RAG アルゴリズムを理解する

RAG (Retrieval Augmented Generation) は、カスタム知識ベースから取得したコンテキストを使用して言語モデルを強化します。このプロセスには、HTML ドキュメントを取得し、それらをチャンクに分割し、OpenAI のような埋め込みモデルを使用してこれらのチャンクをベクトル化することが含まれます。このベクトル化されたデータはベクトルストアを形成し、ユーザーのクエリに基づいたセマンティック検索を可能にします。取得された関連チャンクは言語モデルのコンテキストとして使用され、ユーザーの問い合わせに対する包括的な応答を形成します。

コンテキスト取得の実装

get_vectorstore_from_url関数は、指定された URL からテキストを抽出して処理します。一方、 get_context_retriever_chain会話履歴全体に関連するコンテキストを取得するチェーンを形成します。このパイプラインアプローチにより、応答がコンテキストを認識して正確になることが保証されます。