NED Admission LLM Chatbot FYP

NED 大学入学チャットボット

大学入学チャットボットは、最先端の言語モデルとベクター ストアを使用して大学入学時の一般的な学生の質問に答え、支援と情報を提供するように設計された便利なツールです。

特定された問題:

大学入学時に大量の問い合わせを処理すると、スタッフに多大な負担がかかり、応答時間が大幅に遅くなる可能性があります。多くの学生は一般的な情報を求めていますが、スタッフが繰り返しの質問に手動で対応するため、遅れが生じる可能性があります。この非効率性はリソースに負担をかけるだけでなく、ユーザー エクスペリエンスにも悪影響を及ぼします。これらの課題に対処するために、私たちは生成 AI と高度な言語モデルを活用して、即座に正確な応答を提供し、入学手続きを合理化し、大学職員の作業負荷を軽減する大学入学チャットボットを開発しています。

役割と責任:

• 大規模な言語モデルとベクター ストアを使用して、学生の質問、入学プロセス、ガイドラインを支援する大学入学チャットボットを開発しました。
• 最先端の LLM (Llama3、Gemini Pro、GPT-4o) を利用し、バックエンド機能として LangChain と FastAPI を統合し、Next.js にフロントエンドを構築しました。
• ユーザーのチャット履歴の保存と取得を備えた認証システムを実装しました。
• ユーザー認証、チャットボットとの対話、データ埋め込みや CRUD 機能などの管理操作のための堅牢なエンドポイントを備えた FastAPI ベースの API を作成しました。
• 管理者が Vector データベース内のデータ ファイルを追加、削除、更新できるドキュメント埋め込みシステムを作成し、最新かつ正しいデータを確保しました。
• LangChain、PineCone、AWS RDS、S3 バケットを使用してインフラストラクチャをデプロイし、スケーラビリティと堅牢性を確保します。
• 簡単なユーザー エクスペリエンスを実現するさまざまな機能を備えた、ユーザー フレンドリーなフロントエンドを Next.js 上に構築しました。

製品への影響:

大量の問い合わせを効率的に処理し、即時応答で手続きを合理化し、スタッフの負担を軽減し、技術革新に対する大学の評判を高めることにより、大学入学プロセスを変革しました。

前提条件

ChatBot の使用を開始する前に、次の前提条件がシステムにインストールされていることを確認してください。

• Python 3.9以降
• 必要な Python パッケージ (すべてのパッケージは require.txt にあります)

搭載：

• ラングチェーン
• 松ぼっくり
• AWS RDS および S3 バケット
• ファストAPI

インストール

1. このリポジトリのクローンをローカル マシンに作成します。

2. Python 仮想環境を作成します (オプションですが推奨)。

   python -m venv venv
   source venv/bin/activate  # On Windows, use: venvScriptsactivate.bat

3. 必要な Python パッケージをインストールします。

   pip install -r requirements.txt

4. 環境変数を作成するための .env ファイルを作成します。

5. Google、Groq API、または OpenAI キー変数をファイルに追加します。ここから API キーを取得できます

• Google API キーの場合: https://makersuite.google.com/app/apikey

• Groq API キーの場合: https://console.groq.com/playground

  GOOGLE_API_KEY= " Insert your google API key here "
  GROQ_API_KEY = ' Insert your Groq Api here '
  OPENAI_API_KEY = ' Insert your OpenAI Api here ' 

ローカルサーバー上でAPIを実行する

1. ルート フォルダーで cmd を開き、次のコマンドを記述してライブ サーバーを実行します。

   uvicorn main:app --reload

APIエンドポイント

• /docs -> Swagger にアクセスするため