NED Admission LLM Chatbot FYP

Чат-бот для приема в университет NED

Чат-бот для поступления в университет — это полезный инструмент, предназначенный для оказания помощи и информации, отвечая на общие вопросы студентов во время поступления в университет с использованием современных языковых моделей и векторных хранилищ.

Выявлена ​​проблема:

Обработка большого объема запросов во время поступления в университет может перегрузить персонал и значительно замедлить время ответа. Многие студенты ищут общую информацию, что может привести к задержкам, поскольку сотрудники отвечают на повторяющиеся запросы вручную. Такая неэффективность не только истощает ресурсы, но и отрицательно влияет на удобство работы пользователей. Чтобы решить эти проблемы, мы разрабатываем чат-бота для поступления в университеты, который использует генеративный искусственный интеллект и передовые языковые модели для предоставления мгновенных и точных ответов, оптимизации процесса поступления и снижения нагрузки на сотрудников университета.

Роли и обязанности:

• Разработан чат-бот для приема в университеты, который помогает студентам решать вопросы, процессы поступления и рекомендации с использованием больших языковых моделей и векторных хранилищ.
• Использованы современные LLM (Llama3, Gemini Pro, GPT-4o), интегрированы LangChain и FastAPI для внутренних функций, а внешний интерфейс построен на Next.js.
• Реализована система аутентификации с сохранением и извлечением истории чатов для пользователей.
• Создан API на основе FastAPI с надежными конечными точками для аутентификации пользователей, взаимодействия с чат-ботами и операций администратора, включая встраивание данных и функции CRUD.
• Создана система встраивания документов, позволяющая администраторам добавлять, удалять и обновлять файлы данных в базе данных векторов, обеспечивая актуальность и правильность данных.
• Развернутая инфраструктура с LangChain, PineCone, AWS RDS и S3 Buckets для обеспечения масштабируемости и надежности.
• Создан удобный интерфейс на Next.js с различными функциями, облегчающими работу с пользователем.

Влияние продукта:

Преобразовал процесс поступления в университеты за счет эффективной обработки больших объемов запросов, оптимизации процесса за счет мгновенных ответов, снижения нагрузки на персонал и повышения репутации учебного заведения в области технологических инноваций.

Предварительные условия

Прежде чем вы сможете начать использовать ChatBot, убедитесь, что в вашей системе установлены следующие необходимые компоненты:

• Питон 3.9 или выше
• Требуемые пакеты Python (все пакеты находятся в файле require.txt)

Питаться от:

• Лангчейн
• СосноваяШишка
• Корзины AWS RDS и S3
• ФастAPI

Установка

1. Клонируйте этот репозиторий на свой локальный компьютер.

2. Создайте виртуальную среду Python (необязательно, но рекомендуется):

   python -m venv venv
   source venv/bin/activate  # On Windows, use: venvScriptsactivate.bat

3. Установите необходимые пакеты Python:

   pip install -r requirements.txt

4. Создайте файл .env для создания переменных среды.

5. Добавьте в файл ключевую переменную Google, Groq API или OpenAI. Вы можете получить свой ключ API здесь

• Для ключа API Google: https://makersuite.google.com/app/apikey.

• Для API-ключа Groq: https://console.groq.com/playground.

  GOOGLE_API_KEY= " Insert your google API key here "
  GROQ_API_KEY = ' Insert your Groq Api here '
  OPENAI_API_KEY = ' Insert your OpenAI Api here ' 

Запустить API на локальном сервере

1. Откройте cmd в корневой папке и напишите эту команду, чтобы запустить работающий сервер.

   uvicorn main:app --reload

Конечные точки API

• /docs -> Для доступа к Swagger