NED Admission LLM Chatbot FYP

NED 대학 입학 챗봇

대학 입시 챗봇은 최첨단 언어 모델과 벡터 스토어를 활용하여 대학 입학 시 일반적인 학생 문의 사항에 답변하여 도움과 정보를 제공하도록 설계된 유용한 도구입니다.

확인된 문제:

대학 입학 과정에서 많은 양의 문의 사항을 처리하면 직원에게 부담이 가중되어 응답 시간이 상당히 느려질 수 있습니다. 많은 학생들이 일반적인 정보를 찾고 있는데, 교직원이 반복적인 질문을 수동으로 처리하므로 지연이 발생할 수 있습니다. 이러한 비효율성은 리소스에 부담을 줄 뿐만 아니라 사용자 경험에도 부정적인 영향을 미칩니다. 이러한 과제를 해결하기 위해 우리는 생성적 AI와 고급 언어 모델을 활용하여 즉각적이고 정확한 응답을 제공하고 입학 과정을 간소화하며 대학 직원의 업무량을 줄이는 대학 입학 챗봇을 개발하고 있습니다.

역할과 책임:

• 대규모 언어 모델과 벡터 스토어를 사용하여 학생 문의, 입학 절차 및 지침을 지원하는 대학 입학 챗봇을 개발했습니다.
• 최첨단 LLM(Llama3, Gemini Pro, GPT-4o)을 활용하고 백엔드 기능을 위해 통합된 LangChain 및 FastAPI와 Next.js에 구축된 프런트엔드를 제공합니다.
• 사용자에 대한 채팅 기록 저장 및 검색 기능을 갖춘 인증 시스템을 구현했습니다.
• 사용자 인증, 챗봇 상호 작용, 데이터 임베딩 및 CRUD 기능을 포함한 관리 작업을 위한 강력한 엔드포인트를 갖춘 FastAPI 기반 API를 만들었습니다.
• 관리자가 벡터 데이터베이스에서 데이터 파일을 추가, 제거 및 업데이트할 수 있는 문서 임베딩 시스템을 만들어 최신의 올바른 데이터를 보장합니다.
• 확장성과 견고성을 보장하기 위해 LangChain, PineCone, AWS RDS 및 S3 버킷으로 인프라를 배포했습니다.
• 쉬운 사용자 경험의 다양한 기능을 갖춘 Next.js에 사용자 친화적인 프런트엔드를 구축했습니다.

제품 영향:

많은 문의량을 효율적으로 처리하고, 즉각적인 응답으로 과정을 간소화하고, 직원 업무량을 줄이고, 기술 혁신에 대한 기관의 명성을 높여 대학 입학 절차를 혁신했습니다.

전제 조건

ChatBot 사용을 시작하기 전에 시스템에 다음 필수 구성 요소가 설치되어 있는지 확인하십시오.

• 파이썬 3.9 이상
• 필수 Python 패키지(모든 패키지는 require.txt에 있음)

제공:

• 랭체인
• 솔방울
• AWS RDS 및 S3 버킷
• FastAPI

설치

1. 이 저장소를 로컬 머신에 복제하세요.

2. Python 가상 환경을 만듭니다(선택 사항이지만 권장됨).

   python -m venv venv
   source venv/bin/activate  # On Windows, use: venvScriptsactivate.bat

3. 필수 Python 패키지를 설치합니다.

   pip install -r requirements.txt

4. 환경 변수 생성을 위한 .env 파일을 생성합니다.

5. 파일에 Google, Groq API 또는 OpenAI 키 변수를 추가하세요. 여기에서 API 키를 얻을 수 있습니다

• Google API 키의 경우: https://makerssuite.google.com/app/apikey

• Groq API 키: https://console.groq.com/playground

  GOOGLE_API_KEY= " Insert your google API key here "
  GROQ_API_KEY = ' Insert your Groq Api here '
  OPENAI_API_KEY = ' Insert your OpenAI Api here ' 

로컬 서버에서 API 실행

1. 루트 폴더에서 cmd를 열고 이 명령을 작성하여 라이브 서버를 실행합니다.

   uvicorn main:app --reload

API 엔드포인트

• /docs -> Swagger에 액세스하기 위해