걸레 챗봇

로컬에서 여러 PDF와 채팅

설정

1. 캐글(권장)

• notebooks/kaggle.ipynb Kaggle로 가져오기

• 토큰으로 바꾸세요.

2. 로컬

2.1. 프로젝트 복제

 자식 클론 https://github.com/datvodinh/rag-chatbot.gitcd rag-chatbot

2.2 설치

2.2.1 도커

 docker compose up --build

2.2.2 스크립트 사용하기(Ollama, Ngrok, python 패키지)

 소스 ./scripts/install_extra.sh

2.2.3 수동으로 설치

1. Ollama

• MacOS, 창: 다운로드

• 리눅스

 컬 -fsSL https://ollama.com/install.sh | 쉿

2. Ngrok

• 마코스

 양조 설치 ngrok/ngrok/ngrok

• 리눅스

 컬 -s https://ngrok-agent.s3.amazonaws.com/ngrok.asc
 | sudo 티 /etc/apt/trusted.gpg.d/ngrok.asc >/dev/null
 && echo "deb https://ngrok-agent.s3.amazonaws.com 버스터 메인" | sudo 티 /etc/apt/sources.list.d/ngrok.list
 && sudo 적절한 업데이트
 && sudo apt install ngrok

3. rag_chatbot 패키지 설치

 소스 ./scripts/install.sh

2.3 실행

 소스 ./scripts/run.sh

또는

 python -m rag_chatbot --host localhost

• Ngrok 사용

 소스 ./scripts/run.sh --ngrok

3. 설정이 완료된 후 http://0.0.0.0:7860/ 또는 Ngrok 링크로 이동하세요.

토도

• 평가를 추가합니다.

• 더 나은 문서 처리.

• 베트남어 및 기타 언어에 대해 더 나은 임베딩 모델을 지원합니다.

• 리액트 에이전트.

• 문서 관리(Qrdant, MongoDB,...)