AnyChat

AnyChat: 문서와 채팅

AnyChat은 문서(PDF, TXT, DOCX, ODT, PPTX, CSV 등)와 자연스럽고 대화적인 방식으로 상호 작용할 수 있는 강력한 챗봇입니다. LangChain, Ollama, Groq, Gemini 및 Streamlit의 기능을 활용하여 직관적이고 유익한 경험을 제공합니다.

챗봇-20_04_24.mp4

특징

• 대화형 상호 작용: 문서에 대해 질문하고 챗봇으로부터 사람과 같은 응답을 받습니다.
• 다중 문서 지원: PDF, 텍스트 파일, Word 문서, 스프레드시트 및 프레젠테이션을 포함한 다양한 문서 형식을 업로드하고 처리합니다.
• 웹사이트-채팅 지원: 유효한 웹사이트와 채팅하세요.
• 고급 언어 모델: Ollama, Groq 및 Gemini와 같은 다양한 언어 모델(LLM) 중에서 선택하여 챗봇의 응답을 강화합니다.
• 임베딩 모델: Ollama 임베딩 또는 GooglePalm 임베딩 중에서 선택하여 문서에 대한 챗봇의 이해를 향상시킵니다.
• 사용자 친화적인 인터페이스: Streamlit은 챗봇과 상호 작용하기 위한 깔끔하고 직관적인 인터페이스를 제공합니다.

설치

전제 조건

• 파이썬 3.10 이상
• 가상 환경(권장)

저장소 복제

GitHub에서 AnyChat 저장소를 복제합니다.

git clone https://github.com/shitan198u/AnyChat.git

작업 디렉토리로 이동

 cd Anychat

Rye 사용(권장)

1. Rye 패키지 관리자 설치: 설치 가이드

2. 프로젝트를 동기화합니다.

rye sync

venv 사용

1. 가상 환경을 생성합니다:

python -m venv anychat-env

2. 가상 환경을 활성화합니다:

 source anychat-env/bin/activate

3. 필요한 종속성을 설치합니다.

pip install -r requirements.txt

conda 사용

1. 콘다 환경을 생성합니다:

conda create -n anychat-env python=3.12

2. Conda 환경을 활성화합니다.

conda activate anychat-env

3. 필요한 종속성을 설치합니다.

conda install --file requirements.txt

구성

• src/anychat/.streamlit/ 디렉터리에서 secrets_example.toml 파일의 이름을 secrets.toml 로 바꿉니다.

올라마 설치

AnyChat용 Ollama를 사용하려면 Ollama를 설치하고 필요한 모델을 다운로드해야 합니다. 아래 지침을 따르십시오.

1. 올라마 설치:

설치 지침을 보려면 Ollama 공식 웹사이트를 방문하세요. Ollama 다운로드

2. Ollama 모델 다운로드:

터미널을 열고 다음 명령을 실행하여 필요한 모델을 다운로드하십시오.

ollama pull nomic-embed-text

이 명령은 Ollama 임베딩을 실행하는 데 필요한 nomic-embed-text 모델을 다운로드합니다.

ollama pull openchat

이 명령은 AnyChat에서 언어 모델로 사용할 수 있는 openchat 모델을 다운로드합니다.

용법

1. API 키 설정:

• Google Gemini 또는 Groq를 사용하는 경우 필요한 API 키를 획득하여 src/anychat/.streamlit/secrets.toml 파일에 안전하게 저장하거나 챗봇 인터페이스에 업로드하세요.

2. 애플리케이션을 실행합니다:

 cd src/anychat
streamlit run chatbot.py

3. 호밀 사용하기

 cd src/anychat
rye run streamlit run chatbot.py

4. 문서 업로드:

• Streamlit 인터페이스에서 채팅하려는 문서를 업로드하세요.
• 문서를 처리하려면 "처리" 버튼을 클릭하세요.

5. 채팅 시작:

• 문서가 처리되면 채팅 입력 필드에서 질문을 시작할 수 있습니다.
• 챗봇은 귀하의 문서를 분석하고 해당 내용을 기반으로 관련 답변을 제공합니다.

특허

이 프로젝트는 MIT 라이선스에 따라 라이선스가 부여됩니다. 자세한 내용은 LICENSE 파일을 참조하세요.

추가 참고사항

• 최적의 성능을 위해서는 문서 처리 및 LLM 계산을 처리하는 데 필요한 리소스(CPU, RAM)가 있는지 확인하십시오.
• 챗봇의 정확성과 반응성은 문서의 복잡성과 선택한 LLM에 따라 달라질 수 있습니다.
• 처리 속도를 크게 높일 수 있는 GPU 지원 환경에 액세스할 수 있는 경우 GPU 지원 환경 사용을 고려해보세요.