conversational agent langchain
Basic Updates
이것은 대화 에이전트의 휴게소이며, 문서를 포함시키고, 의미 검색을 사용하여 검색하고, 문서를 기반으로 QA를 검색하고, 큰 언어 모델로 문서 처리를 수행 할 수 있습니다.
현재 나는 Langgraph로 재 작업하고 있으므로 Main의 모든 버전이 모든 공급자와 함께 작동하지는 않습니다. 다음 주에 제공자를 업데이트하겠습니다. 릴리스를 사용하여 작업 버전을 얻으십시오.
Aleph Alpha 전용 백엔드를 사용하려면 다른 백엔드 https://github.com/mfmezger/aleph-alpha-rag를 권장합니다.
Docker로 전체 시스템을 실행하려면이 명령을 사용하십시오.
git clone https://github.com/mfmezger/conversational-agent-langchain.git
cd conversational-agent-langchain.env-template에서 .env 파일을 만들고 qdrant API 키를 설정하십시오. 테스트를 위해 테스트로 설정했습니다. qdrant_api_key = "테스트"
그런 다음 시스템을 시작하십시오
docker compose up -d그런 다음 http://127.0.0.1:8001/docs 또는 http://127.0.1:8001/redoc으로 이동하여 API 문서를 확인하십시오.
프론트 엔드 : 로컬 호스트 : 8501 Qdrant 대시 보드 : 로컬 호스트 : 6333/대시 보드
이 프로젝트는 Aleph Alpha 및 OpenAi 대형 언어 모델을 사용하여 사용자 쿼리에 대한 응답을 생성하는 대화 상담원입니다. 에이전트에는 또한 벡터 데이터베이스와 Fastapi로 제작 된 REST API가 포함되어 있습니다.
특징
시맨틱 검색은 키워드와 일치하는 것이 아니라 사용자 쿼리의 의미와 맥락을 이해하는 고급 검색 기술입니다. 여기에는 자연 언어 처리 (NLP) 및 기계 학습 알고리즘이 포함되어 사용자 의도, 동의어, 단어 간의 관계 및 컨텐츠 구조를 분석하고 해석합니다. 이러한 요소를 고려함으로써 시맨틱 검색은 검색 결과의 정확성과 관련성을 향상시켜보다 직관적이고 개인화 된 사용자 경험을 제공합니다.
Langchain은 자연어 처리 및 기계 학습을위한 도서관입니다. Fastapi는 표준 파이썬 유형 힌트를 기반으로 Python 3.7+를 사용하여 API를 구축하기위한 현대적이고 빠른 (고성능) 웹 프레임 워크입니다. Vectordatabase는 벡터를 저장하는 데이터베이스이며 유사성 검색 및 기타 기계 학습 작업에 사용할 수 있습니다.
API 키를 관리하는 두 가지 방법을 사용할 수 있습니다. 가장 쉬운 방법은 요청에서 Token으로 API 토큰을 보내는 것입니다. 또 다른 가능성은 .env 파일을 만들고 API 토큰을 추가하는 것입니다. Azure 또는 OpenAi에서 OpenAi를 직접 사용하는 경우 .env 파일에서 올바른 매개 변수를 설정해야합니다.
Linux 또는 Mac에서는 다음 행을 포함하도록 /etc /호스트 파일을 조정해야합니다.
127.0.0.1 qdrant먼저 파이썬 종속성을 설치합니다.
요구 사항을 동기화하는 데 사용하려면 호밀을 설치해야합니다. 호밀 설치.
rye sync
# or if you do not want to use rye
pip install -r requirements.lock다음과 같이 완전한 시스템을 시작하십시오.
docker compose up -dQdrant 데이터베이스 로컬을 실행하려면 방금 실행됩니다.
docker compose up qdrant백엔드를 실행하려면이 명령을 루트 디렉토리에서 사용합니다.
poetry run uvicorn agent.api:app --reload테스트를 실행하려면이 명령을 사용할 수 있습니다.
poetry run coverage run -m pytest -o log_cli=true -vvv tests프론트 엔드를 실행하려면이 명령을 루트 디렉토리에서 사용합니다.
poetry run streamlit run gui.py --theme.base= " dark "mypy rag- 외식 패키지베이스
Qdrant 대시 보드는 http://127.0.0.1:6333/dashboard에서 제공됩니다. API 키를 입력해야합니다.
Qdrant API를 사용하려면 .env 파일에서 올바른 매개 변수를 설정해야합니다. qdrant_api_key는 Qdrant API의 API 키입니다. 또한 구성 폴더의 qdrant.yaml 파일에서 변경해야합니다.
많은 양의 데이터를 섭취하려면 에이전트/섭취에 위치한 스크립트를 사용하는 것이 좋습니다.
API를 테스트하려면 Bruno를 권장합니다. API 요청은 Convagentbruno 폴더에 저장됩니다.
