rags

누더기

build.a.rags.bot.powered.by.llamaindex .-. 26.november.2023.mp4

Rags는 자연어를 사용하여 데이터 소스에서 Rag Pipeline을 생성 할 수있는 유선형 앱입니다.

다음을 수행 할 수 있습니다.

1. 작업 (예 : "이 웹 페이지로드")과 Rag 시스템에서 원하는 매개 변수를 설명하십시오 (예 : "X 수의 문서를 검색하고 싶습니다").
2. 필요에 따라 구성보기 및보기/변경 생성 매개 변수 (Top-K, Summarization 등)로 이동하십시오.
3. 질문으로 데이터를 통해 래그 에이전트를 쿼리하십시오.

이 프로젝트는 OpenAI에서 시작한 GPTS에서 영감을 얻었습니다.

설치 및 설정

이 프로젝트를 복제하고 rags 프로젝트 폴더로 이동하십시오. 종속성을위한 가상 env ( python3 -m venv .venv )를 만드는 것이 좋습니다.

 poetry install --with dev

기본적으로, 우리는 생성 된 래그 에이전트뿐만 아니라 빌더 에이전트 모두에 OpenAI를 사용합니다. 홈 폴더에 .streamlit/secrets.toml 추가하십시오.

그런 다음 다음을 넣으십시오.

 openai_key = "<openai_key>"

그런 다음 "홈페이지"파일에서 앱을 실행하십시오.

streamlit run 1_?_Home.py

참고 : RAGS 버전을 업그레이드하고 출시시 문제가 발생하면 홈 디렉토리에서 cache 폴더를 삭제해야 할 수도 있습니다 (버전간에 저장된 데이터 구조의 변경 사항을 도입했을 수 있음).

자세한 개요

이 앱에는 위에 나열된 단계에 해당하는 다음 섹션이 포함되어 있습니다.

1.? 홈페이지

이것은 "Builder Agent"를 지시하여 Rag 파이프 라인을 구축하는 섹션입니다. 일반적으로 헝겊 파이프 라인을 설정하려면 다음 구성 요소가 필요합니다.

1. 데이터 세트를 설명하십시오. 현재 우리는 단일 로컬 파일 또는 웹 페이지를 지원합니다. 우리는 여기에 제안에 열려 있습니다!
2. 작업을 설명하십시오. 구체적 으로이 설명은 RAG 파이프 라인에 전원을 공급하는 LLM의 "시스템 프롬프트"를 초기화하는 데 사용됩니다.
3. Rag 설정의 일반적인 매개 변수를 정의하십시오. 매개 변수 목록은 아래 섹션을 참조하십시오.

2. 헝겊 구성

이 섹션에는 이전 섹션에서 "빌더 에이전트"에 의해 생성 된 Rag 매개 변수가 포함되어 있습니다. 이 섹션에는 생성 된 매개 변수를 보여주는 UI가 있으며 필요에 따라 수동으로 편집/변경할 수 있습니다.

현재 매개 변수 세트는 다음과 같습니다.

• 시스템 프롬프트
• 요약 포함 : 요약 도구를 추가 할 것인지 (Top-K 검색 만 수행하는 대신).)
• Top-K
• 청크 크기
• 임베드 모델
• LLM

매개 변수를 수동으로 변경하면 에이전트를 업데이트하려면 "업데이트 에이전트"버튼을 누를 수 있습니다.

 If you don't see the `Update Agent` button, that's because you haven't created the agent yet. Please go to the previous "Home" page and complete the setup process.

우리는 항상 더 많은 매개 변수를 추가하여 이것을보다 "고급"로 만들 수 있지만, 이것이 시작하기에 좋은 곳이라고 생각했습니다.

3. 생성 된 래그 에이전트

래그 에이전트가 만들어지면이 페이지에 액세스 할 수 있습니다.

이것은 래그 에이전트를 쿼리 할 수있는 표준 챗봇 인터페이스이며 데이터에 대한 질문에 답변합니다.

쿼리를 충족시키기 위해 오른쪽 Rag 도구 (Top-K 벡터 검색 또는 선택적으로 요약)를 선택할 수 있습니다.

지원되는 LLM 및 임베딩

빌더 에이전트

기본적으로 빌더 에이전트는 OpenAI를 사용합니다. 이것은 core/builder_config.py 파일에 정의됩니다.

원하는 LLM에이를 사용자 정의 할 수 있습니다 (예는 인류를위한 예제가 제공됩니다).

GPT-4 변형은 실제로 에이전트를 구성하는 측면에서 가장 신뢰할 수있는 결과를 제공합니다 (Claude가 작동 할 수 없었습니다).

생성 된 래그 에이전트

임베딩 모델과 LLM 모두에 대해 자연 언어 또는 수동으로 구성을 설정할 수 있습니다.

• LLM : 다음 LLM을 지원하지만 ID를 빌더 에이전트에 명시 적으로 지정해야합니다.
  • Openai : id는 "OpenAi : <model_name>"예 : "OpenAi : GPT-4-1106- 프리 뷰"입니다.
  • Anthropic : Id는 "Anthropic : <model_name>"예 : "Anthropic : Claude-2"입니다.
  • 복제 : id는 "복제 : <model_name>"입니다.
  • Huggingface : id는 "local : <model_name>"예 : "Local : Baai/Bge-Small-En"입니다.
• 임베딩 : 기본적으로 텍스트-엠 베딩 -ADA-002를 지원하지만 포옹 페이스 모델도 지원합니다. 포옹 페이스 모델을 사용하려면 로컬 (예 : Baai/Bge-Small-En)과 같이 현지인으로 전제하십시오.

자원

문제가 발생합니까? GitHub 문제를 제출하거나 불화에 가입하십시오.

이 앱은 Llamaindex Python으로 제작되었습니다.

여기에서 시작 블로그 게시물을 참조하십시오.