next gen rag

차세대 검색 증강 세대(RAG)

소개

이는 차세대 RAG(Retrieval Augmented Generation) 기술 발전을 전담하는 협업 허브입니다. 이 저장소는 AI 기반 정보 검색 및 생성의 미래를 형성하는 최첨단 발전을 발견, 개발 및 공유하는 것을 목표로 진화하는 RAG 환경의 동적 탐색에 중점을 두고 있습니다.

목표

이 저장소는 AI 기반 정보 검색 및 생성의 미래를 형성하는 최첨단 발전 사항을 발견, 개발 및 공유하는 것을 목표로 진화하는 RAG 환경에 대한 역동적인 탐색을 시작합니다.

목표

이 저장소의 주요 목표는 다음과 같습니다.

• 혁신 및 탐색 : 새로운 개념, 방법론 및 아키텍처를 탐색하여 현재 RAG 기술의 경계를 넓힙니다.
• 공동 연구 : RAG 분야를 발전시키기 위해 함께 일하는 연구원, 개발자 및 열광적인 커뮤니티를 육성합니다.
• 지식 공유 : 최첨단 개발, 개념적 발전, RAG 및 해당 응용 프로그램에 대한 통찰력 있는 토론을 위한 포괄적인 리소스 역할을 합니다.
• 실제 영향 : 이론적 발전을 정보 검색 및 텍스트 생성의 실제 문제를 해결하는 실용적인 솔루션으로 변환합니다.

관심 주제

이 저장소는 다음을 포함하되 이에 국한되지 않는 RAG 영역 및 관련 영역 내의 광범위한 주제에 중점을 둡니다.

• 시맨틱 라우팅
• 지식통합
• 고급 쿼리 처리
• 순위
  • 대규모 언어 모델을 사용한 효과적이고 효율적인 텍스트 순위 지정 전략
  • Direct Preference Optimization을 사용하여 LLM Re-ranker 교육
  • 중간에서 길을 잃다: 언어 모델이 긴 컨텍스트를 사용하는 방법
    1. 플래시 랭크
    2. 긴 컨텍스트 검색기
• 보안:
  • (할 일: 탐색 스레드 추가)ComPromptMized: GenAI 기반 애플리케이션을 대상으로 하는 제로 클릭 웜 방출

저장소 구조

• 노트북/ : 연구, 실험, 데모가 포함된 Jupyter 노트북입니다. 각 노트북에는 지침과 설명이 포함되어 있습니다.
• docs/ : 개념, 기술 및 결과에 대한 추가 문서입니다.
• data/ : 실험에 사용되는 샘플 데이터세트입니다(todo: 데이터세트 추가).
• scripts/ : 유틸리티 스크립트 및 코드 조각(todo: 스크립트 추가).

진행 중

• 동급 최고의 ReRanker? 바삭바삭한 혼합빵 모델 순위 재지정으로 검색 성능을 향상하세요

• Matryoshka 임베딩 모델

• [qdrant / fastembed] (https://github.com/qdrant/fastembed)

백로그

• CohereForAI/c4ai-command-r-v01 (Cohere의 350억 매개변수 모델)

로드맵

• 사람의 피드백을 활용한 LLM 순위 재지정
• 보안: Gen-AI 제로클릭 웜
• 적을수록 좋습니다: 특히 함수 호출 데이터 세트를 준비하는 맥락에서 https://arxiv.org/abs/2305.11206