หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>โค้ดแหล่งที่มา AI
ดาวน์โหลด

pyLLMSearch - RAG ขั้นสูง

เอกสารประกอบ

วัตถุประสงค์ของแพ็คเกจนี้คือการนำเสนอระบบการตอบคำถาม (RAG) ที่สะดวกสบายพร้อมการกำหนดค่าแบบ YAML ที่เรียบง่ายซึ่งช่วยให้สามารถโต้ตอบกับคอลเลกชันเอกสารในเครื่องหลายชุด มีการให้ความสนใจเป็นพิเศษในการปรับปรุงองค์ประกอบต่างๆ ของระบบ นอกเหนือจาก RAG ที่ใช้ LLM พื้นฐาน - การแยกวิเคราะห์เอกสารที่ดีขึ้น การค้นหาแบบไฮบริด การค้นหาที่เปิดใช้งาน HyDE ประวัติการแชท การเชื่อมโยงในเชิงลึก การจัดอันดับใหม่ ความสามารถในการปรับแต่งการฝัง และอื่นๆ . แพ็คเกจนี้ออกแบบมาเพื่อทำงานกับ Large Language Models (LLM) แบบกำหนดเอง ไม่ว่าจะมาจาก OpenAI หรือติดตั้งในเครื่อง

คุณสมบัติ

  • รูปแบบที่รองรับ

    • ตัวแยกวิเคราะห์บิวด์อิน:
      • .md - แบ่งไฟล์ตามส่วนประกอบเชิงตรรกะ เช่น ส่วนหัว หัวข้อย่อย และบล็อกโค้ด รองรับฟีเจอร์เพิ่มเติม เช่น การล้างลิงก์รูปภาพ การเพิ่มข้อมูลเมตาที่กำหนดเอง และอื่นๆ
      • .pdf - ตัวแยกวิเคราะห์ที่ใช้ MuPDF
      • .docx - ตัวแยกวิเคราะห์แบบกำหนดเอง รองรับตารางที่ซ้อนกัน
    • รูปแบบทั่วไปอื่นๆ ได้รับการสนับสนุนโดยพรีโปรเซสเซอร์ Unstructured :
      • รายการรูปแบบดูที่นี่

  • รองรับการแยกวิเคราะห์ตารางผ่านโอเพ่นซอร์ส gmft (https://github.com/conjuncts/gmft) หรือ Azure Document Intelligence

  • การสนับสนุนเพิ่มเติมสำหรับการแยกวิเคราะห์รูปภาพโดยใช้ Gemini API

  • รองรับการรวบรวมเอกสารหลายชุด และกรองผลลัพธ์ตามคอลเลกชัน

  • ความสามารถในการอัปเดตการฝังแบบเพิ่มทีละน้อย โดยไม่จำเป็นต้องสร้างดัชนีฐานเอกสารทั้งหมดใหม่

  • สร้างการฝังแบบหนาแน่นจากโฟลเดอร์เอกสารและจัดเก็บไว้ในฐานข้อมูลเวกเตอร์ (ChromaDB)

    • รองรับโมเดลการฝังต่อไปนี้:
      • การฝังใบหน้ากอด
      • โมเดลที่ใช้ประโยค - หม้อแปลงไฟฟ้า เช่น multilingual-e5-base
      • โมเดลที่อิงผู้สอน เช่น instructor-large

  • สร้างการฝังแบบกระจายโดยใช้ SPLADE (https://github.com/naver/splade) เพื่อเปิดใช้งานการค้นหาแบบไฮบริด (เบาบาง + หนาแน่น)

  • รองรับกลยุทธ์ "ดึงข้อมูลและจัดอันดับใหม่" สำหรับการค้นหาเชิงความหมาย ดูที่นี่

    • นอกจากตัวเข้ารหัสข้าม ms-marco-MiniLM เดิมแล้ว ยังรองรับ bge-reranker ที่ทันสมัยกว่าด้วย

  • รองรับ HyDE (การฝังเอกสารสมมุติ) - ดูที่นี่

    • คำเตือน: การเปิดใช้งาน HyDE (ผ่านการกำหนดค่าหรือเว็บแอป) อาจเปลี่ยนแปลงคุณภาพของผลลัพธ์ได้อย่างมาก โปรดตรวจสอบให้แน่ใจว่าได้อ่านบทความก่อนที่จะเปิดใช้งาน
    • จากการทดลองของฉันเอง การเปิดใช้งาน HyDE จะช่วยเพิ่มคุณภาพของผลลัพธ์ในหัวข้อที่ผู้ใช้ไม่สามารถกำหนดคำถามโดยใช้ภาษาเฉพาะโดเมนของหัวข้อได้อย่างมาก เช่น เมื่อเรียนรู้หัวข้อใหม่

  • รองรับการสืบค้นหลายรายการโดยได้รับแรงบันดาลใจจาก RAG Fusion - https://towardsdatascience.com/forget-rag-the-future-is-rag-fusion-1147298d8ad1

    • เมื่อเปิดการสืบค้นหลายรายการ (ทั้งการกำหนดค่าหรือเว็บแอป) การสืบค้นดั้งเดิมจะถูกแทนที่ด้วย 3 รูปแบบของการสืบค้นเดียวกัน ซึ่งช่วยลดช่องว่างในคำศัพท์และ "เสนอมุมหรือมุมมองที่แตกต่างกัน" ตามบทความ

  • รองรับประวัติการแชทเสริมพร้อมบริบทคำถาม

  • อนุญาตให้โต้ตอบกับเอกสารที่ฝังไว้ รองรับโมเดลและวิธีการต่อไปนี้ภายใน (รวมถึงโฮสต์ในเครื่อง):

    • โมเดล OpenAI (ChatGPT 3.5/4 และ Azure OpenAI)
    • โมเดลกอดใบหน้า
    • รุ่นที่รองรับ Llama cpp - สำหรับรายการทั้งหมดดูที่นี่
    • โมเดล AutoGPTQ (ปิดใช้งานชั่วคราวเนื่องจากการพึ่งพาที่เสียหาย)

  • การทำงานร่วมกันกับ LiteLLM + Ollama ผ่าน OpenAI API ซึ่งรองรับโมเดลต่างๆ หลายร้อยรุ่น (ดูการกำหนดค่าโมเดลสำหรับ LiteLLM)

  • คุณสมบัติอื่นๆ

    • CLI แบบธรรมดาและอินเทอร์เฟซเว็บ
    • การเชื่อมโยงเชิงลึกไปยังส่วนของเอกสาร - ข้ามไปยังหน้า PDF แต่ละหน้าหรือส่วนหัวในไฟล์มาร์กดาวน์
    • ความสามารถในการบันทึกการตอบกลับไปยังฐานข้อมูลออฟไลน์เพื่อการวิเคราะห์ในอนาคต
    • API ทดลอง

สาธิต

สาธิต

เอกสารประกอบ

เรียกดูเอกสารประกอบ

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด