conversational agent langchain
Basic Updates
นี่คือส่วนที่เหลือสำหรับตัวแทนการสนทนาที่อนุญาตให้ฝังเอกสารค้นหาพวกเขาโดยใช้การค้นหาความหมายเพื่อ QA ตามเอกสารและทำการประมวลผลเอกสารด้วยรูปแบบภาษาขนาดใหญ่
ในขณะนี้ฉันกำลังทำงานกับ Langgraph อีกครั้งดังนั้นไม่ใช่ทุกรุ่นใน Main จะทำงานร่วมกับผู้ให้บริการทั้งหมด ฉันจะอัปเดตผู้ให้บริการในสัปดาห์หน้า โปรดใช้รุ่นเพื่อรับเวอร์ชันที่ใช้งานได้
หากคุณต้องการใช้ Aleph Alpha เท่านั้นแบ็กเอนด์ฉันจะแนะนำแบ็กเอนด์อื่น ๆ ของฉัน: https://github.com/mfmezger/aleph-alpha-rag
ในการเรียกใช้ระบบที่สมบูรณ์ด้วย Docker ให้ใช้คำสั่งนี้:
git clone https://github.com/mfmezger/conversational-agent-langchain.git
cd conversational-agent-langchainสร้างไฟล์. env จาก. env-template และตั้งค่าคีย์ qdrant API สำหรับการทดสอบเพียงแค่ตั้งค่าให้ทดสอบ QDRANT_API_KEY = "ทดสอบ"
จากนั้นเริ่มระบบด้วย
docker compose up -dจากนั้นไปที่ http://127.0.0.1:8001/docs หรือ http://127.0.0.1:8001/redoc เพื่อดูเอกสาร API
Frontend: LocalHost: 8501 Qdrant Dashboard: LocalHost: 6333/Dashboard
โครงการนี้เป็นตัวแทนการสนทนาที่ใช้โมเดล Aleph Alpha และ OpenAI ขนาดใหญ่เพื่อสร้างการตอบสนองต่อการสืบค้นผู้ใช้ ตัวแทนยังมีฐานข้อมูลเวกเตอร์และ REST API ที่สร้างขึ้นด้วย fastapi
คุณสมบัติ
Semantic Search เป็นเทคนิคการค้นหาขั้นสูงที่มีจุดมุ่งหมายเพื่อทำความเข้าใจความหมายและบริบทของการสืบค้นของผู้ใช้แทนที่จะจับคู่คำหลัก มันเกี่ยวข้องกับการประมวลผลภาษาธรรมชาติ (NLP) และอัลกอริธึมการเรียนรู้ของเครื่องเพื่อวิเคราะห์และตีความความตั้งใจของผู้ใช้ความหมายคำพ้องความสัมพันธ์ระหว่างคำและโครงสร้างของเนื้อหา โดยการพิจารณาปัจจัยเหล่านี้การค้นหาความหมายจะช่วยเพิ่มความแม่นยำและความเกี่ยวข้องของผลการค้นหาซึ่งให้ประสบการณ์ผู้ใช้ที่ใช้งานง่ายและเป็นส่วนตัวมากขึ้น
Langchain เป็นห้องสมุดสำหรับการประมวลผลภาษาธรรมชาติและการเรียนรู้ของเครื่อง Fastapi เป็นเฟรมเวิร์กเว็บที่ทันสมัยและมีประสิทธิภาพสูง) สำหรับการสร้าง APIs ด้วย Python 3.7+ ตามคำแนะนำประเภท Python มาตรฐาน vectordatabase เป็นฐานข้อมูลที่เก็บเวกเตอร์ซึ่งสามารถใช้สำหรับการค้นหาที่คล้ายคลึงกันและงานการเรียนรู้ของเครื่องอื่น ๆ
สองวิธีในการจัดการคีย์ API ของคุณมีให้วิธีที่ง่ายที่สุดคือการส่งโทเค็น API ในคำขอเป็นโทเค็น ความเป็นไปได้อีกอย่างหนึ่งคือการสร้างไฟล์. env และเพิ่มโทเค็น API ที่นั่น หากคุณใช้ OpenAI จาก Azure หรือ OpenAI โดยตรงคุณต้องตั้งค่าพารามิเตอร์ที่ถูกต้องในไฟล์. ENV
บน Linux หรือ Mac คุณต้องปรับไฟล์ /etc /hosts ของคุณเพื่อรวมบรรทัดต่อไปนี้:
127.0.0.1 qdrantการติดตั้ง Python ก่อนหน้านี้:
คุณต้องติดตั้งไรย์หากคุณต้องการใช้เพื่อซิงค์ไฟล์ล็อคข้อกำหนด การติดตั้งไรย์
rye sync
# or if you do not want to use rye
pip install -r requirements.lockเริ่มระบบที่สมบูรณ์ด้วย:
docker compose up -dในการเรียกใช้ฐานข้อมูล QDDRANT ท้องถิ่นเพียงแค่เรียกใช้:
docker compose up qdrantในการเรียกใช้แบ็กเอนด์ใช้คำสั่งนี้ในไดเรกทอรีรูท:
poetry run uvicorn agent.api:app --reloadในการเรียกใช้การทดสอบคุณสามารถใช้คำสั่งนี้:
poetry run coverage run -m pytest -o log_cli=true -vvv testsในการเรียกใช้ส่วนหน้าใช้คำสั่งนี้ในไดเรกทอรีรูท:
poetry run streamlit run gui.py --theme.base= " dark "Mypy Rag-ฐานบรรจุภัณฑ์ที่ชัดเจน
DDRANT DASHBOARD มีให้ที่ http://127.0.0.1:6333/dashboard ที่นั่นคุณต้องป้อนคีย์ API
ในการใช้ QDDRANT API คุณต้องตั้งค่าพารามิเตอร์ที่ถูกต้องในไฟล์. ENV QDRANT_API_KEY เป็นคีย์ API สำหรับ QDDRANT API และคุณต้องเปลี่ยนมันในไฟล์ QDDRANT.YAML ในโฟลเดอร์ CONFID
หากคุณต้องการบริโภคข้อมูลจำนวนมากฉันขอแนะนำให้คุณใช้สคริปต์ที่อยู่ในตัวแทน/การบริโภค
ในการทดสอบ API ฉันอยากจะแนะนำบรูโน่ คำขอ API เป็นร้านค้าในโฟลเดอร์ ConvagentBruno
