mainbot

เมนบอท

บอทแชท RAG ที่ไม่มีหัวผู้เช่าหลายราย

นี่เป็นการใช้งานอย่างง่ายของแชทบอตที่มีผู้เช่าหลายรายซึ่งใช้การเรียกข้อมูล Augmented Generation

โค้ดนี้บางส่วนมาจาก Wanderling แต่ฟังก์ชันเฉพาะของเกมและเอ็นจิ้นกฎทั้งหมดได้ถูกตัดแต่งออกไปแล้ว (ยังไม่พร้อมที่จะเปิดซอร์สโค้ดนั้น)

เริ่มต้นอย่างรวดเร็ว

คัดลอกไฟล์ example.env ไปที่ .env
อัปเดตค่าสำหรับ openai และ pinecone

 make dev

เปิด http://localhost:8080/swagger-ui/index.html

ภาพรวม

คุณสมบัติ

• พื้นที่เก็บข้อมูลเวกเตอร์แบบเนมสเปซสำหรับการเตรียมผู้เช่าหลายราย
• การรับรองความถูกต้อง OAuth ผ่านส่วนหัว JWT
• การแยกเซสชันผู้ใช้
• ประวัติเซสชันผู้ใช้และความต่อเนื่อง
• การเพิ่มเอกสารไปยังพื้นที่จัดเก็บเวกเตอร์ด้วยไปป์ไลน์การฝังแบบง่ายๆ
• การดึงข้อมูล Augmented Generation เป็นประสบการณ์การแชทเริ่มต้น

ตัวเลือกการรับรองความถูกต้อง

• ไม่ระบุชื่อ
• เจดับบลิว
• OAuth2

ตัวเลือกการจัดเก็บการสนทนา

• H2
• โพสต์เกรส

ตัวเลือกการจัดเก็บเวกเตอร์

• ไพน์โคน
• เปิดการค้นหา
• ในความทรงจำ

ตัวเลือกการฝังไปป์ไลน์

• OpenAI
• เปิดการค้นหา
• ทำซ้ำ

กร่าง

กำลังเริ่มเซสชั่น

การส่งข้อความ

ตัวอย่างการกำหนดค่า

Spring Profiles ใช้เพื่อกำหนดค่าแอปพลิเคชัน
ดูตัวอย่างการกำหนดค่า (./src/main/resources/)[./src/main/resources/]

การกำหนดค่าสามารถตั้งค่าได้ในตัวแปร YAML คุณสมบัติ หรือสภาพแวดล้อม

OpenAI สำหรับการฝังและ Pinecone สำหรับการจัดเก็บเวกเตอร์

OPENAI_ENABLED=true
OPENAI_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx
OPENAI_CHAT_MODEL_ID=gpt-3.5-turbo
PINECONE_ENABLED=true
PINECONE_API_KEY=xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
PINECONE_PROJECT_NAME=my-project
PINECONE_INDEX=my-index
PINECONE_ENVIRONMENT=us-east4-gcp
APP_SECURITY_ENABLED=false

OpenAI สำหรับการฝังและ OpenSearch สำหรับพื้นที่เก็บข้อมูลเวกเตอร์

ดูการกำหนดค่าแอปพลิเคชันใน application-opensearch.yml สำหรับรายละเอียดเพิ่มเติม

SPRING_PROFILES_ACTIVE=opensearch
OPENAI_ENABLED=true
OPENAI_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx
OPENAI_CHAT_MODEL_ID=gpt-3.5-turbo
OPENSEARCH_URL=https://localhost:9200

GitHub Action ที่จะอัปโหลด

หากคุณจัดเก็บเอกสารไว้ในที่เก็บข้อมูลของคุณ คุณสามารถอัปโหลดเอกสารเหล่านั้นไปยัง mainbot ได้อย่างง่ายดาย
ใช้ประโยชน์จาก GitHub Action เพื่ออัปโหลดไฟล์ข้อความ/มาร์กดาวน์ไปยังเมนบอตโดยตรง

 name : Upload Files to Mainbot

on :
  workflow_dispatch : {} # Manually trigger the workflow
  push :
    branches :
      - main
    paths :
      - ' docs/** '
      - ' README.md '

jobs :
  upload :
    runs-on : ubuntu-latest
    steps :
      - name : Checkout repository
        uses : actions/checkout@v2
      
      - name : Upload Files
        uses : savantly-net/mainbot-github-action@main
        with :
          glob-patterns : ' *.md '  # Set your file pattern here
          namespace : ' /mainbot-documents '
          api-url : ' https://mainbot.my-company.apps.savantly.cloud '
          client-id : ${{ secrets.MAINBOT_CLIENT_ID }}
          client-secret : ${{ secrets.MAINBOT_CLIENT_SECRET }}
          token-endpoint : https://oidc.apps.savantly.cloud/realms/savantly/protocol/openid-connect/token 

การบูรณาการหลังเวที

นอกจากนี้เรายังได้สร้างปลั๊กอิน Backstage เพื่อรวมเข้ากับ mainbot
เมื่อรวมการทำงานของ Github และปลั๊กอิน Techdocs เข้าด้วยกัน คุณสามารถทำให้เอกสารทั้งหมดของคุณพร้อมใช้งานได้ทันทีใน Backstage และค้นหาได้ใน mainbot