mainbot

bot utama

Bot obrolan RAG tanpa kepala multi-penyewa.

Ini adalah implementasi sederhana dari bot obrolan multi-penyewa yang menggunakan Retrieval Augmented Generation.

Beberapa kode ini berasal dari Wanderling, tetapi semua fungsi khusus game dan mesin aturan telah dipangkas (belum siap untuk menjadi open source)

Mulai cepat

Salin file example.env ke .env
Perbarui nilai untuk openai dan pinecone.

 make dev

buka http://localhost:8080/swagger-ui/index.html

Ringkasan

Fitur

• Penyimpanan vektor dengan namespace untuk persiapan multi-penyewa
• Otentikasi OAuth melalui header JWT
• Isolasi sesi pengguna
• Riwayat sesi pengguna dan kelanjutannya
• Menambahkan dokumen ke penyimpanan vektor dengan alur penyematan sederhana
• Pengambilan Augmented Generation sebagai pengalaman obrolan default

Opsi Otentikasi

• Anonim
• JWT
• OAuth2

Opsi Penyimpanan Percakapan

• H2
• Postgres

Opsi penyimpanan vektor

• biji pinus
• Pencarian Terbuka
• Dalam Memori

Menyematkan Opsi saluran pipa

• OpenAI
• Pencarian Terbuka
• Mengulangi

Menyombongkan

Memulai sesi

Mengirim pesan

Contoh Konfigurasi

Profil Musim Semi digunakan untuk mengkonfigurasi aplikasi.
Lihat beberapa contoh konfigurasi (./src/main/resources/)[./src/main/resources/]

Konfigurasi dapat diatur dalam variabel YAML, Properties, atau Environment.

OpenAI untuk Penyematan dan Biji Pinus untuk Penyimpanan Vektor

OPENAI_ENABLED=true
OPENAI_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx
OPENAI_CHAT_MODEL_ID=gpt-3.5-turbo
PINECONE_ENABLED=true
PINECONE_API_KEY=xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
PINECONE_PROJECT_NAME=my-project
PINECONE_INDEX=my-index
PINECONE_ENVIRONMENT=us-east4-gcp
APP_SECURITY_ENABLED=false

OpenAI untuk Penyematan dan OpenSearch untuk Penyimpanan Vektor

Lihat konfigurasi aplikasi di application-opensearch.yml untuk lebih jelasnya.

SPRING_PROFILES_ACTIVE=opensearch
OPENAI_ENABLED=true
OPENAI_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx
OPENAI_CHAT_MODEL_ID=gpt-3.5-turbo
OPENSEARCH_URL=https://localhost:9200

Tindakan GitHub untuk diunggah

Jika Anda menyimpan dokumen di repositori, Anda dapat dengan mudah mengunggahnya ke mainbot.
Manfaatkan Tindakan GitHub untuk mengunggah file teks/penurunan harga langsung ke mainbot.

 name : Upload Files to Mainbot

on :
  workflow_dispatch : {} # Manually trigger the workflow
  push :
    branches :
      - main
    paths :
      - ' docs/** '
      - ' README.md '

jobs :
  upload :
    runs-on : ubuntu-latest
    steps :
      - name : Checkout repository
        uses : actions/checkout@v2
      
      - name : Upload Files
        uses : savantly-net/mainbot-github-action@main
        with :
          glob-patterns : ' *.md '  # Set your file pattern here
          namespace : ' /mainbot-documents '
          api-url : ' https://mainbot.my-company.apps.savantly.cloud '
          client-id : ${{ secrets.MAINBOT_CLIENT_ID }}
          client-secret : ${{ secrets.MAINBOT_CLIENT_SECRET }}
          token-endpoint : https://oidc.apps.savantly.cloud/realms/savantly/protocol/openid-connect/token 

Integrasi di Belakang Panggung

Kami juga telah membuat plugin Backstage untuk diintegrasikan dengan mainbot.
Menggabungkan tindakan Github dan plugin Techdocs, Anda dapat membuat semua dokumentasi Anda segera tersedia di Backstage dan dapat dicari di mainbot.