conversational agent langchain
Basic Updates
Ini adalah rest-backend untuk agen percakapan, yang memungkinkan untuk menyulut dokumen, mencari mereka menggunakan pencarian semantik, untuk QA berdasarkan dokumen dan melakukan pemrosesan dokumen dengan model bahasa besar.
Saat ini saya sedang mengerjakan ulang ke Langgraph, oleh karena itu tidak semua versi di Main akan bekerja dengan semua penyedia. Saya akan memperbarui penyedia di minggu -minggu depan. Harap gunakan rilis untuk mendapatkan versi yang berfungsi.
Jika Anda ingin menggunakan aleph alpha Only Backend, saya akan merekomendasikan backend saya yang lain: https://github.com/mfmezger/aleph-alpha-rag.
Untuk menjalankan sistem lengkap dengan Docker gunakan perintah ini:
git clone https://github.com/mfmezger/conversational-agent-langchain.git
cd conversational-agent-langchainBuat file .env dari .env-template dan atur kunci API Qdrant. Untuk tes, atur saja untuk menguji. Qdrant_api_key = "tes"
Kemudian mulai sistem dengan
docker compose up -dKemudian buka http://127.0.0.1:8001/docs atau http://127.0.0.1:8001/redoc untuk melihat dokumentasi API.
Frontend: Localhost: 8501 Qdrant Dashboard: Localhost: 6333/Dashboard
Proyek ini adalah agen percakapan yang menggunakan model bahasa Aleph Alpha dan Openai besar untuk menghasilkan tanggapan terhadap kueri pengguna. Agen juga menyertakan database vektor dan API REST yang dibangun dengan FastAPI.
Fitur
Semantic Search adalah teknik pencarian canggih yang bertujuan untuk memahami makna dan konteks permintaan pengguna, daripada mencocokkan kata kunci. Ini melibatkan pemrosesan bahasa alami (NLP) dan algoritma pembelajaran mesin untuk menganalisis dan menafsirkan niat pengguna, sinonim, hubungan antara kata -kata, dan struktur konten. Dengan mempertimbangkan faktor -faktor ini, pencarian semantik meningkatkan keakuratan dan relevansi hasil pencarian, memberikan pengalaman pengguna yang lebih intuitif dan dipersonalisasi.
Langchain adalah perpustakaan untuk pemrosesan bahasa alami dan pembelajaran mesin. Fastapi adalah kerangka kerja web modern, cepat (kinerja tinggi) untuk membangun API dengan Python 3.7+ berdasarkan petunjuk tipe Python standar. Vectoratabase adalah database yang menyimpan vektor, yang dapat digunakan untuk pencarian kesamaan dan tugas pembelajaran mesin lainnya.
Dua cara untuk mengelola tombol API Anda tersedia, pendekatan termudah adalah dengan mengirim token API dalam permintaan sebagai token. Kemungkinan lain adalah membuat file .env dan menambahkan token API di sana. Jika Anda menggunakan OpenAi dari Azure atau OpenAi secara langsung, Anda perlu mengatur parameter yang benar di file .env.
Di Linux atau Mac Anda perlu menyesuaikan file /etc /hosts Anda untuk memasukkan baris berikut:
127.0.0.1 qdrantPertama instal dependensi Python:
Anda perlu instal rye jika Anda ingin menggunakannya untuk menyinkronkan file persyaratan. Instalasi Rye.
rye sync
# or if you do not want to use rye
pip install -r requirements.lockMulai sistem lengkap dengan:
docker compose up -dUntuk menjalankan database qdrant local, baru saja jalankan:
docker compose up qdrantUntuk menjalankan backend, gunakan perintah ini di direktori root:
poetry run uvicorn agent.api:app --reloadUntuk menjalankan tes, Anda dapat menggunakan perintah ini:
poetry run coverage run -m pytest -o log_cli=true -vvv testsUntuk menjalankan frontend gunakan perintah ini di direktori root:
poetry run streamlit run gui.py --theme.base= " dark "Mypy Rag--Explicit-Package-Base
Qdrant Dashboard tersedia di http://127.0.0.1:6333/dashboard. Di sana Anda harus memasukkan kunci API.
Untuk menggunakan API Qdrant, Anda perlu mengatur parameter yang benar dalam file .env. Qdrant_api_key adalah kunci API untuk API Qdrant. Dan Anda perlu mengubahnya di file qdrant.yaml di folder konfigurasi.
Jika Anda ingin menelan sejumlah besar data, saya akan merekomendasikan Anda menggunakan skrip yang terletak di agen/konsumsi.
Untuk menguji API, saya akan merekomendasikan Bruno. Permintaan API disimpan di folder ConvagentBruno.
