rags

Rags

Build.a.rags.bot.powered.by.llamaindex .-. 26.november.2023.mp4

Rags adalah aplikasi streamlit yang memungkinkan Anda membuat pipa kain dari sumber data menggunakan bahasa alami.

Anda bisa melakukan hal berikut:

1. Jelaskan tugas Anda (misalnya "Muat halaman web ini") dan parameter yang Anda inginkan dari sistem kain Anda (misalnya "Saya ingin mengambil x jumlah dokumen")
2. Masuk ke tampilan konfigurasi dan tampilan/ubah parameter yang dihasilkan (top-K, ringkasan, dll.) Sesuai kebutuhan.
3. Permintaan agen kain atas data dengan pertanyaan Anda.

Proyek ini terinspirasi oleh GPTS, diluncurkan oleh Openai.

Instalasi dan Pengaturan

Kloning proyek ini, masuk ke folder proyek rags . Kami merekomendasikan membuat env virtual untuk dependensi ( python3 -m venv .venv ).

 poetry install --with dev

Secara default, kami menggunakan OpenAi untuk agen pembangun maupun agen kain yang dihasilkan. Tambahkan .streamlit/secrets.toml di folder rumah.

Kemudian letakkan yang berikut:

 openai_key = "<openai_key>"

Kemudian jalankan aplikasi dari file "Halaman Beranda".

streamlit run 1_?_Home.py

Catatan : Jika Anda telah meningkatkan versi Rags, dan Anda mengalami masalah saat peluncuran, Anda mungkin perlu menghapus folder cache di direktori home Anda (kami mungkin telah memperkenalkan perubahan besar dalam struktur data yang tersimpan antara versi).

Tinjauan Detail

Aplikasi berisi bagian berikut, sesuai dengan langkah -langkah yang tercantum di atas.

1.? Halaman Beranda

Ini adalah bagian di mana Anda membangun pipa kain dengan menginstruksikan "Agen Pembangun". Biasanya untuk mengatur pipa kain Anda memerlukan komponen berikut:

1. Jelaskan dataset. Saat ini kami mendukung satu file lokal atau halaman web . Kami terbuka untuk saran di sini!
2. Jelaskan tugasnya. Konkret deskripsi ini akan digunakan untuk menginisialisasi "prompt sistem" dari LLM yang memberi daya pada pipa kain.
3. Tentukan parameter khas untuk pengaturan kain. Lihat bagian di bawah ini untuk daftar parameter.

2. Konfigurasi Rag

Bagian ini berisi parameter RAG, yang dihasilkan oleh "Agen Pembangun" di bagian sebelumnya. Di bagian ini, Anda memiliki UI yang menampilkan parameter yang dihasilkan dan memiliki kebebasan penuh untuk mengedit/mengubahnya secara manual.

Saat ini himpunan parameter adalah sebagai berikut:

• Sistem prompt
• Sertakan ringkasan: apakah juga akan menambahkan alat peringkasan (bukan hanya melakukan pengambilan top-k.)
• Top-K
• Ukuran chunk
• Model Embed
• Llm

Jika Anda mengubah parameter secara manual, Anda dapat menekan tombol "Perbarui Agen" untuk memperbarui agen.

 If you don't see the `Update Agent` button, that's because you haven't created the agent yet. Please go to the previous "Home" page and complete the setup process.

Kami selalu dapat menambahkan lebih banyak parameter untuk membuat ini lebih "canggih", tetapi berpikir ini akan menjadi tempat yang baik untuk memulai.

3. Agen kain yang dihasilkan

Setelah agen kain Anda dibuat, Anda memiliki akses ke halaman ini.

Ini adalah antarmuka chatbot standar di mana Anda dapat menanyakan agen kain dan itu akan menjawab pertanyaan atas data Anda.

Ini akan dapat memilih alat kain kanan (baik pencarian vektor top atau ringkasan opsional) untuk memenuhi kueri.

LLM dan embeddings yang didukung

Agen pembangun

Secara default, agen pembangun menggunakan Openai. Ini didefinisikan dalam file core/builder_config.py .

Anda dapat menyesuaikan ini dengan LLM apa pun yang Anda inginkan (contoh disediakan untuk antropik).

Perhatikan bahwa varian GPT-4 akan memberikan hasil yang paling dapat diandalkan dalam hal benar-benar membangun agen (kami tidak bisa membuat Claude bekerja).

Agen kain yang dihasilkan

Anda dapat mengatur konfigurasi baik melalui bahasa alami atau secara manual untuk model embedding dan LLM.

• LLM : Kami mendukung LLMS berikut, tetapi Anda perlu secara eksplisit menentukan ID ke agen pembangun.
  • OpenAI: ID adalah "OpenAI: <Model_name>" misalnya "OpenAI: GPT-4-1106-preview"
  • Antropik: ID adalah "Antropik: <podel_name>" misalnya "Antropik: Claude-2"
  • Replikat: ID adalah "Replikasi: <Model_name>"
  • HuggingFace: ID adalah "Lokal: <Model_name>" misalnya "Lokal: Baai/BGE-Small-en"
• Embeddings : Mendukung teks-embedding-002 secara default, tetapi juga mendukung model wajah yang memeluk. Untuk menggunakan model wajah memeluk, cukup diatur dengan lokal, misalnya lokal: baai/bge-small-en.

Sumber daya

Mengalami masalah? Harap ajukan masalah github atau bergabunglah dengan perselisihan kami.

Aplikasi ini dibangun dengan llamaindex python.

Lihat posting blog peluncuran kami di sini.