gradio_RAG

Pengambilan Generasi Augmented

Repositori ini berisi kode dan sumber daya yang terkait dengan Retrieval Augmented Generation (RAG), sebuah teknik yang dirancang untuk mengatasi masalah kesegaran data dalam Model Bahasa Besar (LLM) seperti Llama-2. LLM sering kali kurang memiliki kesadaran akan peristiwa terkini dan informasi terkini. RAG menggabungkan pengetahuan eksternal dari basis pengetahuan ke dalam respons LLM, sehingga memungkinkan respons yang akurat dan beralasan.

Isi Repositori

• src : Berisi kode sumber untuk mengimplementasikan teknik RAG dan interaksi dengan basis pengetahuan.
• data : Menyimpan kumpulan data dan sumber daya yang relevan untuk membangun basis pengetahuan.
• db : Untuk mengelola dan menyimpan penyematan token atau representasi vektor untuk pencarian basis pengetahuan.
• requirements.txt : Paket Python yang diperlukan untuk menjalankan kode di repositori ini.

Tentang RAG (Retrieval Augmented Generation)

RAG adalah pendekatan baru yang menggabungkan kemampuan Model Bahasa Besar (LLM) dengan basis pengetahuan eksternal untuk meningkatkan kualitas dan kesegaran respons yang dihasilkan. Ini mengatasi tantangan informasi usang dengan mengambil pengetahuan yang relevan secara kontekstual dari sumber eksternal dan menggabungkannya ke dalam konten yang dihasilkan LLM.

Tentang Gradio

Gradio adalah pustaka Python yang membantu Anda membuat UI dengan cepat untuk model pembelajaran mesin Anda. Ini memungkinkan Anda menerapkan model dengan cepat dan membuatnya dapat diakses melalui antarmuka yang ramah pengguna tanpa pengembangan frontend yang ekstensif.

Aplikasi Gradio diluncurkan ketika kode gradio_chatbot.py dijalankan. Ini berisi elemen yang dapat dimodifikasi seperti model Penyematan, model Generasi, perintah sistem yang dapat diedit, dan parameter LLM yang dapat disesuaikan.

Tangga

Untuk menggunakan kode dalam repositori ini, ikuti langkah-langkah berikut:

1. Kloning repositori ke mesin lokal Anda.

2. Arahkan ke direktori repositori menggunakan baris perintah.

3. Instal paket yang diperlukan menggunakan perintah berikut:

   pip install -r requirements.txt

4. Jalankan aplikasi chatbot dengan menggunakan perintah:

   python src/gradio_chatbot.py

5. Setelah aplikasi Gradio aktif, unggah dokumen (pdf atau csv), pilih model (penyematan dan pembuatan), sesuaikan parameter yang dapat disetel, mainkan perintah sistem, dan tanyakan apa pun yang Anda perlukan!