Untuk menjalankan proyek maka Anda harus memiliki akses ke API untuk LLM. Saat ini LLM dari proyek GenAI dan ChatGPT dari OpenAI didukung.
Salin config.ini.sample
ke config.ini
lalu isi detail yang sesuai. Perhatikan bahwa jika Anda hanya ingin menggunakan satu penyedia LLM maka Anda dapat meninggalkan contoh pengaturan untuk yang lain.
Petunjuk tentang cara memulai tumpukan GenAI disediakan di sini: https://github.com/docker/genai-stack
Perhatikan bahwa untuk menggunakan GPU di Linux maka Anda perlu memperbarui file docker-compose dengan mengikuti petunjuk di sini: docker/genai-stack#62 (komentar)
LLM diminta untuk menyediakan kategori untuk sampel dokumen dalam repositori dan kemudian dikonsolidasikan ke dalam hierarki. Kategori dibuat di Repositori menggunakan API v1.
Pohon kategori diberikan kepada LLM bersama dengan konten dokumen. LLM diminta untuk memilih kategori yang sesuai untuk konten dan kemudian API v1 digunakan untuk menetapkannya.
Instruksi terperinci tersedia di ringkasan