หากต้องการดำเนินโครงการ คุณจะต้องมีสิทธิ์เข้าถึง API สำหรับ LLM ปัจจุบันรองรับ LLM จากโครงการ GenAI และ ChatGPT จาก OpenAI
คัดลอก config.ini.sample
ไปยัง config.ini
จากนั้นกรอกรายละเอียดที่เหมาะสม โปรดทราบว่าหากคุณต้องการใช้ผู้ให้บริการ LLM เพียงรายเดียว คุณสามารถคงการตั้งค่าตัวอย่างไว้ให้กับอีกรายหนึ่งได้
คำแนะนำเกี่ยวกับวิธีเริ่มต้นใช้งาน GenAI stack มีอยู่ที่นี่: https://github.com/docker/genai-stack
โปรดทราบว่าหากต้องการใช้ GPU บน Linux คุณจะต้องอัปเดตไฟล์ docker-compose โดยทำตามคำแนะนำที่นี่: docker/genai-stack#62 (ความคิดเห็น)
LLM จะถูกขอให้จัดเตรียมหมวดหมู่สำหรับตัวอย่างเอกสารในพื้นที่เก็บข้อมูล จากนั้นจะรวมเอกสารเหล่านี้เข้าเป็นลำดับชั้น หมวดหมู่จะถูกสร้างขึ้นในพื้นที่เก็บข้อมูลโดยใช้ v1 API
แผนผังหมวดหมู่มีให้กับ LLM พร้อมกับเนื้อหาของเอกสาร LLM จะถูกขอให้เลือกหมวดหมู่ที่เหมาะสมสำหรับเนื้อหา จากนั้นจะใช้ v1 API เพื่อกำหนดหมวดหมู่เหล่านั้น
คำแนะนำโดยละเอียดมีอยู่ในตัวสรุป