หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

ฟาร์ฟาลเล

เครื่องมือค้นหาที่ขับเคลื่อนด้วย AI แบบโอเพ่นซอร์ส (โคลนความสับสน)

เรียกใช้ LLM ท้องถิ่น ( llama3 , gemma , Mistral , phi3 ) LLM แบบกำหนดเองผ่าน LiteLLM หรือใช้โมเดลคลาวด์ ( Groq/Llama3 , OpenAI/gpt4-o )

farfalle-ผู้เชี่ยวชาญ-search.mp4

โปรดติดต่อฉันทาง Twitter หรือสร้างปัญหาหากคุณมีคำถามใด ๆ

การสาธิตสด

farfalle.dev (รุ่นคลาวด์เท่านั้น)

ภาพรวม

  • เทคสแต็ค
  • ??‍♂️ เริ่มต้นใช้งาน
  • ปรับใช้

️โรดแมป

  • เพิ่มการสนับสนุนสำหรับ LLM ท้องถิ่นผ่าน Ollama
  • การตั้งค่าการปรับใช้นักเทียบท่า
  • เพิ่มการสนับสนุนสำหรับ searxng ขจัดความจำเป็นในการพึ่งพาภายนอก
  • สร้างอิมเมจ Docker ที่สร้างไว้ล่วงหน้า
  • เพิ่มการรองรับ LLM แบบกำหนดเองผ่าน LiteLLM
  • ประวัติการแชท
  • ค้นหาผู้เชี่ยวชาญ
  • สนทนากับไฟล์ในเครื่อง

เทคสแต็ค

  • ส่วนหน้า: Next.js
  • แบ็กเอนด์: FastAPI
  • ค้นหา API: SearXNG, Tavily, Serper, Bing
  • การบันทึก: Logfire
  • การจำกัดอัตรา: Redis
  • ส่วนประกอบ: shadcn/ui

คุณสมบัติ

  • ค้นหาด้วยผู้ให้บริการค้นหาหลายราย (Tavily, Searxng, Serper, Bing)
  • ตอบคำถามด้วยโมเดลคลาวด์ (OpenAI/gpt4-o, OpenAI/gpt3.5-turbo, Groq/Llama3)
  • ตอบคำถามด้วยโมเดลท้องถิ่น (llama3, Mistral, gemma, phi3)
  • ตอบคำถามด้วย LLM แบบกำหนดเองผ่าน LiteLLM
  • ค้นหากับตัวแทนที่วางแผนและดำเนินการค้นหาเพื่อให้ได้ผลลัพธ์ที่ดียิ่งขึ้น

??‍♂️ เริ่มต้นในพื้นที่

ข้อกำหนดเบื้องต้น

  • นักเทียบท่า
  • Ollama (หากใช้รุ่นท้องถิ่น)
    • ดาวน์โหลดรุ่นที่รองรับ: llama3 , mistral , gemma , phi3
    • เริ่มเซิร์ฟเวอร์ ollama ollama serve

รับคีย์ API

  • ทาวิลี (ไม่จำเป็น)
  • เซิร์ฟเวอร์ (ไม่จำเป็น)
  • OpenAI (ไม่บังคับ)
  • ปิง (ไม่จำเป็น)
  • กร็อค (ไม่จำเป็น)

เริ่มต้นอย่างรวดเร็ว: 

 git clone https://github.com/rashadphz/farfalle.git
cd farfalle && cp .env-template .env

แก้ไข .env ด้วยคีย์ API ของคุณ (ไม่บังคับ ไม่จำเป็นหากใช้ Ollama)

เริ่มแอป: 

 docker-compose -f docker-compose.dev.yaml up -d

รอให้แอปเริ่มต้น จากนั้นไปที่ http://localhost:3000

สำหรับคำแนะนำในการตั้งค่าแบบกำหนดเอง โปรดดูที่ custom-setup-instructions.md

ปรับใช้

แบ็กเอนด์

หลังจากใช้งานแบ็กเอนด์แล้ว ให้คัดลอก URL บริการเว็บไปยังคลิปบอร์ดของคุณ ควรมีลักษณะดังนี้: https://some-service-name.onrender.com

ส่วนหน้า

ใช้ URL แบ็กเอนด์ที่คัดลอกไว้ในตัวแปรสภาพแวดล้อม NEXT_PUBLIC_API_URL เมื่อปรับใช้กับ Vercel

และคุณทำเสร็จแล้ว! -

ใช้ Farfalle เป็นเครื่องมือค้นหา

หากต้องการใช้ Farfalle เป็นเครื่องมือค้นหาเริ่มต้นของคุณ ให้ทำตามขั้นตอนเหล่านี้:

  1. เยี่ยมชมการตั้งค่าเบราว์เซอร์ของคุณ
  2. ไปที่ 'เครื่องมือค้นหา'
  3. สร้างรายการเครื่องมือค้นหาใหม่โดยใช้ URL นี้: http://localhost:3000/?q=%s
  4. เพิ่มเครื่องมือค้นหา
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด