minichat

มินิแชท

UI แชท LLM ที่เรียบง่าย ซึ่งได้รับแรงบันดาลใจจาก Fooocus และ Pi

หากคุณมีตำแหน่งข้อมูล API ที่เปิดใช้งาน CORS คุณสามารถลองใช้ได้ที่นี่

เป้าหมายคือการมุ่งเน้นไปที่เนื้อหาและซ่อนการแก้ไขและปรับแต่งให้มากที่สุด

เราเน้นเนื้อหาโดยใช้ตัวพิมพ์หนาและการออกแบบที่เรียบง่าย

การกำหนดค่า

เราพยายามทำให้การกำหนดค่าน้อยที่สุดแต่มีความยืดหยุ่น

MiniChat รองรับ API ที่เข้ากันได้กับ OpenAI โปรดดูส่วน Docker Compose สำหรับการรัน MiniChat กับผู้ให้บริการโมเดลต่างๆ โดยใช้ประโยชน์จากเกตเวย์ เช่น Portkey

นักเทียบท่า

คุณสามารถเรียกใช้ MiniChat ด้วย Docker ได้ รูปภาพมีขนาดน้อยกว่า 2MB

 docker run -p 3216:3216 ghcr.io/functorism/minichat:master

นักเทียบท่าเขียน

โอลามา

วิ่ง

 docker compose -f docker-compose-ollama.yml up
docker exec minichat-ollama-1 ollama pull llama3:8b

การตั้งค่า UI:

• รุ่น: llama3:8b
• URL ของ OpenAI API: http://localhost:11434/v1
• คีย์ API: unused-for-ollama

พอร์ตคีย์

วิ่ง

 docker compose -f docker-compose-portkey.yml up

การตั้งค่า UI:

• รุ่น: claude-3-5-sonnet-20240620
• URL ของ OpenAI API: http://localhost:8080/http://portkey:8787/v1
• คีย์ API: sk-...
• ส่วนหัว
  • x-portkey-ผู้ให้บริการ: anthropic

การอนุมานการสร้างข้อความ HuggingFace

วิ่ง

 docker compose -f docker-compose-tf-tgi.yml up

การตั้งค่า UI:

• รุ่น: HuggingFaceH4/zephyr-7b-beta
• URL ของ OpenAI API: http://localhost:8080/v1
• คีย์ API: unused-for-hf-tgi
• ส่วนหัว
  • ทำเครื่องหมาย "ส่งส่วนหัวขั้นต่ำ"