อืม x
1.0.0
ส่วนขยายของ Chrome | เว็บ/แอพมือถือ
LLM X จะไม่ทำการเรียก API ภายนอก (ไปข้างหน้า ตรวจสอบแท็บเครือข่ายของคุณและดูส่วนการดึงข้อมูล) การแชทและการสร้างรูปภาพของคุณเป็นแบบส่วนตัว 100% ไซต์/แอปนี้ทำงานแบบออฟไลน์โดยสมบูรณ์
LLM X (เว็บแอป) จะไม่เชื่อมต่อกับเซิร์ฟเวอร์ที่ไม่ปลอดภัย ซึ่งหมายความว่าคุณสามารถใช้ LLM X บน localhost ได้ (ถือเป็นบริบทที่ปลอดภัย) แต่หากคุณพยายามใช้ llm-x ผ่านเครือข่าย เซิร์ฟเวอร์จะต้องมาจาก https ไม่เช่นนั้นเซิร์ฟเวอร์จะไม่ทำงาน
ollama pull llava (หรือใช้แอป)BypassPerfRequirementOLLAMA_ORIGINS = https://mrdjohnson.github.ioOLLAMA_ORIGINS=https://mrdjohnson.github.io ollama serve$env:OLLAMA_ORIGINS="https://mrdjohnson.github.io"; ollama serve )lms server start --cors=true./webui.sh --api --listen --cors-allow-origins "*"OLLAMA_ORIGINS = chrome-extension://iodcdhcpahifeligoegcmcdibdkffclkOLLAMA_ORIGINS=chrome-extension://iodcdhcpahifeligoegcmcdibdkffclk ollama serve$env:OLLAMA_ORIGINS="chrome-extension://iodcdhcpahifeligoegcmcdibdkffclk"; ollama serve )lms server start --cors=true./webui.sh --api --listen --cors-allow-origins "*" ollama serve ของคุณlms server start./webui.sh --api --listenyarn install , yarn previewdocker compose up -dyarn chrome:buildchrome://extensions/llm-x/extensions/chrome/dist | กำลังแสดงโหมดส่วนขยายของ Chrome ด้วย Gemini Nano บนอุปกรณ์ของ Google |
|---|
| กำลังแสดงโหมดส่วนขยายของ Chrome ด้วยวิสัยทัศน์ llama3.2 ของ Ollama |
|---|
| แสดงความสามารถในการรัน ollama และ LM Studio ในเวลาเดียวกัน |
|---|
| บทสนทนาเกี่ยวกับโลโก้ |
|---|
| ตัวอย่างการสร้างภาพ! |
|---|
| แสดงแถบอเนกประสงค์และโค้ด |
|---|
| อวดโค้ดและธีมไลท์ |
|---|
| ตอบเรื่องแมวครับ |
|---|
| น้ำยางสนับสนุน! |
|---|
| การตอบสนองโลโก้อื่น |
|---|
นี่คืออะไร? UI สไตล์ ChatGPT สำหรับกลุ่มคนเฉพาะกลุ่มที่ใช้ Ollama (ลองนึกถึงเซิร์ฟเวอร์ gpt แชทแบบออฟไลน์) ในเครื่อง รองรับการส่งและรับภาพและข้อความ! ทำงานแบบออฟไลน์ ผ่านมาตรฐาน PWA (Progressive Web App) (ยังไม่ตาย!)
ทำไมทำเช่นนี้? ฉันสนใจ LLM UI มาระยะหนึ่งแล้ว และดูเหมือนว่าจะเป็นแอปพลิเคชันแนะนำที่ดี ฉันได้รับการแนะนำให้รู้จักกับเทคโนโลยีสมัยใหม่มากมาย ต้องขอบคุณโปรเจ็กต์นี้เช่นกัน มันสนุกมาก!
ทำไมมีคำฮิตมากมาย? ฉันอดไม่ได้ที่จะผึ้งเจ๋ง?
ผู้ช่วยลอจิก:
ผู้ช่วย UI:
ผู้ช่วยการตั้งค่าโครงการ:
แรงบันดาลใจ: โครงการของ ollama-ui ซึ่งให้ผู้ใช้สามารถเชื่อมต่อกับ ollama ผ่านทางเว็บแอปได้
Perplexity.ai Perplexity มีความก้าวหน้าของ UI ที่น่าทึ่งในพื้นที่ LLM UI และฉันสนใจมากที่จะไปถึงจุดนั้น หวังว่าโปรเจ็กต์เริ่มต้นนี้จะช่วยให้ฉันเข้าใกล้การทำสิ่งที่คล้ายกันมากขึ้น!
(โปรดทราบข้อกำหนดขั้นต่ำของเครื่องยนต์ในแพ็คเกจ json)
โคลนโปรเจ็กต์และรัน yarn ในไดเร็กทอรีราก
yarn dev เริ่มต้นอินสแตนซ์ในเครื่องและเปิดแท็บเบราว์เซอร์ภายใต้ https:// (ด้วยเหตุผล PWA)
มีการพยายามใช้ LangChain.js ในขณะที่กำลังใช้งานแอปนี้ แต่น่าเสียดายที่มันไม่ได้ตั้งค่าอย่างถูกต้องสำหรับการหยุดสตรีมที่เข้ามา ฉันหวังว่าสิ่งนี้จะได้รับการแก้ไขในภายหลังในอนาคต หรือหากเป็นไปได้ สามารถใช้ LLM Agent แบบกำหนดเองเพื่อใช้ LangChain ได้
เดิมทีฉันใช้ create-react-app ? ในขณะที่สร้างโปรเจ็กต์นี้โดยไม่รู้ว่ามันไม่ได้รับการดูแลรักษาอีกต่อไป ตอนนี้ฉันกำลังใช้ Vite - สิ่งนี้ทำให้ฉันสามารถใช้ libs เช่น ollama-js ซึ่งฉันไม่เคยใช้มาก่อน จะมีการทดสอบเพิ่มเติมกับ langchain เร็วๆ นี้
readme นี้เขียนด้วย https://stackedit.io/app
การเปลี่ยนแปลงสาขาหลักทำให้เกิดการปรับใช้ทันทีที่ https://mrdjohnson.github.io/llm-x/
