eternal

นิรันดร์

Eternal เป็นแพลตฟอร์มทดลองสำหรับเวิร์กโฟลว์แมชชีนเลิร์นนิง

หมายเหตุ: แอปนี้อยู่ระหว่างดำเนินการและไม่เสถียร โปรดพิจารณา repo นี้เพื่อเป็นข้อมูลอ้างอิงของคุณ เรายินดีต้อนรับผู้มีส่วนร่วมและข้อเสนอแนะที่สร้างสรรค์ คุณสามารถใช้เป็นข้อมูลอ้างอิงสำหรับโครงการของคุณเองได้

Eternal บูรณาการโครงการต่างๆ เช่น llama.cpp , ComfyUI และ codapi ท่ามกลางโครงการอื่นๆ มากมายที่นักพัฒนาใจดีพอที่จะแบ่งปันกับโลก เครดิตทั้งหมดเป็นของผู้มีส่วนร่วมตามลำดับของการขึ้นต่อกันทั้งหมดที่ repo นี้อาศัย ขอบคุณสำหรับการแบ่งปันโครงการของคุณกับคนทั่วโลก

ส่วนหน้า Eternal เรนเดอร์ด้วยเฟรมเวิร์ก HTMX ในตำนาน

สำคัญ:

กำหนดค่าระดับปริมาณของโมเดลใน config.yml ให้เหมาะสมกับข้อกำหนดระบบของคุณ หากโมเดลโลคัลล้มเหลวในการรัน ให้ตรวจสอบสาเหตุโดยการดูไฟล์ main.log ที่สร้างขึ้น สาเหตุที่พบบ่อยที่สุดคือ RAM ไม่เพียงพอหรือเทมเพลตข้อความแจ้งไม่ถูกต้อง เราจะใช้การจัดการข้อผิดพลาดและการบันทึกที่มีประสิทธิภาพมากขึ้นในการดำเนินการในอนาคต

คุณสมบัติ

• การกำหนดค่าและดาวน์โหลดโมเดล ML อย่างง่าย ดูตัวอย่างแคตตาล็อกโมเดลเริ่มต้นใน .config.yml
• การสร้างข้อความโดยใช้โมเดลภาษาท้องถิ่น เช่น Llama-3-8b-Instruct โดย Meta, Codestral โดย Mistral AI และ OpenAI GPT-4o สาธารณะที่ทรงพลัง, Anthropic Sonnet 3.5, Google Gemini (โมเดลสาธารณะต้องใช้คีย์ API ของคุณเอง)
• การดึงข้อมูลเว็บที่ดึงเนื้อหา URL สำหรับ LLM เพื่ออ้างอิง
• การค้นหาเว็บเพื่อดึงผลลัพธ์อันดับต้นๆ โดยอัตโนมัติเพื่อให้ผู้ใช้แจ้งให้ LLM อ้างอิง จำเป็นต้องติดตั้งเบราว์เซอร์ Chrome ไม่จำเป็นต้องเปิดเบราว์เซอร์ เนื่องจาก Eternal จะจัดการอินสแตนซ์ที่ไม่มีส่วนหัวโดยอัตโนมัติ
• การสร้างภาพขั้นสูงโดยใช้แบ็กเอนด์ ComfyUI พร้อมเวิร์กโฟลว์แบบกำหนดเอง Eternal จะปรับใช้และจัดการ ComfyUI โดยอัตโนมัติ

เริ่มต้นใช้งาน

เอกสารพื้นฐานมีอยู่ในโฟลเดอร์ docs ในพื้นที่เก็บข้อมูลนี้

ตู้โชว์

การดึงข้อมูลเว็บ - ค้นหา

• webget : พยายามดึง URL ที่ส่งเข้ามาโดยเป็นส่วนหนึ่งของพรอมต์
• websearch : ค้นหาเว็บสาธารณะสำหรับหน้าเว็บที่เกี่ยวข้องกับข้อความแจ้งของคุณ

จำเป็นต้องติดตั้งเบราว์เซอร์ Chrome

การดำเนินการโค้ด

ดำเนินการและแก้ไขโค้ดที่สร้างโดย LLM ในมุมมองแชทในแซนด์บ็อกซ์ที่ปลอดภัย ในตอนนี้ JavaScript ได้รับการปรับใช้ผ่าน WASM ภาษาอื่น ๆ ในเร็ว ๆ นี้!

การสร้างภาพ

Eternal สามารถสร้างภาพโดยใช้เวิร์กโฟลว์ ComfyUI แบบกำหนดเองอันทรงพลังที่ได้รับการจัดการและปรับแต่งโดยอัตโนมัติเพื่อให้ได้ผลลัพธ์คุณภาพสูง ไม่ต้องปรับแต่งพารามิเตอร์นับร้อยอีกต่อไป อธิบายและสร้าง ตั้งค่าบทบาทเป็น image_bot และเลือก LLM ในพื้นที่หรือสาธารณะเพื่อปรับปรุงคำแนะนำของคุณ

พรอมต์รูปภาพพื้นฐาน

พรอมต์ภาษาขนาดใหญ่ที่ปรับปรุงแล้ว

การกำหนดค่า

เปลี่ยนชื่อไฟล์ .config.yml ที่ให้มาเป็น config.yml และวางไว้ในพาธเดียวกันกับไบนารีของแอปพลิเคชัน แก้ไขเนื้อหาสำหรับสภาพแวดล้อมและกรณีการใช้งานของคุณ

สร้าง

ปัจจุบัน Eternal รองรับการสร้างบน Linux หรือ Windows WSL โดยใช้ CUDA (ต้องใช้ nVidia GPU) หรือ MacOS/Metal (ต้องใช้ Mac ซีรีส์ M)

วิธีสร้างแอปพลิเคชัน:

 $ git clone https://github.com/intelligencedev/eternal.git
$ cd eternal
$ git submodule update --init --recursive
$ make all

กรุณาส่งปัญหาหากคุณพบปัญหาใด ๆ กับกระบวนการสร้าง

การแก้ไขปัญหา

ขอแนะนำให้สร้างสภาพแวดล้อม Python 3.10 conda และสภาพแวดล้อมเสมือนใหม่ก่อนที่จะเปิดตัวแอปพลิเคชันครั้งแรก ซึ่งจะหลีกเลี่ยงข้อความแสดงข้อผิดพลาดที่เกี่ยวข้องกับการติดตั้งแพ็กเกจที่จำเป็น เช่น error: externally-managed-environment

หาก Eternal ไม่สามารถเปิดใช้งานได้ ให้รันคำสั่งต่อไปนี้เพื่อกำหนดค่าสภาพแวดล้อม Conda และ Python venv ใหม่:

 $ conda create -n eternal python=3.10
$ conda activate eternal
$ python python-m venv .
$ source bin/activate

# Apply execute permissions
$ sudo chmod +x ./eternal

# Run the Eternal binary
$ ./eternal

หมายเหตุ: อย่าลืมเปลี่ยนชื่อ .config.yml ที่รวมไว้เป็น config.yml แก้ไขการตั้งค่าสำหรับสภาพแวดล้อมของคุณ และบันทึกไฟล์ในพาธเดียวกับไบนารี Eternal

ข้อสงวนสิทธิ์

README นี้เป็นภาพรวมระดับสูงของแอปพลิเคชัน Eternal คำแนะนำในการตั้งค่าโดยละเอียดและรายการคุณลักษณะทั้งหมด การขึ้นต่อกัน และการกำหนดค่าควรได้รับการพิจารณาในเอกสารประกอบแอปพลิเคชันจริง