หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

AI สหาย v1

ไบนารี่เล็กๆ ตัวเดียวที่มีคุณสมบัติทั้งหมดที่คุณต้องการ!

AI Companion เป็นโครงการที่มีจุดมุ่งหมายเพื่อให้เป็นวิธีที่รวดเร็ว ง่าย เบา และสะดวกในการสร้างแชทบอท AI บนคอมพิวเตอร์ของคุณ โดยไม่จำเป็นต้องใช้ API ภายนอกใดๆ การติดตั้งไลบรารีใดๆ คุณเพียงติดตั้งไฟล์ไบนารี่ที่สอดคล้องกับระบบปฏิบัติการของคุณ ระบบและอุปกรณ์ ดาวน์โหลดโมเดลที่เลือก แล้วคุณสามารถเริ่มใช้เครื่องมือเป็น: WebUI สำหรับการแชทกับ LLM, WebUI สำหรับการสวมบทบาทด้วยตัวละคร AI หรือใช้เป็น API สำหรับโปรเจ็กต์อื่น ๆ ของคุณที่ต้องใช้แชทบอท AI

โปรเจ็กต์นี้มีคุณสมบัติพิเศษมากมาย เช่น หน่วยความจำระยะสั้น, การสนับสนุน CUDA, OpenCL และ Metal, หน่วยความจำระยะยาว, การปรับแต่งบทสนทนา, การจดจำเวลา, การเรียนรู้โดยการแชท, ความสามารถในการทำงานเป็น REST API, การอ่านการ์ดตัวละคร, ง่ายต่อการใช้งาน เพื่อใช้ WebUI ช่วยให้คุณสามารถแก้ไขข้อมูล แก้ไขการกำหนดค่า ส่ง แก้ไขและลบข้อความได้

การติดตั้ง

ดาวน์โหลดไบนารีที่เหมาะสมสำหรับระบบปฏิบัติการและอุปกรณ์ของคุณจากที่นี่ (เช่น ai-companion-windows-cuda.exe ) จากนั้นติดตั้งโมเดล llm ด้วยนามสกุล .gguf (ตัวอย่างอันนี้) เปิดไฟล์ไบนารี ai-companion ถัดไป เปิดเว็บเบราว์เซอร์ของคุณที่ http://localhost:3000 แล้วคุณจะเห็น AI Companion WebUI จากนั้นให้คลิก ไอคอนรูปเฟือง บนเว็บไซต์ ไปที่ config และแทนที่ Path to your Large Language Model (LLM) พร้อมเส้นทางไปยังโมเดล .gguf บนไดรฟ์ของคุณ หลังจากดำเนินการแล้ว คุณก็สามารถเริ่มแชทกับเพื่อนของคุณได้!

คุณสมบัติ

  • ทำงานได้ในพื้นที่ - ไม่ต้องใช้คีย์ API สำหรับบริการอื่น ๆ ซึ่งทำให้ใช้งานได้ฟรีโดยสมบูรณ์ (นอกเหนือจากค่าไฟฟ้า - คอมพิวเตอร์ของคุณจะต้องทำงานด้วยวิธีใดวิธีหนึ่ง) และไม่ต้องใช้อินเทอร์เน็ตในการทำงาน
  • ความเป็นส่วนตัว - การสนทนาทั้งหมดจะถูกเก็บไว้ในฐานข้อมูล SQLite ซึ่งหมายความว่าการสนทนาหรือคุณลักษณะของ AI ของคุณจะอยู่บนคอมพิวเตอร์ของคุณเท่านั้น
  • API - คุณสามารถใช้เป็นแบ็กเอนด์สำหรับโปรเจ็กต์อื่นๆ ของคุณที่ต้องใช้ LLM, แชทบอท ai แบบกำหนดเอง หรืออักขระ ai แบบกำหนดเอง
  • ความเร็ว - เขียนใน Rust แสดงประสิทธิภาพที่ดีเมื่อพูดถึง CPU, GPU (ไม่มีอะไรทำให้การสร้างของคุณช้าลง) และ RAM (คุณไม่จำเป็นต้องใช้โมเดล ai ที่อ่อนแอกว่า)
  • ใช้งานง่าย - ทุกอย่างสามารถเปลี่ยนแปลงได้ในส่วนติดต่อผู้ใช้บนเว็บ และทุกอย่างจะถูกรวบรวมเป็นไฟล์ไบนารีไฟล์เดียวที่สามารถเปิดใช้งานบนเครื่องของคุณได้ (ไม่จำเป็นต้องเล่นกับไฟล์ที่น่าสับสนหลายร้อยไฟล์ และไม่จำเป็นต้องต่อสู้กับไลบรารี/ล่ามที่ไม่ถูกต้อง /เวอร์ชันเฟรมเวิร์ก)
  • การปรับแต่ง - คุณสามารถเปลี่ยนชื่อ AI บุคลิกภาพ ลักษณะที่ปรากฏ และข้อความแรกที่ส่งได้ นอกจากนี้ยังสามารถปรับเปลี่ยนหน่วยความจำระยะสั้นและระยะยาวของ ai ได้อีกด้วย
  • หน่วยความจำระยะสั้น - ปัญญาประดิษฐ์จะจดจำข้อความที่ได้รับ/ส่งล่าสุด
  • หน่วยความจำระยะยาว - AI สามารถจดจำการสนทนาได้แม้กระทั่งการแจ้งเตือนนับพันครั้งในภายหลังโดยใช้หน่วยความจำระยะยาว - เชื่อมโยงสิ่งต่าง ๆ ด้วยคำ วลี ประโยค หรือแม้แต่วันที่ที่แตกต่างกัน
  • การเรียนรู้แบบเรียลไทม์ - เมื่อสนทนากับ AI จะสามารถสร้าง "ความทรงจำ" รวมถึงเรียนรู้เกี่ยวกับผู้คนที่แชทด้วย (อาชีพของพวกเขาคืออะไร ชอบกิน ดื่มอะไร และอื่นๆ)
  • การป้อนข้อมูล ai ด้วยข้อมูลที่กำหนดเอง - การใช้ API ทำให้สามารถบันทึกลงในหน่วยความจำระยะยาวของ AI ได้ เช่น ส่วนของเอกสาร บทความ เนื้อเพลง บทกวี
  • สวมบทบาท - ai chatbot สามารถ (หากเปิดใช้งาน) ดำเนินการระหว่างเครื่องหมายดอกจัน (*) เช่น ขยับเข้ามาใกล้ คลื่นสวัสดี
  • คุณสามารถโหลดไฟล์อักขระในรูปแบบ .json หรือ .png (การ์ดอักขระ) ได้ ตัวอย่างเช่น คุณสามารถสร้างของคุณเองโดยใช้เครื่องมือนี้
  • คุณสามารถใช้ {{char}} และ {{user}} ในบุคลิกของสหาย ตัวอย่างบทสนทนา ข้อความแรก และบุคลิกของผู้ใช้ (หากคุณเปลี่ยนชื่อผู้ใช้หรือชื่อสหาย คุณไม่จำเป็นต้องเปลี่ยนสิ่งเหล่านี้ มันจะเปลี่ยนโดยอัตโนมัติ)
  • เวลา - AI Chatbot สามารถรับข้อมูลเกี่ยวกับเวลาปัจจุบันจากคอมพิวเตอร์ และหน่วยความจำระยะยาวสามารถจดจำวันที่การสนทนาบางอย่างเกิดขึ้น

โมเดล AI ที่รองรับ

รายการโมเดล AI ที่ทดสอบและใช้งานได้บางส่วน:

  • มิสทรัล 7B
  • เซเฟอร์ 7B เบต้า
  • ลามะ 3 8B คำแนะนำ

และโมเดล LLM อื่นๆ อีกมากมายในรูปแบบ .gguf

เอกสารประกอบ API

สามารถดูเอกสาร API ได้ที่นี่

โปรเจ็กต์ที่อิงตาม ai-companion Backend/API/Library

  • ผู้ช่วยท้องถิ่น - ผู้ช่วยเสมือน ai ที่ขับเคลื่อนด้วย llm
  • บอตสหายเมทริกซ์ - บอตแชทที่ใช้ AI ทำงานบนโปรโตคอลเมทริกซ์

ใช้เป็นห้องสมุดหลาม (เลิกใช้แล้ว)

หากคุณกำลังมองหาไลบรารี Python ที่ให้คุณใช้แบ็กเอนด์ ai-companion ในโปรเจ็กต์ของคุณได้ มีอยู่ที่นี่ ai-companion-py

รวบรวมจากซอร์สโค้ด:

ในการสร้างไฟล์ปฏิบัติการที่คุณต้องการ: Node.js และ npm, Rust และ cargo

เพื่อให้ซอฟต์แวร์ใช้งานได้กับ CUDA, OpenCL และ Metal คุณต้องทำตามขั้นตอนที่คล้ายกันกับขั้นตอนในเอกสารนี้

สร้างโคลนคอมไพล์ของที่เก็บ: 

 git clone https://github.com/Hukasx0/ai-companion

ไปที่โฟลเดอร์ 

 cd ai-companion/

ติดตั้งโมดูลโหนด 

 npm i

รวบรวมทุกอย่างเป็นไบนารี่เดียว 

 npm run build-full

หรือ

รวบรวมทุกอย่างเป็นไบนารี่เดียวพร้อมรองรับ CUDA 

 npm run build-full-cuda

หรือ

รวบรวมทุกอย่างเป็นไบนารี่เดียวด้วยการรองรับ OpenCL 

 npm run build-full-opencl

หรือ

รวบรวมทุกอย่างเป็นไบนารี่เดียวด้วยการรองรับ Metal 

 npm run build-full-metal

(หลังจากการคอมไพล์แล้วไบนารีควรอยู่ใน ai-companion/backend/target/release)

แล้วดำเนินการเช่นเดียวกับการติดตั้ง

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด