TaskingAI

TaskingAI

TaskingAI เป็นแพลตฟอร์ม BaaS (แบ็กเอนด์เป็นบริการ) สำหรับ การพัฒนาและการปรับใช้ตัวแทนที่ใช้ LLM เป็นการรวมการรวมโมเดล LLM หลายร้อยรุ่นเข้าด้วยกัน และมอบอินเทอร์เฟซผู้ใช้ที่ใช้งานง่ายสำหรับจัดการโมดูลการทำงานของแอปพลิเคชัน LLM ของคุณ รวมถึงเครื่องมือ ระบบ RAG ผู้ช่วย ประวัติการสนทนา และอื่นๆ

คุณสมบัติที่สำคัญ

1. แพลตฟอร์ม LLM แบบ All-In-One : เข้าถึงโมเดล AI หลายร้อยโมเดลด้วย API แบบครบวงจร
2. การปรับปรุงมากมาย : ปรับปรุงประสิทธิภาพของตัวแทน LLM ด้วย เครื่องมือ ในตัวที่ปรับแต่งได้หลายร้อยรายการและระบบ การดึงข้อมูล-Augmented Generation (RAG) ขั้นสูง
3. ขั้นตอนการทำงานที่ได้แรงบันดาลใจจาก BaaS : แยกตรรกะ AI (ฝั่งเซิร์ฟเวอร์) ออกจากการพัฒนาผลิตภัณฑ์ (ฝั่งไคลเอ็นต์) นำเสนอเส้นทางที่ชัดเจนตั้งแต่การสร้างต้นแบบบนคอนโซลไปจนถึงโซลูชันที่ปรับขนาดได้โดยใช้ RESTful API และ SDK ไคลเอนต์
4. คลิกเดียวเพื่อใช้งานจริง : ปรับใช้ตัวแทน AI ของคุณด้วยการคลิกเพียงครั้งเดียวเพื่อเข้าสู่ขั้นตอนการผลิต และปรับขนาดได้อย่างง่ายดาย ให้ TaskingAI จัดการส่วนที่เหลือ
5. ประสิทธิภาพแบบอะซิงโครนัส : ควบคุมคุณสมบัติอะซิงโครนัสของ Python FastAPI เพื่อการประมวลผลประสิทธิภาพสูงพร้อมกัน ปรับปรุงการตอบสนองและความสามารถในการปรับขนาดของแอปพลิเคชัน
6. คอนโซล UI ที่ใช้งานง่าย : ลดความซับซ้อนในการจัดการโครงการและอนุญาตการทดสอบเวิร์กโฟลว์ในคอนโซล

บูรณาการ

โมเดล : TaskingAI เชื่อมต่อกับ LLM หลายร้อยรายการจากผู้ให้บริการหลายราย รวมถึง OpenAI, Anthropic และอื่นๆ อีกมากมาย เรายังอนุญาตให้ผู้ใช้รวมโมเดลโฮสต์ในเครื่องผ่าน Ollama, LM Studio และ Local AI

ปลั๊กอิน : TaskingAI รองรับปลั๊กอินในตัวที่หลากหลายเพื่อเสริมศักยภาพให้กับตัวแทน AI ของคุณ รวมถึงการค้นหาโดย Google โปรแกรมอ่านเว็บไซต์ การสืบค้นตลาดหุ้น และอื่นๆ ผู้ใช้ยังสามารถสร้างเครื่องมือแบบกำหนดเองเพื่อตอบสนองความต้องการเฉพาะของตนได้

---

ทำไมต้อง TaskingAI?

ปัญหากับแนวทางแก้ไขที่มีอยู่ ?

LangChain เป็นเฟรมเวิร์กเครื่องมือสำหรับการพัฒนาแอปพลิเคชัน LLM แต่ต้องเผชิญกับข้อจำกัดในทางปฏิบัติ:

• ภาวะไร้สัญชาติ : อาศัยบริการฝั่งไคลเอ็นต์หรือภายนอกเพื่อการจัดการข้อมูล
• ความท้าทายด้านความสามารถในการขยายขนาด : การไร้สัญชาติส่งผลกระทบต่อการจัดการข้อมูลที่สอดคล้องกันในเซสชันต่างๆ
• การพึ่งพาภายนอก : ขึ้นอยู่กับทรัพยากรภายนอก เช่น SDK โมเดลและพื้นที่จัดเก็บเวกเตอร์

Assistant API ของ OpenAI เป็นเลิศในการมอบฟังก์ชันการทำงานที่คล้ายกับ GPT แต่มาพร้อมกับข้อจำกัดของตัวเอง:

• ฟังก์ชันการทำงานที่เชื่อมโยงกัน : การผสานรวม เช่น เครื่องมือและการดึงข้อมูลจะเชื่อมโยงกับผู้ช่วยแต่ละคน ไม่เหมาะสำหรับแอปพลิเคชันที่มีผู้เช่าหลายราย
• ข้อจำกัดที่เป็นกรรมสิทธิ์ : จำกัดเฉพาะโมเดล OpenAI ซึ่งไม่เหมาะกับความต้องการที่หลากหลาย
• ขีดจำกัดการปรับแต่ง : ผู้ใช้ไม่สามารถปรับแต่งการกำหนดค่าเอเจนต์ เช่น หน่วยความจำและระบบการดึงข้อมูลได้

TaskingAI แก้ปัญหาอย่างไร?

• รองรับการใช้งานทั้งแบบมีสถานะและไร้สถานะ : ไม่ว่าจะติดตามและจัดการประวัติข้อความและเซสชันการสนทนาของตัวแทน หรือเพียงแค่ส่งคำขอให้เสร็จสิ้นการแชทแบบไร้สถานะ TaskingAI ก็ครอบคลุมทั้งสองอย่าง
• การจัดการโมดูลแยกส่วน : แยกการจัดการเครื่องมือ ระบบ RAG โมเดลภาษาจากตัวแทน และอนุญาตให้รวมโมดูลเหล่านี้เข้าด้วยกันได้ฟรีเพื่อสร้างเอเจนต์ AI ที่ทรงพลัง
• การสนับสนุนผู้เช่าหลายราย : TaskingAI รองรับการปรับใช้อย่างรวดเร็วหลังการพัฒนา และสามารถใช้ได้ในสถานการณ์ที่มีผู้เช่าหลายราย ไม่จำเป็นต้องกังวลเกี่ยวกับบริการคลาวด์ เพียงแค่มุ่งเน้นไปที่การพัฒนาตัวแทน AI
• Unified API : TaskingAI มอบ API แบบรวมสำหรับโมดูลทั้งหมด รวมถึงเครื่องมือ ระบบ RAG โมเดลภาษา และอื่นๆ ง่ายต่อการจัดการและเปลี่ยนแปลงการกำหนดค่าของตัวแทน AI

คุณสามารถสร้างอะไรได้บ้างด้วย TaskingAI?

• การสาธิตแอปพลิเคชันแบบโต้ตอบ
• ตัวแทน AI เพื่อประสิทธิภาพการทำงานระดับองค์กร
• แอปพลิเคชัน AI-Native สำหรับผู้เช่าหลายรายสำหรับธุรกิจ

---

กรุณาให้ ดาวฟรีแก่เรา? ถ้าคุณพบว่ามันมีประโยชน์ ?

---

เริ่มต้นอย่างรวดเร็วด้วย Docker

วิธีง่ายๆ ในการเริ่มต้นรุ่นชุมชน TaskingAI ที่โฮสต์ด้วยตนเองคือผ่าน Docker

ข้อกำหนดเบื้องต้น

• ติดตั้ง Docker และ Docker Compose บนเครื่องของคุณ
• ติดตั้ง Git สำหรับการโคลนพื้นที่เก็บข้อมูล
• สภาพแวดล้อม Python (สูงกว่า Python 3.8) สำหรับการรัน SDK ไคลเอนต์

การติดตั้ง

ขั้นแรก โคลนพื้นที่เก็บข้อมูล TaskingAI (รุ่นชุมชน) จาก GitHub

git clone https://github.com/taskingai/taskingai.git
cd taskingai

ภายในที่เก็บโคลน ให้ไปที่ไดเร็กทอรีนักเทียบท่า

 cd docker

1. คัดลอก .env.example ไปที่ .env :

   cp .env.example .env

2. แก้ไขไฟล์ .env : เปิดไฟล์ .env ในโปรแกรมแก้ไขข้อความที่คุณชื่นชอบและอัปเดตการกำหนดค่าที่จำเป็น ตรวจสอบให้แน่ใจว่าตัวแปรสภาพแวดล้อมที่จำเป็นทั้งหมดได้รับการตั้งค่าอย่างถูกต้อง

3. เริ่ม Docker Compose : รันคำสั่งต่อไปนี้เพื่อเริ่มบริการทั้งหมด:

   docker-compose -p taskingai --env-file .env up -d

เมื่อบริการสิ้นสุดลง ให้เข้าถึงคอนโซล TaskingAI ผ่านเบราว์เซอร์ของคุณด้วย URL http://localhost:8080 ชื่อผู้ใช้และรหัสผ่านเริ่มต้นคือ admin และ TaskingAI321

อัพเกรด

หากคุณได้ติดตั้ง TaskingAI ด้วยเวอร์ชันก่อนหน้าแล้ว และต้องการอัปเกรดเป็นเวอร์ชันล่าสุด ให้อัปเดตพื้นที่เก็บข้อมูลก่อน

git pull origin master

จากนั้นหยุดบริการนักเทียบท่าปัจจุบัน อัปเกรดเป็นเวอร์ชันล่าสุดโดยการดึงอิมเมจล่าสุด และสุดท้ายจึงเริ่มบริการใหม่

 cd docker
docker-compose -p taskingai down
docker-compose -p taskingai pull
docker-compose -p taskingai --env-file .env up -d

ไม่ต้องกังวลกับข้อมูลสูญหาย ข้อมูลของคุณจะถูกย้ายไปยังสคีมาเวอร์ชันล่าสุดโดยอัตโนมัติหากจำเป็น

คอนโซล TaskingAI UI

คลิกที่ภาพด้านบนเพื่อดูวิดีโอสาธิตคอนโซล TaskingAI

SDK ไคลเอนต์ TaskingAI

เมื่อคอนโซลทำงานแล้ว คุณสามารถโต้ตอบทางโปรแกรมกับเซิร์ฟเวอร์ TaskingAI ได้โดยใช้ SDK ไคลเอนต์ TaskingAI

ตรวจสอบให้แน่ใจว่าคุณได้ติดตั้ง Python 3.8 ขึ้นไป และตั้งค่าสภาพแวดล้อมเสมือน (ไม่บังคับ แต่แนะนำ) ติดตั้ง SDK ไคลเอ็นต์ TaskingAI Python โดยใช้ pip

pip install taskingai

นี่คือตัวอย่างรหัสลูกค้า:

 import taskingai

taskingai . init ( api_key = 'YOUR_API_KEY' , host = 'http://localhost:8080' )

# Create a new assistant
assistant = taskingai . assistant . create_assistant (
    model_id = "YOUR_MODEL_ID" ,
    memory = "naive" ,
)

# Create a new chat
chat = taskingai . assistant . create_chat (
    assistant_id = assistant . assistant_id ,
)

# Send a user message
taskingai . assistant . create_message (
    assistant_id = assistant . assistant_id ,
    chat_id = chat . chat_id ,
    text = "Hello!" ,
)

# generate assistant response
assistant_message = taskingai . assistant . generate_message (
    assistant_id = assistant . assistant_id ,
    chat_id = chat . chat_id ,
)

print ( assistant_message )

โปรดทราบว่าควรแทนที่ YOUR_API_KEY และ YOUR_MODEL_ID ด้วยคีย์ API จริงและรหัสโมเดลการแชทที่คุณสร้างขึ้นในคอนโซล

คุณสามารถเรียนรู้เพิ่มเติมได้ในเอกสารประกอบ

ทรัพยากร

• เอกสารประกอบ
• การอ้างอิง API
• ติดต่อเรา

ชุมชนและการมีส่วนร่วม

โปรดดูแนวทางการบริจาคของเราสำหรับวิธีการมีส่วนร่วมในโครงการ

นอกจากนี้เรายังรู้สึกตื่นเต้นที่จะประกาศว่าตอนนี้ TaskingAI มีชุมชน Discord อย่างเป็นทางการแล้ว! -

เข้าร่วมเซิร์ฟเวอร์ Discord ของเราเพื่อ:

 •	 Engage in discussions about TaskingAI, share ideas, and provide feedback.
•	 Get support, tips, and best practices from other users and our team.
•	 Stay updated on the latest news, updates, and feature releases.
•	? Network with like-minded individuals who are passionate about AI and task automation.

ใบอนุญาตและจรรยาบรรณ

TaskingAI ได้รับการเผยแพร่ภายใต้ลิขสิทธิ์ TaskingAI Open Source เฉพาะ การมีส่วนร่วมในโครงการนี้แสดงว่าคุณตกลงที่จะปฏิบัติตามข้อกำหนดของโครงการ

การสนับสนุนและการติดต่อ

สำหรับการสนับสนุน โปรดดูเอกสารของเราหรือติดต่อเราที่ [email protected]