agentkit

AgentKit: สร้างแอพเอเจนต์คุณภาพสูงอย่างรวดเร็ว

AgentKit เป็นชุดเริ่มต้นที่ใช้ Langchain ที่พัฒนาโดย BCG X เพื่อสร้างแอพ Agent นักพัฒนาสามารถใช้ AgentKit ไปยัง

• ทดสอบสถาปัตยกรรมตัวแทนที่มีข้อ จำกัด อย่างรวดเร็วด้วย UI ที่สวยงาม
• สร้างแอปเอเจนต์แชทแบบสแต็กเต็มรูปแบบที่สามารถปรับขนาดเป็น MVP เกรดการผลิต

ข้อดีที่สำคัญของชุดเครื่องมือ AgentKit รวมถึง:

• สร้างแอพตัวแทนคุณภาพสูงอย่างรวดเร็ว : สร้างตัวอย่างที่แข็งแกร่งในเวลาไม่กี่ชั่วโมงโดยใช้โมดูลง่ายต่อการกำหนดค่าสแต็คเทคโนโลยีโดยใช้ fastapi/nextjs และไลบรารีของเครื่องมือ Genai ที่มีประโยชน์
• UI/UX ที่มีความยืดหยุ่นและปฏิกิริยาที่ออกแบบมาสำหรับตัวแทน : UI React/NextJS-based UI ที่ง่ายต่อการกำหนดค่าด้วยคุณสมบัติเช่นการสตรีมการแสดงผลของตาราง/การสร้างภาพข้อมูล/รหัสสถานะของการกระทำของตัวแทนและอื่น ๆ
• ? ️ มุ่งเน้นไปที่ความน่าเชื่อถือ : ง่ายต่อการกำหนดค่าสถาปัตยกรรมการกำหนดเส้นทางให้การควบคุมของตัวแทนเส้นทางที่เป็นไปได้สามารถเพิ่มความน่าเชื่อถือและทำให้เหมาะสำหรับกรณีการใช้งานจริง
• - ตั้งค่าเป็นสเกล : ตั้งค่าเป็นขนาดเป็น MVP ด้วยการจัดการคิวที่ทำขึ้นพร้อมกัน, รับรองความถูกต้อง, แคช, การตรวจสอบ ฯลฯ

AgentKit_Video.mp4

ซ้อนเทค

ชุดเริ่มต้นใช้เทคโนโลยีล่าสุดสำหรับประสิทธิภาพที่ดีที่สุดความปลอดภัยและประสบการณ์นักพัฒนา

• - nextjs 14 กับ tailwind และ daisyui
• Python 3.10 พร้อม Fastapi, Sqlmodel และ Pydantic 2.x
• - การกำหนดค่า Langchain และ Langsmith E2E
• - การรับรองความถูกต้อง: Nextauth รวมเข้ากับ fastapi
• - คื่นฉ่ายและ Redis สำหรับงานที่ใช้งานยาวนานแคช ฯลฯ
• - postgres ท้องถิ่นพร้อมส่วนขยาย pgvector
• docker-compose สำหรับการปรับใช้อย่างง่ายและ dx
• - ผ้าสำลีการทดสอบและตะขอล่วงหน้าที่กำหนดไว้ล่วงหน้า

หมายเหตุ: นี่คือชุดเริ่มต้น - สำหรับการปรับใช้การผลิตเราขอแนะนำให้เพิ่มฟังก์ชั่นความปลอดภัยระดับองค์กร โดยเฉพาะอย่างยิ่งเมื่อใช้ LLMS โปรดระวังความเสี่ยงที่ทราบเช่นการฉีดทันที (อ่านเพิ่มเติม)

เร็ว

สำหรับการตั้งค่า AgentKit อย่างรวดเร็วให้ใช้ขั้นตอนด้านล่างซึ่งทั้งแอปแบ็กเอนด์และแอพส่วนหน้าทำงานภายในคอนเทนเนอร์ Docker คำแนะนำการตั้งค่าที่ซับซ้อนมากขึ้นสามารถพบได้ในเอกสารประกอบ

ข้อกำหนดเบื้องต้น

• Docker: https://www.docker.com/get-started

ขั้นตอนการติดตั้ง

1. โคลนพื้นที่เก็บข้อมูลที่มีซอร์สโค้ดสำหรับแอพแบ็กเอนด์และส่วนหน้า

2. คัดลอกไฟล์ frontend/.env.example ในไดเรกทอรีส่วนหน้าและเปลี่ยนชื่อเป็น .env นอกจากนี้คัดลอกไฟล์ .env.example ในไดเรกทอรีรูทของที่เก็บและเปลี่ยนชื่อเป็น .env

   • เปลี่ยน openai_api_key และ openai_organization เป็นของคุณเอง (nb openai_organization ควรเป็น 'องค์กรองค์กร Openai ของคุณ)

3. ในเทอร์มินัลนำทางไปยังไดเรกทอรีรากของที่เก็บโคลน สร้างและเริ่มคอนเทนเนอร์ Docker ด้วยคำสั่งต่อไปนี้:

    docker-compose -f docker-compose.yml up -d
   

   รอให้คอนเทนเนอร์สร้างและเริ่มต้นซึ่งอาจใช้เวลาสองสามนาทีขึ้นอยู่กับระบบของคุณ เมื่อคอนเทนเนอร์เปิดใช้งานคุณสามารถเข้าถึงแอพในเบราว์เซอร์ของคุณได้ที่ http: // localhost

การสาธิตฐานข้อมูลเพลง Chinook

• หากคอนเทนเนอร์ Docker ทำงานให้เรียกใช้ docker-compose down --volumes
• ทำตามคำแนะนำในการติดตั้งด้านบนและแลกเปลี่ยน docker-compose.yml ด้วย docker-compose-demo.yml เพื่อเรียกใช้แอพ
• ลองพรอมต์ "มีศิลปินและเพลงกี่คนในฐานข้อมูล?" เพื่อดู AgentKit ในการดำเนินการ!

ตรวจสอบการสาธิตการสาธิตขั้นสูงเพิ่มเติมหลังจากการสอน

ตั้งค่าแอปของคุณเอง

• กำหนดค่าลิงค์ตัวแทนและเครื่องมือของคุณ
• (ไม่บังคับ) ปรับ UI เป็นลิงค์กรณีการใช้งานของคุณ
• (ไม่บังคับ) ตั้งค่าการประเมินผลด้วยลิงก์ Langsmith

เอกสาร

ค้นหาเอกสารที่โฮสต์ได้ที่นี่

• คำแนะนำการติดตั้งสำหรับการเรียกใช้ส่วนหน้าหรือแอพทั้งหมดนอก Docker
• แนวคิดหลัก
• การกำหนดค่าตัวแทนและเครื่องมือ
• การกำหนดค่า UI
• คุณสมบัติเสริม
• ห้องสมุดเครื่องมือ

มันทำงานอย่างไร

ความน่าเชื่อถือ

Agentkit พยายามที่จะแก้ปัญหาความน่าเชื่อถือของตัวแทนเช่น React Agent โดยการ จำกัด เส้นทางที่เป็นไปได้ที่ตัวแทนสามารถนำไปใช้กับชุดเส้นทางที่กำหนดไว้ล่วงหน้าหรือ แผนปฏิบัติการ เนื่องจากสำหรับหลายกรณีการใช้งานเส้นทางที่เป็นไปได้ที่ตัวแทนสามารถใช้เป็นที่รู้จักเราสามารถใช้ความเชี่ยวชาญด้านโดเมนมนุษย์ของเราเพื่อคัดท้ายตัวแทนไปในทิศทางที่ถูกต้องและลดมันไปสู่ทิศทางที่ไม่คาดคิดหรือหลุมกระต่าย นี่คือความสำเร็จโดยการรวม ตัวแทนเมตา กับ แผนการดำเนินการ : ชุดเครื่องมือที่ดำเนินการเชิงเส้นตรงและในแบบคู่ขนานคล้ายกับห่วงโซ่ เอเจนต์เมตาใช้เวลาในการแจ้งเตือนผู้ใช้และส่งออกแผนปฏิบัติการที่เหมาะสมที่สุดเพื่อสร้างคำตอบ หมายเหตุ: การใช้สารเมตาหลายตัวเป็นไปได้สร้างต้นไม้ของเส้นทางที่เป็นไปได้

ประสบการณ์ผู้ใช้

เพื่อเพิ่มประสิทธิภาพประสบการณ์ของผู้ใช้เอาต์พุตตัวกลางของทุกขั้นตอนในแผนปฏิบัติการสามารถแสดงให้ผู้ใช้ได้ ตัวอย่างเช่นพิจารณาแผนปฏิบัติการประกอบด้วยชุดเครื่องมือ 2 ชุด: [[sql_tool, pdf_tool], [generate_summary_tool, visualize_tool]] ในขั้นตอนการดำเนินการครั้งแรกข้อมูลจากฐานข้อมูล SQL และฐานข้อมูลเวกเตอร์ที่มี PDF แบบฝังตัวจะถูกเรียกคืนแบบขนาน ข้อมูลที่ดึงมาและ PDF ที่เกี่ยวข้องมากที่สุดจะถูกสตรีมไปยัง UI ทันทีที่ขั้นตอนการดำเนินการครั้งแรกเสร็จสิ้น ในขั้นตอนการดำเนินการที่สองเอาต์พุตจากขั้นตอนที่ 1 จะถูกส่งผ่านไปยังเครื่องมือที่สร้างข้อความสรุปและเครื่องมือที่สร้างการสร้างภาพ JSX จากข้อมูลซึ่งสตรีมไปยัง UI เพื่อสร้างคำตอบสุดท้าย

สำหรับภาพรวมระดับสูงของโฟลว์การกำหนดเส้นทางและการเชื่อมต่อ UI โปรดดูแผนภาพด้านล่าง:

คุณสมบัติเพิ่มเติมเพิ่มเติม

• การรวมข้อเสนอแนะ : รวบรวมข้อเสนอแนะเกี่ยวกับคำตอบที่สร้างขึ้นจากผู้ใช้

• การตั้งค่าผู้ใช้ : อนุญาตให้ผู้ใช้ระบุการตั้งค่าเริ่มต้นในแอพที่สามารถใช้ในการปรับแต่งพรอมต์สำหรับผู้ใช้

• การรับรองความถูกต้องของผู้ใช้ : เปิดใช้งาน nextauth บนแอพของคุณเพื่อตรวจสอบสิทธิ์ผู้ใช้ด้วย gitHub หรือด้วยอีเมล/รหัสผ่าน

ดูเอกสารประกอบคุณสมบัติเสริมสำหรับข้อมูลรายละเอียดเพิ่มเติม

ประวัติดาว

สนับสนุนและบำรุงรักษา

โครงการปั่นจากการรวมกันของแม่แบบที่แตกต่างกัน แรงบันดาลใจที่ยอดเยี่ยมอย่างหนึ่งคือ fastapi-alembic-sqlmodel-async ซึ่งเป็นรากฐานสำหรับการตั้งค่า fastapi โปรดตรวจสอบพวกเขา!

ขอขอบคุณผู้มีส่วนร่วมทุกคน: @kaikun213 @drivian @ielmansouri @mastersplinter @tanmaygupta9 @sofglide @harticode @edenbd @ben-howt @carelschw @gustafvh @casper321 @modvinden1 @valerie-jzr

โปรดอ่าน CONTRIBUTING.md สำหรับรายละเอียดเพิ่มเติมเกี่ยวกับวิธีการมีส่วนร่วม ยินดีต้อนรับ PRS ❤

ใบอนุญาต

• โครงการนี้ได้รับใบอนุญาตภายใต้ข้อกำหนดของ ใบอนุญาต MIT