หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

llm-chain

llm-chain เป็นคอลเล็กชั่นลังสนิมที่ออกแบบมาเพื่อช่วยให้คุณสร้างแอปพลิเคชัน LLM ขั้นสูงเช่น chatbots ตัวแทนและอื่น ๆ ในฐานะที่เป็นแพลตฟอร์ม LLM-OPS ที่ครอบคลุมเราได้รับการสนับสนุนที่แข็งแกร่งสำหรับทั้งคลาวด์และ LLM ที่โฮสต์ในท้องถิ่น นอกจากนี้เรายังให้การสนับสนุนที่แข็งแกร่งสำหรับเทมเพลตที่รวดเร็วและการผูกมัดด้วยกันพร้อมกันในโซ่หลายขั้นตอนทำให้สามารถทำงานที่ซับซ้อนซึ่ง LLMS ไม่สามารถจัดการได้ในขั้นตอนเดียว นอกจากนี้เรายังให้การรวมร้านค้าเวกเตอร์ทำให้ง่ายต่อการให้หน่วยความจำระยะยาวและความรู้เรื่องของคุณเป็นเรื่องง่าย สิ่งนี้ช่วยให้คุณสร้างแอปพลิเคชันที่ซับซ้อน

ตัวอย่าง

เพื่อช่วยให้คุณเริ่มต้นได้นี่คือตัวอย่างการสาธิตวิธีการใช้ llm-chain คุณสามารถค้นหาตัวอย่างเพิ่มเติมในโฟลเดอร์ตัวอย่างในที่เก็บ 

 let exec = executor ! ( ) ? ;
let res = prompt ! (
    "You are a robot assistant for making personalized greetings" ,
    "Make a personalized greeting for Joe"
)
. run ( parameters ( ) ! , & exec )
. await ? ;
println ! ( "{}" , res ) ;

➡ การสอน: เริ่มต้นด้วย LLM-Chain ➡ เริ่มต้นอย่างรวดเร็ว : สร้างโครงการตามเทมเพลตของเรา

คุณสมบัติ ?

  • เทมเพลตพรอมต์ : สร้างเทมเพลตพรอมต์ที่นำกลับมาใช้ใหม่ได้และปรับแต่งได้ง่ายสำหรับการโต้ตอบที่สอดคล้องและมีโครงสร้างกับ LLMS
  • โซ่ : สร้างโซ่ที่ทรงพลังของพรอมต์ที่ช่วยให้คุณสามารถทำงานที่ซับซ้อนมากขึ้นทีละขั้นตอนใช้ประโยชน์จากศักยภาพของ LLM อย่างเต็มที่
  • การสนับสนุน ChatGPT : รองรับโมเดล ChatGPT โดยมีแผนที่จะเพิ่มโมเดลอื่น ๆ ของ OpenAI ในอนาคต
  • การสนับสนุน LLAMA : ให้การบูรณาการอย่างราบรื่นกับโมเดล LLAMA ทำให้สามารถเข้าใจภาษาธรรมชาติและงานสร้างกับรูปแบบการวิจัยของ Facebook
  • การสนับสนุน Alpaca : รวมการสนับสนุนสำหรับรุ่น Alpaca ของ Stanford ซึ่งขยายช่วงของแบบจำลองภาษาที่มีอยู่สำหรับแอปพลิเคชัน AI ขั้นสูง
  • การสนับสนุน llm.rs : ใช้ LLMS ในการเกิดสนิมโดยไม่ต้องพึ่งพารหัส C ++ ด้วยการสนับสนุนของเราสำหรับ llm.rs
  • เครื่องมือ : เพิ่มขีดความสามารถของตัวแทน AI ของคุณโดยให้พวกเขาเข้าถึงเครื่องมือต่าง ๆ เช่นการเรียกใช้คำสั่ง bash การดำเนินการสคริปต์ Python หรือทำการค้นหาเว็บทำให้สามารถโต้ตอบที่ซับซ้อนและทรงพลังมากขึ้น
  • ความสามารถในการขยาย : ออกแบบโดยคำนึงถึงการขยายตัวทำให้ง่ายต่อการรวม LLM เพิ่มเติมเมื่อระบบนิเวศเติบโตขึ้น
  • ชุมชนขับเคลื่อน : เรายินดีต้อนรับและสนับสนุนการมีส่วนร่วมจากชุมชนเพื่อช่วยปรับปรุงและขยายขีดความสามารถของ llm-chain

เริ่มต้น

ในการเริ่มต้นใช้ llm-chain ให้เพิ่มการพึ่งพาใน Cargo.toml ของคุณ (คุณต้องการสนิม 1.65.0 หรือใหม่กว่า): 

[ dependencies ]
llm-chain = " 0.12.0 "
llm-chain-openai = " 0.12.0 "

ตัวอย่างสำหรับ llm-chain-openai ต้องการให้คุณตั้งค่าตัวแปรสภาพแวดล้อม OPENAI_API_KEY ซึ่งคุณสามารถทำได้เช่นนี้: 

 export OPENAI_API_KEY= " sk-YOUR_OPEN_AI_KEY_HERE "

จากนั้นอ้างถึงเอกสารและตัวอย่างเพื่อเรียนรู้วิธีการสร้างเทมเพลตที่รวดเร็วโซ่และอื่น ๆ

มีส่วนร่วม?

เรายินดีต้อนรับการมีส่วนร่วมอย่างอบอุ่นจากทุกคน! หากคุณสนใจที่จะช่วยปรับปรุง llm-chain โปรดตรวจสอบไฟล์ CONTRIBUTING.md ของเราสำหรับแนวทางและแนวทางปฏิบัติที่ดีที่สุด

ใบอนุญาต ?

llm-chain ได้รับใบอนุญาตภายใต้ใบอนุญาต MIT

เชื่อมต่อกับเรา

หากคุณมีคำถามข้อเสนอแนะหรือข้อเสนอแนะอย่าลังเลที่จะเปิดปัญหาหรือเข้าร่วมความไม่ลงรอยกันของชุมชนของเรา เรารู้สึกตื่นเต้นเสมอที่จะได้ยินจากผู้ใช้ของเราและเรียนรู้เกี่ยวกับประสบการณ์ของคุณกับ llm-chain

เราหวังว่าคุณจะสนุกกับการใช้ llm-chain เพื่อปลดล็อกศักยภาพเต็มรูปแบบของรูปแบบภาษาขนาดใหญ่ในโครงการของคุณ การเข้ารหัสมีความสุข! -

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด