llm chain

LLM-RAIN

llm-chain adalah kumpulan peti karat yang dirancang untuk membantu Anda membuat aplikasi LLM canggih seperti chatbots, agen, dan banyak lagi. Sebagai platform LLM-OPS yang komprehensif, kami memiliki dukungan kuat untuk Cloud dan LLM yang di-host lokal. Kami juga memberikan dukungan yang kuat untuk template prompt dan merantai dengan cepat dalam rantai multi-langkah, memungkinkan tugas kompleks yang tidak dapat ditangani oleh LLMS dalam satu langkah. Kami juga menyediakan integrasi toko vektor sehingga mudah untuk memberikan model memori jangka panjang dan pengetahuan materi pelajaran Anda. Ini memberdayakan Anda untuk membangun aplikasi canggih.

Contoh

Untuk membantu Anda memulai, berikut adalah contoh yang menunjukkan cara menggunakan llm-chain . Anda dapat menemukan lebih banyak contoh di folder contoh di repositori.

 let exec = executor ! ( ) ? ;
let res = prompt ! (
    "You are a robot assistant for making personalized greetings" ,
    "Make a personalized greeting for Joe"
)
. run ( parameters ( ) ! , & exec )
. await ? ;
println ! ( "{}" , res ) ;

➡️ Tutorial: Mulailah dengan Rantai LLM ➡️ Quick-Start : Buat Proyek Berdasarkan Template Kami

Fitur ?

• Template Prompt : Buat templat prompt yang dapat digunakan kembali dan mudah disesuaikan untuk interaksi yang konsisten dan terstruktur dengan LLMS.
• Rantai : Bangun rantai prompt yang kuat yang memungkinkan Anda untuk menjalankan tugas yang lebih kompleks, langkah demi langkah, memanfaatkan potensi penuh LLMS.
• Dukungan ChatGPT : Mendukung model chatgpt, dengan rencana untuk menambahkan model Openai lainnya di masa depan.
• Dukungan Llama : Memberikan integrasi tanpa batas dengan model LLAMA, memungkinkan pemahaman bahasa alami dan tugas pembuatan dengan model penelitian Facebook.
• Dukungan Alpaca : Menggabungkan dukungan untuk model Alpaca Stanford, memperluas jangkauan model bahasa yang tersedia untuk aplikasi AI tingkat lanjut.
• Dukungan llm.rs : Gunakan LLMS di Rust tanpa dependensi pada kode C ++ dengan dukungan kami untuk llm.rs
• Alat : Tingkatkan kemampuan agen AI Anda dengan memberi mereka akses ke berbagai alat, seperti menjalankan perintah bash, menjalankan skrip python, atau melakukan pencarian web, memungkinkan interaksi yang lebih kompleks dan kuat.
• Extensibility : Dirancang dengan mempertimbangkan ekstensibilitas, membuatnya mudah untuk mengintegrasikan LLM tambahan saat ekosistem tumbuh.
• Didorong oleh masyarakat : Kami menyambut dan mendorong kontribusi dari masyarakat untuk membantu meningkatkan dan memperluas kemampuan llm-chain .

Memulai

Untuk mulai menggunakan llm-chain , tambahkan sebagai ketergantungan dalam Cargo.toml Anda.

[ dependencies ]
llm-chain = " 0.12.0 "
llm-chain-openai = " 0.12.0 "

Contoh untuk llm-chain-openai mengharuskan Anda untuk mengatur variabel lingkungan OPENAI_API_KEY yang dapat Anda lakukan seperti ini:

 export OPENAI_API_KEY= " sk-YOUR_OPEN_AI_KEY_HERE "

Kemudian, lihat dokumentasi dan contoh untuk mempelajari cara membuat templat yang cepat, rantai, dan banyak lagi.

Berkontribusi?

Kami sangat menyambut kontribusi dari semua orang! Jika Anda tertarik untuk membantu meningkatkan llm-chain , silakan periksa file CONTRIBUTING.md kami untuk pedoman dan praktik terbaik.

Lisensi?

llm-chain dilisensikan di bawah lisensi MIT.

Terhubung dengan kami

Jika Anda memiliki pertanyaan, saran, atau umpan balik, jangan ragu untuk membuka masalah atau bergabung dengan perselisihan komunitas kami. Kami selalu senang mendengar dari pengguna kami dan belajar tentang pengalaman Anda dengan llm-chain .

Kami harap Anda menikmati menggunakan llm-chain untuk membuka potensi penuh model bahasa besar dalam proyek Anda. Happy Coding! ?