floki
1.0.0
? Floki sedang dalam tahap awal pengembangan. Kerangka kerja ini secara aktif berkembang sebagai bagian dari penelitian yang sedang berlangsung, dan saya masih mengeksplorasi dan mempelajari cara mengintegrasikan Dapr secara efektif. Harapkan perubahan besar pada API dan struktur inti seiring dengan matangnya kerangka kerja dan penyempurnaan wawasan.
Floki adalah kerangka kerja sumber terbuka bagi peneliti dan pengembang untuk bereksperimen dengan agen otonom berbasis LLM. Ini menyediakan alat untuk membuat, mengatur, dan mengelola agen sambil terhubung dengan lancar ke API inferensi LLM. Dibangun di Dapr, Floki memanfaatkan model pemrograman terpadu yang menyederhanakan layanan mikro dan mendukung alur kerja deterministik dan interaksi berbasis peristiwa. Dengan menggunakan pola Aktor Virtual Dapr, Floki memungkinkan agen berfungsi sebagai unit independen dan mandiri yang memproses pesan secara berurutan, menghilangkan masalah konkurensi sambil berintegrasi secara mulus ke dalam alur kerja yang lebih besar. Hal ini juga memfasilitasi kolaborasi agen melalui integrasi Pub/Sub Dapr, di mana agen berkomunikasi melalui bus pesan bersama, menyederhanakan desain alur kerja di mana tugas didistribusikan secara efisien, dan agen bekerja sama untuk mencapai tujuan bersama. Dengan menyatukan fitur-fitur ini, Floki menyediakan cara yang ampuh untuk mengeksplorasi alur kerja agen dan komponen yang memungkinkan sistem multi-agen untuk berkolaborasi dan melakukan penskalaan, semuanya didukung oleh Dapr.
Dapr memberi Floki model pemrograman terpadu yang menyederhanakan pengembangan sistem yang tangguh dan terukur dengan menawarkan API bawaan untuk fitur seperti pemanggilan layanan, pesan Pub/Sub, alur kerja, dan bahkan manajemen status. Komponen-komponen ini, yang penting untuk menentukan alur kerja agen, memungkinkan pengembang untuk fokus pada perancangan agen dan alur kerja daripada membangun kembali fitur-fitur dasar. Dengan memanfaatkan arsitektur sidecar Dapr dan runtime portabel yang digerakkan oleh peristiwa, Floki juga memungkinkan agen untuk berkolaborasi secara efektif, berbagi tugas, dan beradaptasi secara dinamis di lingkungan cloud dan edge. Integrasi yang lancar ini menyatukan alur kerja deterministik dan pengambilan keputusan berbasis LLM ke dalam sistem terpadu, sehingga memudahkan eksperimen dengan sistem multi-agen dan alur kerja agen yang dapat diskalakan.
Permintaan Layanan-ke-Layanan : Memfasilitasi komunikasi langsung antar agen dengan penemuan layanan bawaan, penanganan kesalahan, dan penelusuran terdistribusi. Agen dapat memanfaatkan ini untuk pesan tersinkronisasi dalam alur kerja multi-agen.
⚡️ Publikasikan dan Berlangganan : Mendukung kolaborasi longgar antar agen melalui bus pesan bersama. Hal ini memungkinkan interaksi real-time berdasarkan peristiwa yang penting untuk distribusi dan koordinasi tugas.
Workflow API : Mendefinisikan alur kerja yang berjalan lama dan persisten yang menggabungkan proses deterministik dengan pengambilan keputusan berbasis LLM. Floki menggunakan ini untuk mengatur alur kerja agen multi-langkah yang kompleks dengan lancar.
? State Management : Menyediakan penyimpanan nilai kunci yang fleksibel bagi agen untuk mempertahankan konteks di seluruh interaksi, memastikan kesinambungan dan kemampuan beradaptasi selama alur kerja.
? Aktor : Mengimplementasikan pola Aktor Virtual, yang memungkinkan agen beroperasi sebagai unit mandiri dan berstatus yang menangani pesan secara berurutan. Hal ini menghilangkan kekhawatiran konkurensi dan meningkatkan skalabilitas dalam sistem agen Floki.
Pastikan Anda sudah menginstal Python. Python >=3.9
pip instal floki-ai
pip instal git+https://github.com/Cyb3rWard0g/floki.git
poetry :git clone https://github.com/Cyb3rWard0g/flokicd floki pemasangan puisi
Instal Dapr CLI untuk mengelola tugas terkait Dapr seperti menjalankan aplikasi dengan sidecar, melihat log, dan meluncurkan dasbor Dapr. Ia bekerja secara lancar dengan lingkungan yang dihosting sendiri dan Kubernetes. Untuk panduan langkah demi langkah yang lengkap, kunjungi halaman resmi instalasi Dapr CLI.
Verifikasi CLI telah diinstal dengan memulai ulang terminal/prompt perintah Anda dan menjalankan perintah berikut:
dapr -h
Pastikan Anda sudah menginstal Docker. Saya menggunakan Docker Desktop.
Inisialisasi Dapr secara lokal untuk menyiapkan lingkungan yang dihosting sendiri untuk pengembangan. Proses ini menginstal biner sidecar Dapr, menjalankan layanan penting seperti Redis (penyimpanan negara dan perantara pesan) dan Zipkin (observabilitas), dan menyiapkan folder komponen default. Untuk langkah detailnya, lihat panduan resmi tentang inisialisasi Dapr secara lokal.
Untuk menginisialisasi kontainer bidang kendali Dapr dan membuat file konfigurasi default, jalankan:
dapr init
Pastikan Anda memiliki instance container dengan gambar daprio/dapr , openzipkin/zipkin , dan redis yang sedang berjalan:
buruh pelabuhan ps
Floki lahir dari keinginan untuk mengeksplorasi dan mempelajari lebih lanjut tentang Dapr dan potensinya dalam membangun sistem agen. Saya ingin memahami cara menerapkan agen sebagai layanan, mengelola komunikasi pesan, dan menghubungkan berbagai komponen secara efektif. Sepanjang perjalanan, saya melihat beberapa kerangka kerja yang sudah ada untuk ide dan panduan, yang membantu membentuk pemikiran dan pendekatan saya:
https://github.com/microsoft/autogen
https://github.com/langchain-ai/langchain
https://github.com/run-llama/llama_deploy
Meskipun kerangka kerja ini memberikan wawasan yang berharga, Floki adalah pendapat unik saya tentang cara memanfaatkan Dapr untuk alur kerja dan sistem berbasis agen. Ini mencerminkan perjalanan pembelajaran saya dan penelitian berkelanjutan di bidang yang menarik ini.
