Instrukt
v0.6.2
Terminal AI Commander di ujung jari Anda
Lihat demo untuk contoh lainnya.
CATATAN : Ini sedang dalam proses, diperkirakan ada bug dan perubahan api.
Instrukt adalah lingkungan terintegrasi AI berbasis terminal. Ini menawarkan platform di mana pengguna dapat:
Membuat dan menginstruksikan agen AI modular
Hasilkan indeks dokumen untuk menjawab pertanyaan
Buat dan lampirkan alat ke agen mana pun
Agen adalah paket Python drop-in sederhana yang dapat diperluas, dibagikan dengan orang lain, dilampirkan ke alat, dan ditambah dengan indeks dokumen.
Instruksikan mereka dalam bahasa alami dan, demi keamanan, jalankan mereka di dalam wadah aman (saat ini diimplementasikan dengan Docker) untuk melakukan tugas di ruang sandbox khusus mereka ?️.
Dibangun dengan: Langchain, Tekstual, Chroma
Layanan Konsultasi : Butuh bantuan dengan integrasi Langchain atau AI? Anda dapat menghubungi saya di [email protected]
Penggunaan
Fitur
Platform yang Didukung
Model LLM
Indeks Dokumen dan Tanya Jawab
Peta jalan
Berkontribusi
Patreon
Sosial
Penglihatan
Lisensi
pip install instrukt[all]
ekspor OPENAI_API_KEY dengan kunci API OpenAI Anda.
jalankan instrukt
Jika skema warna rusak, ekspor TERM=xterm-256color
File konfigurasi akan dibuat di: ~/.config/instrukt/instrukt.yml
Anda dapat menjalankan instruksi di server tanpa kepala atau wadah buruh pelabuhan dengan dukungan CUDA.
CATATAN : jika Anda memulai dengan container kosong, Anda memerlukan setidaknya g++ dan libmagic.
Periksa panduan mulai cepat dan pemasangan untuk detail lebih lanjut.
Pastikan poetry versi terbaru sudah terinstall.
Atur virtualenv Anda
Kloning repositori
Jalankan poetry install -E all --with dev,test
Ini akan menginstal Instrukt termasuk alat tambahan untuk agen.
Lihat panduan instalasi untuk lebih jelasnya
Coding AI : Asisten pengkodean. Buat indeks pada basis kode apa pun dan lampirkan ke agen untuk melakukan RAG (Retrieval Augmented Generation)
Tanya Jawab Obrolan : Agen percakapan sederhana.
Antarmuka berbasis terminal bagi pengguna keyboard canggih untuk memberikan instruksi kepada agen AI tanpa harus meninggalkan keyboard.
Keluaran agen yang kaya warna dengan penurunan harga dan dukungan kode sumber berkat perpustakaan TUI Tekstual.
Jalankan Instrukt pada container bare metal atau buruh pelabuhan dengan dukungan CUDA.
Akses jarak jauh dengan SSH dan terminal multiplexer.
Rancang agen dan alat khusus.
Agen adalah paket python sederhana yang dapat dibagikan dan dimuat oleh pengguna lain.
Indeks data Anda dan biarkan agen mengambilnya untuk menjawab pertanyaan.
Buat dan atur indeks Anda dengan UI yang mudah.
Pembuatan indeks akan secara otomatis mendeteksi bahasa pemrograman dan mengoptimalkan strategi pemisahan/pengelompokan yang sesuai.
Pilih fuzzy (fzf, dmenu ...) dokumen sumber yang digunakan untuk pengambilan ctrl+p
Gunakan perangkat yang telah ditentukan sebelumnya atau rancang alat Anda sendiri.
Pasang atau lepaskan alat ke agen saat bepergian, sesuaikan alur kerja AI dengan kebutuhan Anda.
REPL-Prompt terintegrasi untuk interaksi cepat dengan agen, dan umpan balik cepat untuk pengembangan dan pengujian.
Otomatiskan tugas berulang dengan perintah khusus.
Riwayat prompt/obrolan bawaan.
Gunakan vim , emacs atau $EDITOR eksternal apa pun untuk mengedit pesan.
Manfaatkan ekosistem LangChain untuk mengotomatiskan apa pun.
WIP: API yang dapat diperluas untuk diintegrasikan dengan kerangka kerja lain.
Jalankan agen di dalam kontainer buruh pelabuhan yang aman untuk keamanan dan privasi.
Gunakan runtime gVisor untuk isolasi penuh agen.
catatan : Agen buruh pelabuhan hanya tersedia untuk pendukung Patreon sebagai pratinjau awal.
Debug dan introspeksi agen menggunakan konsol IPython bawaan. ctrl+d
Indeks dapat dibuat menggunakan OpenAI atau model penyematan lokal.
Chroma untuk mengelola indeks.
Membuat dan mengelola indeks menggunakan UI Manajemen Indeks (tekan I )
Mengindeks direktori akan secara otomatis mendeteksi bahasa pemrograman dan menggunakan strategi pemisahan yang sesuai dan dioptimalkan untuk bahasa target.
Indeks dapat dilampirkan ke agen mana pun sebagai alat pengambilan menggunakan menu index di bagian atas jendela agen.
Agen dapat menggunakan indeks terlampir untuk menjawab pertanyaan.
Linux/Mac.
Windows diuji di bawah WSL2.
Saat ini hanya OpenAI yang didukung.
Penggunaan model lokal swasta merupakan pencapaian berikutnya .
model LLM lokal swasta
HF SetenceTransformers mendukung penyematan.
Penyematan Instruktur
Penyematan lokal
gunakan API webui pembuatan teks
meniru PrivateGPT
gunakan go-skynet/LocalAI yang dihosting sendiri
Pengindeksan dan penyematan
Indeks direktori dan deteksi konten secara otomatis. (lihat AutoDirLoader )
Deteksi bahasa pemrograman dan gunakan splitter yang sesuai.
Muat repositori git dari URL
Muat halaman web/situs web apa pun.
Dokumentasi
Membuat agen
Membuat alat
Mengindeks dan mengobrol dengan dokumen dan kode sumber.
Contoh kasus penggunaan
Tutorial.
Setiap kontribusi, umpan balik, dan PR dipersilakan!
Anda dapat membantu dengan:
Menguji dan membuat Masalah untuk bug atau fitur yang berguna.
Jika Anda memiliki keterampilan teknis, Anda dipersilakan untuk membuat PR.
Jika Anda tidak memiliki keterampilan teknis, Anda dapat membantu dengan dokumentasi, menambahkan contoh dan tutorial, atau membuat cerita pengguna baru.
Dengan menjadi pelindung, Anda akan membantu saya terus meluangkan waktu untuk pengembangan Instrukt dan mewujudkan semua fitur yang direncanakan. Lihat halaman Patreon untuk rincian lebih lanjut tentang hadiah bagi pendukung awal.
Bergabunglah dengan server Discord untuk terus mengetahui perkembangannya atau minta bantuan.
AI harus dapat diakses oleh semua orang dan bukan sekedar taman berdinding untuk perusahaan besar dan layanan SaaS.
Instrukt adalah kontribusi sederhana untuk menciptakan alat yang memberdayakan pengguna tanpa mengorbankan kebebasan mereka. Tujuan jangka pendeknya adalah membuatnya dapat digunakan dengan sedikit ketergantungan pada API dan layanan eksternal, sehingga memberikan pengguna pilihan untuk memilih model lokal dan layanan yang dihosting sendiri.
Hak Cipta (c) 2023 Chakib Ben Ziane. Semua Hak Dilindungi Undang-undang.
Instrukt dilisensikan dengan lisensi AGPL, singkatnya artinya dapat digunakan oleh siapapun untuk tujuan apapun. Namun, jika Anda memutuskan untuk membuat instance tersedia untuk umum, pengguna Anda berhak atas salinan kode sumber termasuk semua modifikasi yang telah Anda buat (yang harus tersedia melalui antarmuka seperti tombol di situs web Anda), Anda juga dapat tidak mendistribusikan proyek ini dalam bentuk yang tidak mengandung kode sumber (Seperti mengkompilasi / mengenkripsi kode dan mendistribusikan versi ini tanpa juga mendistribusikan kode sumber yang menyertakan perubahan yang Anda buat. Anda diperbolehkan mendistribusikan ini dalam bentuk tertutup jika Anda juga menyediakan arsip terpisah dengan sumbernya kode.).
