draive

?️ mengemudi ?

?️ Lacak cepat aplikasi berbasis LLM Anda dengan perpustakaan siap produksi yang dapat diakses. ?️

Apakah Anda mencari fleksibilitas dan efisiensi maksimum di perpustakaan Python Anda berikutnya? Bosan dengan kerumitan yang tidak perlu dan penggunaan token yang tidak efisien?

Memperkenalkan draive - pustaka Python sumber terbuka di bawah kerangka kerja Miquido AI Kickstarter, yang dirancang untuk menyederhanakan dan mempercepat pengembangan aplikasi berbasis LLM. Mulailah dengan draive untuk menyederhanakan alur kerja Anda dan membangun aplikasi yang kuat dan efisien dengan mudah.

Mulai cepat

Pelajari langsung kodenya dan pelajari cara menggunakan draive dengan panduan interaktif kami. Lihat Kursus Draive AI di YouTube untuk memahami arsitektur unik kami dan melihat penerapan Draive di dunia nyata. Untuk solusi cepat terhadap masalah umum, jelajahi buku masak kami.

Bagus, tapi bagaimana kelihatannya?

 from draive import ctx , generate_text , tool
from draive . openai import OpenAIClient , openai_lmm_invocation


@ tool # simply annotate a function as a tool
async def current_time ( location : str ) -> str :
    return f"Time in { location } is 9:53:22"

async with  ctx . scope ( # create execution context
    "example" , # give it a name
    openai_lmm_invocation (), # define llm provider for this scope
):
    result : str = await generate_text ( # choose the right abstraction, i.e. `generate_text`
        instruction = "You are a helpful assistant" , # provide clear instructions
        input = "What is the time in Kraków?" , # give it some input (including multimodal)
        tools = [ current_time ], # and select any tools you like
    )

    print ( result ) # to finally get the result!
    # output: The current time in Kraków is 9:53:22.

Contoh penggunaan perpustakaan Draive yang berfungsi penuh juga tersedia di repositori Contoh Draive.

❓ Apa itu draive?

draive adalah pustaka Python sumber terbuka untuk mengembangkan aplikasi yang didukung oleh model bahasa besar. Ini menonjol karena kesederhanaannya, perilaku yang konsisten, dan transparansi.

Fitur Utama:

• ? Blok penyusun abstrak : Menghubungkan berbagai fungsi dengan LLM dengan mudah dan menghubungkan berbagai LLM secara bersamaan.
• ? Integrasi fleksibel : Mendukung semua LLM, layanan eksternal, dan solusi AI lainnya.
• ? Kerangka kerja yang mudah digunakan : Dirancang untuk membangun jalur pemrosesan data yang skalabel dan dapat disusun dengan mudah.
• Desain berorientasi fungsi : Memanfaatkan konsep dasar pemrograman, memungkinkan Anda merepresentasikan program kompleks sebagai fungsi sederhana.
• Dapat disusun dan digunakan kembali : Menggabungkan fungsi untuk membuat program yang kompleks, sambil tetap mempertahankan kemampuan untuk menggunakannya secara individual.
• Diagnostik dan metrik : Menawarkan alat ekstensif untuk mengukur dan men-debug fungsi kompleks.
• Diketik sepenuhnya dan asinkron : Memastikan keamanan jenis dan operasi asinkron yang efisien untuk aplikasi Python modern.

? Apa yang bisa Anda bangun dengan draive?

? aplikasi RAG

RAG meningkatkan kemampuan model dan mempersonalisasi keluarannya.

• Contoh : Menjawab pertanyaan, basis pengetahuan khusus.

? Mengekstraksi keluaran terstruktur

Ekstraksi dan penataan data yang disederhanakan.

• Contoh : Penguraian data, pembuatan laporan.

? bot obrolan

Agen percakapan yang canggih.

• Contoh : Bot layanan pelanggan, asisten virtual.

…dan masih banyak lagi!

Memasang

Dengan pip:

pip install draive

Ketergantungan opsional

Pustaka Draive hadir dengan integrasi opsional ke layanan pihak ketiga:

• OpenAI:

Gunakan klien layanan OpenAI, termasuk GPT, dall-e, dan penyematan. Memungkinkan untuk menggunakan layanan Azure juga.

pip install draive[openai]

• Antropis:

Gunakan klien layanan Anthropic, termasuk Claude.

pip install draive[anthropic]

• Gemini:

Gunakan klien layanan Google AIStudio, termasuk Gemini.

pip install draive[gemini]

• Mistral:

Gunakan klien layanan Mistral. Memungkinkan untuk menggunakan layanan Azure juga.

pip install draive[mistral]

• Ollama:

Gunakan klien layanan Ollama.

pip install draive[ollama]

• Dipasang dengan cepat:

Klien layanan Fastembed pengguna.

pip install draive[fastembed]

• Potongan Kalimat:

Pelari model SentencePiece pengguna. Ini digunakan oleh Gemini dan Mistral.

pip install draive[sentencepiece]

Migrasi ke haiway

Dimulai dengan versi 0.29.0, Draive akan memulai migrasi ke haiway untuk manajemen status dan ketergantungan. Antarmuka akan diperbarui secara bertahap ke sistem baru, dengan transisi lengkap yang direncanakan. Antarmuka yang dapat berubah akan ditandai sebagai tidak digunakan lagi dan dipertahankan selama mungkin, namun tidak lebih dari akhir periode migrasi. Setelah transisi selesai, semua antarmuka yang tidak digunakan lagi akan dihapus sepenuhnya.

? Berkontribusi

Sebagai proyek sumber terbuka di bidang yang berkembang pesat, kami menyambut baik semua kontribusi. Baik Anda dapat menambahkan fitur baru, menyempurnakan infrastruktur kami, atau menyempurnakan dokumentasi kami, masukan Anda sangat berharga bagi kami.

Kami menyambut masukan dan saran apa pun! Jangan ragu untuk membuka masalah atau menarik permintaan.

Lisensi

Lisensi MIT

Hak Cipta (c) 2024 Miquido

Izin dengan ini diberikan, secara gratis, kepada siapa pun yang memperoleh salinan perangkat lunak ini dan file dokumentasi terkait ("Perangkat Lunak"), untuk menggunakan Perangkat Lunak tanpa batasan, termasuk namun tidak terbatas pada hak untuk menggunakan, menyalin, memodifikasi, menggabungkan , mempublikasikan, mendistribusikan, mensublisensikan, dan/atau menjual salinan Perangkat Lunak, dan mengizinkan orang yang menerima Perangkat Lunak untuk melakukan hal tersebut, dengan tunduk pada ketentuan berikut:

Pemberitahuan hak cipta di atas dan pemberitahuan izin ini akan disertakan dalam semua salinan atau sebagian besar Perangkat Lunak.

PERANGKAT LUNAK INI DISEDIAKAN "APA ADANYA", TANPA JAMINAN APA PUN, TERSURAT MAUPUN TERSIRAT, TERMASUK NAMUN TIDAK TERBATAS PADA JAMINAN KELAYAKAN UNTUK DIPERDAGANGKAN, KESESUAIAN UNTUK TUJUAN TERTENTU, DAN TIDAK ADA PELANGGARAN. DALAM KEADAAN APA PUN PENULIS ATAU PEMEGANG HAK CIPTA TIDAK BERTANGGUNG JAWAB ATAS KLAIM, KERUSAKAN, ATAU TANGGUNG JAWAB LAINNYA, BAIK DALAM TINDAKAN KONTRAK, HUKUM ATAU LAINNYA, YANG TIMBUL DARI, ATAU SEHUBUNGAN DENGAN PERANGKAT LUNAK ATAU PENGGUNAAN ATAU HAL-HAL LAIN DALAM PERANGKAT LUNAK.