?️ Beschleunigen Sie Ihre LLM-basierten Apps mit einer zugänglichen, produktionsbereiten Bibliothek. ?️
Suchen Sie maximale Flexibilität und Effizienz für Ihre nächste Python-Bibliothek? Haben Sie genug von unnötiger Komplexität und ineffizienter Token-Nutzung?
Wir stellen vor: draive – eine Open-Source-Python-Bibliothek unter dem Miquido AI Kickstarter-Framework, die darauf ausgelegt ist, die Entwicklung von LLM-basierten Anwendungen zu vereinfachen und zu beschleunigen. Beginnen Sie mit draive, um Ihren Arbeitsablauf zu optimieren und mühelos leistungsstarke, effiziente Apps zu erstellen.
Tauchen Sie direkt in den Code ein und lernen Sie mit unseren interaktiven Anleitungen, wie Sie Draive verwenden. Schauen Sie sich den Draive AI-Kurs auf YouTube an, um unsere einzigartige Architektur zu verstehen und reale Anwendungen von Draive in Aktion zu sehen. Entdecken Sie unsere Kochbücher, um schnelle Lösungen für häufig auftretende Probleme zu finden.
Großartig, aber wie sieht es aus?
from draive import ctx , generate_text , tool
from draive . openai import OpenAIClient , openai_lmm_invocation
@ tool # simply annotate a function as a tool
async def current_time ( location : str ) -> str :
return f"Time in { location } is 9:53:22"
async with ctx . scope ( # create execution context
"example" , # give it a name
openai_lmm_invocation (), # define llm provider for this scope
):
result : str = await generate_text ( # choose the right abstraction, i.e. `generate_text`
instruction = "You are a helpful assistant" , # provide clear instructions
input = "What is the time in Kraków?" , # give it some input (including multimodal)
tools = [ current_time ], # and select any tools you like
)
print ( result ) # to finally get the result!
# output: The current time in Kraków is 9:53:22.
Voll funktionsfähige Beispiele für die Verwendung der Draive-Bibliothek sind auch im Draive-Beispiel-Repository verfügbar.
draive ist eine Open-Source-Python-Bibliothek zur Entwicklung von Apps, die auf großen Sprachmodellen basieren. Es zeichnet sich durch Einfachheit, konsistentes Verhalten und Transparenz aus.
RAG erweitert die Modellfunktionen und personalisiert die Ausgaben.
Vereinfachte Datenextraktion und -strukturierung.
Anspruchsvolle Gesprächsagenten.
… und noch viel mehr!
Mit Pip:
pip install draive
Die Draive-Bibliothek bietet optionale Integrationen für Dienste von Drittanbietern:
Verwenden Sie den OpenAI-Services-Client, einschließlich GPT, Dall-E und Einbettung. Ermöglicht auch die Nutzung von Azure-Diensten.
pip install draive[openai]
Verwenden Sie den Anthropic-Services-Client, einschließlich Claude.
pip install draive[anthropic]
Verwenden Sie den Google AIStudio-Services-Client, einschließlich Gemini.
pip install draive[gemini]
Verwenden Sie den Mistral-Services-Client. Ermöglicht auch die Nutzung von Azure-Diensten.
pip install draive[mistral]
Verwenden Sie den Ollama-Services-Client.
pip install draive[ollama]
Benutzer Fastembed-Services-Client.
pip install draive[fastembed]
User SentencePiece-Modellläufer. Es wird von Zwillingen und Mistral verwendet.
pip install draive[sentencepiece]
Ab Version 0.29.0 wird Draive die Migration zu Haiway für das Status- und Abhängigkeitsmanagement einleiten. Die Schnittstellen werden schrittweise auf das neue System umgestellt, eine vollständige Umstellung ist geplant. Schnittstellen, die Änderungen unterliegen, werden als veraltet markiert und so lange wie möglich, spätestens jedoch bis zum Ende des Migrationszeitraums, beibehalten. Sobald die Umstellung abgeschlossen ist, werden alle veralteten Schnittstellen vollständig entfernt.
Als Open-Source-Projekt in einem sich schnell entwickelnden Bereich freuen wir uns über alle Beiträge. Egal, ob Sie eine neue Funktion hinzufügen, unsere Infrastruktur verbessern oder unsere Dokumentation verbessern können, Ihr Beitrag ist für uns wertvoll.
Wir freuen uns über jedes Feedback und jede Anregung! Fühlen Sie sich frei, ein Problem oder eine Pull-Anfrage zu eröffnen.
MIT-Lizenz
Copyright (c) 2024 Miquido
Hiermit wird jeder Person, die eine Kopie dieser Software und der zugehörigen Dokumentationsdateien (die „Software“) erhält, kostenlos die Erlaubnis erteilt, mit der Software ohne Einschränkung zu handeln, einschließlich und ohne Einschränkung der Rechte zur Nutzung, zum Kopieren, Ändern und Zusammenführen , Kopien der Software zu veröffentlichen, zu verteilen, unterzulizenzieren und/oder zu verkaufen und Personen, denen die Software zur Verfügung gestellt wird, dies zu gestatten, vorbehaltlich der folgenden Bedingungen:
Der obige Urheberrechtshinweis und dieser Genehmigungshinweis müssen in allen Kopien oder wesentlichen Teilen der Software enthalten sein.
DIE SOFTWARE WIRD „WIE BESEHEN“ ZUR VERFÜGUNG GESTELLT, OHNE JEGLICHE AUSDRÜCKLICHE ODER STILLSCHWEIGENDE GEWÄHRLEISTUNG, EINSCHLIESSLICH, ABER NICHT BESCHRÄNKT AUF DIE GEWÄHRLEISTUNG DER MARKTGÄNGIGKEIT, EIGNUNG FÜR EINEN BESTIMMTEN ZWECK UND NICHTVERLETZUNG. IN KEINEM FALL SIND DIE AUTOREN ODER COPYRIGHT-INHABER HAFTBAR FÜR JEGLICHE ANSPRÜCHE, SCHÄDEN ODER ANDERE HAFTUNG, WEDER AUS EINER VERTRAGLICHEN HANDLUNG, AUS HANDLUNG ODER ANDERWEITIG, DIE SICH AUS, AUS ODER IN VERBINDUNG MIT DER SOFTWARE ODER DER NUTZUNG ODER ANDEREN HANDELN IN DER SOFTWARE ERGEBEN SOFTWARE.