llm chain

LLM-Kette

llm-chain ist eine Sammlung von Rostkisten, mit denen Sie erweiterte LLM-Anwendungen wie Chatbots, Agenten und mehr erstellen können. Als umfassende LLM-OP-Plattform unterstützen wir sowohl für Cloud als auch für lokal veranstaltete LLMs stark. Wir bieten auch eine robuste Unterstützung für schnelle Vorlagen und die Zusammenhänge von Angaben in mehrstufigen Ketten, sodass komplexe Aufgaben, die LLMs in einem einzigen Schritt nicht erledigen können, nicht ermöglichen. Wir bieten auch Vektor Store-Integrationen zur Verfügung, damit es einfach ist, Ihrem Modell Langzeitgedächtnis und Fachwissen zu vermitteln. Dies ermöglicht es Ihnen, anspruchsvolle Anwendungen aufzubauen.

Beispiele

Um Ihnen den Einstieg zu erleichtern, zeigt ein Beispiel, das demonstriert, wie Sie llm-chain verwenden. Weitere Beispiele finden Sie im Beispiele -Ordner im Repository.

 let exec = executor ! ( ) ? ;
let res = prompt ! (
    "You are a robot assistant for making personalized greetings" ,
    "Make a personalized greeting for Joe"
)
. run ( parameters ( ) ! , & exec )
. await ? ;
println ! ( "{}" , res ) ;

➡️ Tutorial: Beginnen Sie mit der LLM-Kette ➡️ Schnellstart : Erstellen Sie das Projekt basierend auf unserer Vorlage

Merkmale ?

• Eingabeaufforderung Vorlagen : Erstellen Sie wiederverwendbare und leicht anpassbare Eingabeaufforderung Vorlagen für konsistente und strukturierte Interaktionen mit LLMs.
• Ketten : Bauen Sie leistungsstarke Ketten von Eingabeaufforderungen auf, mit denen Sie Schritt für Schritt komplexere Aufgaben ausführen können und das volle Potenzial von LLMs nutzen können.
• ChatGPT -Unterstützung : Unterstützt ChatGPT -Modelle mit Plänen, in Zukunft die anderen Modelle von OpenAI hinzuzufügen.
• Lama -Unterstützung : Bietet eine nahtlose Integration in Lama -Modelle und ermöglicht Aufgaben von natürlicher Sprache und Generation mit den Forschungsmodellen von Facebook.
• ALPACA -Unterstützung : Integriert die Unterstützung für die Alpaka -Modelle von Stanford und erweitert das Angebot der verfügbaren Sprachmodelle für erweiterte KI -Anwendungen.
• llm.rs -Unterstützung : Verwenden Sie LLMs in Rost ohne Abhängigkeiten von C ++ - Code mit unserer Unterstützung für llm.rs
• Tools : Verbessern Sie die Funktionen Ihrer KI -Agenten, indem Sie ihnen Zugriff auf verschiedene Tools ermöglichen, z. B. Bash -Befehle ausführen, Python -Skripte ausführen oder Websuche durchführen und komplexere und leistungsfähigere Interaktionen ermöglichen.
• Erweiterbarkeit : Die Erweiterbarkeit ist so konzipiert, dass zusätzliche LLMs beim Wachstum des Ökosystems leicht integriert werden können.
• Community-gesteuerte : Wir begrüßen und ermutigen Beiträge der Community, um die Fähigkeiten der llm-chain zu verbessern und zu erweitern.

Erste Schritte

Um llm-chain zu verwenden, fügen Sie sie als Abhängigkeit in Ihrer Cargo.toml hinzu (Sie benötigen Rost 1.65.0 oder neuer):

[ dependencies ]
llm-chain = " 0.12.0 "
llm-chain-openai = " 0.12.0 "

Bei den Beispielen für llm-chain-openai müssen Sie die Umgebungsvariable OPENAI_API_KEY festlegen, die Sie tun können:

 export OPENAI_API_KEY= " sk-YOUR_OPEN_AI_KEY_HERE "

Beachten Sie dann die Dokumentation und Beispiele, um zu erfahren, wie Sie schnelle Vorlagen, Ketten und mehr erstellen.

Beitragen?

Wir begrüßen Beiträge von allen herzlich! Wenn Sie llm-chain verbessern möchten, finden Sie in unserer Datei mit CONTRIBUTING.md -Datei und Best Practices.

Lizenz?

llm-chain ist unter der MIT-Lizenz lizenziert.

Verbinde dich mit uns

Wenn Sie Fragen, Vorschläge oder Feedback haben, können Sie ein Problem öffnen oder sich unserer Community -Zwietracht anschließen. Wir freuen uns immer, von unseren Benutzern zu hören und Ihre Erfahrungen mit llm-chain kennenzulernen.

Wir hoffen, dass Sie gerne llm-chain verwenden, um das volle Potenzial großer Sprachmodelle in Ihren Projekten auszuschalten. Happy Coding! ?