rags

Lumpen

Build.a.rags.bot.powered.by.llamaindex .-. 26.november.2023.mp4

Rags ist eine stromlitische App, mit der Sie mithilfe der natürlichen Sprache eine Lag -Pipeline aus einer Datenquelle erstellen können.

Sie können Folgendes tun:

1. Beschreiben Sie Ihre Aufgabe (zB "Laden Sie diese Webseite") und die gewünschten Parameter von Ihren Lappensystemen (zB "Ich möchte x Anzahl von Dokumenten abrufen").
2. Gehen Sie nach Bedarf in die Konfigurationsansicht und -ansicht/ändere erzeugte Parameter (Top-K, Summarization usw.).
3. Fragen Sie den RAG -Agenten mit Ihren Fragen an.

Dieses Projekt ist von GPTs inspiriert, die von OpenAI eingeführt werden.

Installation und Setup

Klonen Sie dieses Projekt, gehen Sie in den Ordner rags -Projekts. Wir empfehlen, eine virtuelle Umwelt für Abhängigkeiten zu erstellen ( python3 -m venv .venv ).

 poetry install --with dev

Standardmäßig verwenden wir OpenAI sowohl für den Bauherren als auch für den generierten RAG -Agenten. Fügen Sie .streamlit/secrets.toml im Home -Ordner hinzu.

Dann setzen Sie Folgendes ein:

 openai_key = "<openai_key>"

Führen Sie dann die App aus der "Homepage" -Datei aus.

streamlit run 1_?_Home.py

HINWEIS : Wenn Sie die Version von Rags aktualisiert haben und beim Start Probleme mit Problemen treffen, müssen Sie möglicherweise den cache -Ordner in Ihrem Home -Verzeichnis löschen (wir haben möglicherweise Bruchänderungen in der gespeicherten Datenstruktur zwischen den Versionen eingeführt).

Detaillierte Übersicht

Die App enthält die folgenden Abschnitte, die den oben aufgeführten Schritten entsprechen.

1.? Startseite

Dies ist der Abschnitt, in dem Sie eine Lag -Pipeline bauen, indem Sie den "Builder Agent" anweisen. Um eine Lag -Pipeline einzurichten, benötigen Sie die folgenden Komponenten:

1. Beschreiben Sie den Datensatz. Derzeit unterstützen wir entweder eine einzelne lokale Datei oder eine Webseite . Wir sind hier offen für Vorschläge!
2. Beschreiben Sie die Aufgabe. Konkret wird diese Beschreibung verwendet, um die "System -Eingabeaufforderung" des LLM zu initialisieren, der die Lag -Pipeline anstellt.
3. Definieren Sie die typischen Parameter für ein RAG -Setup. Die folgende Parameterliste finden Sie im folgenden Abschnitt.

2. RAG -Konfiguration

Dieser Abschnitt enthält die vom "Builder Agent" im vorherigen Abschnitt erzeugten Lag -Parameter. In diesem Abschnitt haben Sie eine Benutzeroberfläche, in der die generierten Parameter vorgestellt werden, und haben die volle Freiheit, sie nach Bedarf manuell zu bearbeiten/zu ändern.

Derzeit ist der Parametersatz wie folgt:

• Systemaufforderung
• Zusammenfassung einschließen: Ob Sie auch ein Zusammenfassungstool hinzufügen sollen (anstatt nur das Top-K-Abruf durchzuführen).
• Top-K
• Chunkgröße
• Einbettungsmodell
• Llm

Wenn Sie die Parameter manuell ändern, können Sie die Schaltfläche "Agent aktualisieren" drücken, um den Agenten zu aktualisieren.

 If you don't see the `Update Agent` button, that's because you haven't created the agent yet. Please go to the previous "Home" page and complete the setup process.

Wir können immer mehr Parameter hinzufügen, um dies "fortgeschrittener" zu gestalten, dachten jedoch, dies wäre ein guter Ausgangspunkt.

3.. Erzeugtes RAG -Agent

Sobald Ihr Rag -Agent erstellt wurde, haben Sie Zugriff auf diese Seite.

Dies ist eine Standard -Chatbot -Schnittstelle, in der Sie den RAG -Agenten abfragen können, und es wird Fragen über Ihre Daten beantworten.

Es kann die richtigen Lag-Tools (entweder Top-K-Vektorsuche oder optional Zusammenfassung) auswählen, um die Abfrage zu erfüllen.

Unterstützte LLMs und Einbettungen

Bauherren

Standardmäßig verwendet der Builder Agent OpenAI. Dies ist in der Datei core/builder_config.py definiert.

Sie können dies an die gewünschten LLM anpassen (ein Beispiel für Anthropic).

Beachten Sie, dass GPT-4-Varianten die zuverlässigsten Ergebnisse in Bezug auf den tatsächlich konstruierten Agenten liefern (wir konnten Claude nicht zum Laufen bringen).

Erzeugte RAG -Agent

Sie können die Konfiguration entweder über natürliche Sprache oder manuell sowohl für das Einbettungsmodell als auch für LLM einstellen.

• LLM : Wir unterstützen die folgenden LLMs, aber Sie müssen die ID explizit an den Bauherren angeben.
  • OpenAI: ID ist "OpenAI: <model_name>" EG "OpenAI: GPT-4-1106-Preview"
  • Anthrop: ID ist "anthropisch: <model_name>" EG "Anthropic: Claude-2"
  • Replikat: ID lautet "Replikate: <model_name>"
  • Umarmung: ID ist "lokal: <model_name>" zB "lokal: baai/bge-small-en"
• Einbettungen : unterstützt standardmäßig Text-Embedding-ada-002, unterstützt aber auch umarmende Gesichtsmodelle. Um ein umarmendes Gesichtsmodell zu verwenden, bereiten Sie sich einfach mit lokaler, z. B. lokal vor: baai/bge-small-en.

Ressourcen

Probleme? Bitte stellen Sie ein GitHub -Problem ein oder treten Sie unserer Zwietracht bei.

Diese App wurde mit Llamaindex Python gebaut.

Sehen Sie sich hier in unserem Start -Blog -Beitrag an.