self hosted ai starter kit

Selbstgehostetes KI-Starterkit

Das selbst gehostete AI Starter Kit ist eine Open-Source-Docker-Compose-Vorlage, die für die schnelle Initialisierung einer umfassenden lokalen KI- und Low-Code-Entwicklungsumgebung entwickelt wurde.

Kuratiert von https://github.com/n8n-io, kombiniert es die selbst gehostete n8n-Plattform mit einer kuratierten Liste kompatibler KI-Produkte und -Komponenten, um schnell mit der Erstellung selbst gehosteter KI-Workflows zu beginnen.

Tipp

Lesen Sie die Ankündigung

Was ist enthalten

✅ Selbstgehostetes n8n – Low-Code-Plattform mit über 400 Integrationen und fortschrittlichen KI-Komponenten

✅ Ollama – Plattformübergreifende LLM-Plattform zur Installation und Ausführung der neuesten lokalen LLMs

✅ Qdrant – Open-Source-Hochleistungs-Vektorspeicher mit umfassender API

✅ PostgreSQL – Arbeitspferd der Data Engineering-Welt, verarbeitet große Datenmengen sicher.

Was Sie bauen können

️ KI-Agenten zur Terminplanung

️ Fassen Sie Unternehmens-PDFs sicher und ohne Datenlecks zusammen

️ Intelligentere Slack-Bots für verbesserte Unternehmenskommunikation und IT-Abläufe

️ Private Finanzdokumentanalyse zu minimalen Kosten

Installation

Klonen des Repositorys

git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit

Ausführen von n8n mit Docker Compose

Für Nvidia-GPU-Benutzer

 git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
docker compose --profile gpu-nvidia up

Notiz

Wenn Sie Ihre Nvidia-GPU noch nie mit Docker verwendet haben, befolgen Sie bitte die Ollama Docker-Anweisungen.

Für Mac-/Apple Silicon-Benutzer

Wenn Sie einen Mac mit einem M1-Prozessor oder einem neueren Prozessor verwenden, können Sie Ihre GPU leider nicht der Docker-Instanz zugänglich machen. In diesem Fall gibt es zwei Möglichkeiten:

1. Führen Sie das Starterkit vollständig auf der CPU aus, wie im Abschnitt „Für alle anderen“ unten beschrieben
2. Führen Sie Ollama auf Ihrem Mac aus, um schnellere Schlussfolgerungen zu ziehen, und stellen Sie über die n8n-Instanz eine Verbindung dazu her

Wenn Sie Ollama auf Ihrem Mac ausführen möchten, schauen Sie auf der Ollama-Homepage nach Installationsanweisungen und führen Sie das Starterkit wie folgt aus:

 git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
docker compose up

Nachdem Sie die Schnellstart-Einrichtung unten befolgt haben, ändern Sie die Ollama-Anmeldeinformationen, indem Sie http://host.docker.internal:11434/ als Host verwenden.

Für alle anderen

 git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
docker compose --profile cpu up

⚡️ Schnellstart und Nutzung

Der Kern des Self-hosted AI Starter Kit ist eine Docker Compose-Datei, die mit Netzwerk- und Speichereinstellungen vorkonfiguriert ist, wodurch der Bedarf an zusätzlichen Installationen minimiert wird. Nachdem Sie die oben genannten Installationsschritte abgeschlossen haben, befolgen Sie einfach die folgenden Schritte, um loszulegen.

1. Öffnen Sie http://localhost:5678/ in Ihrem Browser, um n8n einzurichten. Sie müssen dies nur einmal tun.
2. Öffnen Sie den enthaltenen Workflow: http://localhost:5678/workflow/srOnR8PAY3u4RSwb
3. Wählen Sie Workflow testen aus, um die Ausführung des Workflows zu starten.
4. Wenn Sie den Workflow zum ersten Mal ausführen, müssen Sie möglicherweise warten, bis Ollama den Download von Llama3.2 abgeschlossen hat. Sie können die Docker-Konsolenprotokolle überprüfen, um den Fortschritt zu überprüfen.

Um n8n jederzeit zu öffnen, besuchen Sie http://localhost:5678/ in Ihrem Browser.

Mit Ihrer n8n-Instanz haben Sie Zugriff auf über 400 Integrationen und eine Reihe grundlegender und erweiterter KI-Knoten wie KI-Agent, Textklassifizierer und Informationsextraktor-Knoten. Um alles lokal zu halten, denken Sie daran, den Ollama-Knoten für Ihr Sprachmodell und Qdrant als Vektorspeicher zu verwenden.

Notiz

Dieses Starterkit soll Ihnen den Einstieg in selbstgehostete KI-Workflows erleichtern. Obwohl es nicht vollständig für Produktionsumgebungen optimiert ist, kombiniert es robuste Komponenten, die für Proof-of-Concept-Projekte gut zusammenarbeiten. Sie können es an Ihre spezifischen Bedürfnisse anpassen

Upgrade

• Für Nvidia-GPU-Setups:

docker compose --profile gpu-nvidia pull
docker compose create && docker compose --profile gpu-nvidia up

Für Mac-/Apple Silicon-Benutzer

 docker compose pull
docker compose create && docker compose up

• Für Nicht-GPU-Setups:

docker compose --profile cpu pull
docker compose create && docker compose --profile cpu up

? Empfohlene Lektüre

n8n ist voll von nützlichen Inhalten für den schnellen Einstieg in seine KI-Konzepte und -Knoten. Wenn Sie auf ein Problem stoßen, wenden Sie sich an den Support.

• KI-Agenten für Entwickler: von der Theorie zur Praxis mit n8n
• Tutorial: Erstellen Sie einen KI-Workflow in n8n
• Langchain-Konzepte in n8n
• Demonstration der wichtigsten Unterschiede zwischen Agenten und Ketten
• Was sind Vektordatenbanken?

? Video-Komplettlösung

• Installieren und Verwenden von Local AI für n8n

?️ Weitere KI-Vorlagen

Weitere KI-Workflow-Ideen finden Sie in der offiziellen n8n AI-Vorlagengalerie . Wählen Sie in jedem Workflow die Schaltfläche „Workflow verwenden“ aus, um den Workflow automatisch in Ihre lokale n8n-Instanz zu importieren.

Lernen Sie KI-Schlüsselkonzepte kennen

• KI-Agenten-Chat
• KI-Chat mit jeder Datenquelle (auch mit dem n8n-Workflow)
• Chatten Sie mit OpenAI Assistant (durch Hinzufügen eines Speichers)
• Verwenden Sie ein Open-Source-LLM (über Hugging Face)
• Chatten Sie mit PDF-Dokumenten mithilfe von KI (Quellen zitieren)
• KI-Agent, der Webseiten durchsuchen kann

Lokale KI-Vorlagen

• Assistent der Abgabenordnung
• Teilen Sie Dokumente mit MistralAI und Qdrant in Studiennotizen auf
• Assistent für Finanzdokumente mit Qdrant und Mistral.ai
• Rezeptempfehlungen mit Qdrant und Mistral

Tipps & Tricks

Zugriff auf lokale Dateien

Das selbst gehostete AI-Starterkit erstellt einen freigegebenen Ordner (standardmäßig im selben Verzeichnis), der im n8n-Container bereitgestellt wird und n8n den Zugriff auf Dateien auf der Festplatte ermöglicht. Dieser Ordner im n8n-Container befindet sich unter /data/shared – dies ist der Pfad, den Sie in Knoten verwenden müssen, die mit dem lokalen Dateisystem interagieren.

Knoten, die mit dem lokalen Dateisystem interagieren

• Dateien von der Festplatte lesen/schreiben
• Lokaler Dateitrigger
• Befehl ausführen

Lizenz

Dieses Projekt ist unter der Apache-Lizenz 2.0 lizenziert – Einzelheiten finden Sie in der LIZENZ-Datei.

Unterstützung

Beteiligen Sie sich an der Diskussion im n8n-Forum, wo Sie:

• Teilen Sie Ihre Arbeit : Zeigen Sie, was Sie mit n8n geschaffen haben, und inspirieren Sie andere in der Community.
• Stellen Sie Fragen : Egal, ob Sie gerade erst anfangen oder ein erfahrener Profi sind, die Community und unser Team sind bereit, Sie bei allen Herausforderungen zu unterstützen.
• Ideen vorschlagen : Haben Sie eine Idee für eine Funktion oder Verbesserung? Lassen Sie es uns wissen! Wir sind immer gespannt, was Sie als nächstes sehen möchten.