airunner
v3.1.6
AI Runner ist eine Schnittstelle, die es Ihnen ermöglicht, Open-Source-LLM (Large Language Models) und AI-Bildgeneratoren (Stable Diffusion) auf Ihrer eigenen Hardware auszuführen.
Es ist benutzerfreundlich gestaltet und verfügt über eine einfache und intuitive Benutzeroberfläche, die es Ihnen ermöglicht, KI-Modelle auszuführen, ohne dass ein Webserver oder Cloud-Dienst erforderlich ist.
Es wurde auf Geschwindigkeit und Effizienz optimiert und ermöglicht Ihnen die Generierung von Bildern und Gespräche mit Chatbots in Echtzeit.
AI Runner ist eine KI-Schnittstelle, die es Ihnen ermöglicht, Open-Source-LLM (Large Language Models) und KI-Bildgeneratoren (Stable Diffusion) auf Ihrer eigenen Hardware auszuführen.
| Besonderheit | Beschreibung |
|---|---|
| LLMs und Kommunikation | |
| Sprachbasierte Chatbot-Gespräche | Führen Sie mit Ihrer Stimme Gespräche mit einem Chatbot |
| Text-zu-Sprache | Wandeln Sie Text in gesprochenes Audio um |
| Speech-to-Text | Wandeln Sie gesprochenes Audio in Text um |
| Anpassbare Chatbots mit LLMs | Generieren Sie Text mithilfe großer Sprachmodelle |
| RAG auf lokalen Dokumenten und Websites | Interagieren Sie mit Ihren lokalen Dokumenten mithilfe eines LLM |
| ? Bilderzeugung | |
| Stabile Diffusion (alle Versionen) | Erzeugen Sie Bilder mit stabiler Diffusion |
| Zeichenwerkzeuge | Verwandeln Sie Skizzen in Kunst |
| Text-zu-Bild | Generieren Sie Bilder aus Textbeschreibungen |
| Bild-zu-Bild | Generieren Sie Bilder basierend auf Eingabebildern |
| ?️ Bildmanipulation | |
| Inpaint und Outpaint | Ändern Sie Teile eines Bildes und behalten Sie dabei den Kontext bei |
| Kontrollnetz | Steuern Sie die Bilderzeugung mit zusätzlichen Eingaben |
| LoRA | Optimieren Sie Modelle effizient mit LoRA |
| Texteinbettungen | Verwenden Sie Texteinbettungen zur Steuerung der Bildgenerierung |
| Bildfilter | Unschärfe, Filmkörnung, Pixelkunst und mehr |
| ? Dienstprogramm | |
| Offline und lokal ausführen | Laufen Sie auf Ihrer eigenen Hardware ohne Internet |
| Schnelle Generation | Bilder in ca. 2 Sekunden generieren (RTX 2080s) |
| Führen Sie mehrere Modelle gleichzeitig aus | Nutzen Sie mehrere Modelle gleichzeitig |
| Dunkler Modus | Komfortables Seherlebnis in Umgebungen mit wenig Licht |
| Unendlich scrollbare Leinwand | Scrollen Sie nahtlos durch generierte Bilder |
| NSFW-Filter umschalten | Helfen Sie dabei, die Sichtbarkeit von NSFW-Inhalten zu steuern |
| NSFW-Leitplanken umschaltbar | Helfen Sie dabei, die Entstehung schädlicher LLM-Inhalte zu verhindern |
| Vollständig anpassbar | Passen Sie alle Parameter einfach an |
| Schnelle Ladezeit, reaktionsschnelle Oberfläche | Genießen Sie ein reibungsloses und reaktionsschnelles Benutzererlebnis |
| Reine Python | Keine Abhängigkeit von einem Webserver, reine Python-Implementierung |
Es gibt verschiedene Möglichkeiten, mit AI Runner zu beginnen, z. B. als Paket, aus dem Quellcode und als Bibliothek.
Detaillierte Verpackungs- und Installationsanweisungen finden Sie im Wiki.
Installation
pip install airunnerLäuft
airunnerAI Runner installiert alle Modelle, die zum Betrieb eines Chatbots mit Text-to-Speech- und Speech-to-Text-Funktionen erforderlich sind, sowie die für Stable Diffusion erforderlichen Kernmodelle. Sie müssen jedoch Ihre eigenen Art-Generator-Modelle bereitstellen.
Sie können Modelle von Huggingface.co oder civitai.com herunterladen.
Die unterstützten Stable Diffusion-Modelle sind:
Modelle müssen in ihren jeweiligen Verzeichnissen im airunner -Verzeichnis abgelegt werden.
~/.local/share/airunner
├── art
│ ├── models
│ │ ├── SD 1.5
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ ├── SDXL 1.0
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ └── SDXL Turbo
│ │ ├── lora
│ │ └── embeddings
Führen Sie alle Unit-Tests durch
python -m unittest discover -s src/airunner/tests Führen Sie einen einzelnen Unit-Test python -m unittest src/airunner/tests/<file_name> aus
Beispiel
python -m unittest src/airunner/tests/test_prompt_weight_convert.pyObwohl AI Runner v3.0 mit Huggingface-Bibliotheken erstellt wurde, haben wir darauf geachtet, die Anwendung auf jegliche Telemetrie- oder Trackingfunktionen zu verzichten.
Lediglich der Setup-Assistent benötigt Zugang zum Internet, um die benötigten Modelle herunterzuladen.
Weitere Informationen finden Sie in den Bibliotheken Darklock und Facehuggershield.
Der Schreibzugriff für die Transformers-Bibliothek wurde deaktiviert, sodass zur Laufzeit kein Huggingface-Cache-Verzeichnis erstellt werden kann.
Die Anwendung selbst kann weiterhin zum Lesen und Schreiben auf die Disc zugreifen, wir haben jedoch Lese- und Schreibzugriffe auf das vom Benutzer bereitgestellte airunner Verzeichnis eingeschränkt (standardmäßig befindet sich dieses unter ~/.local/share/airunner ).
Alle anderen Versuche, auf die Disc zuzugreifen, werden blockiert und für Ihre Überprüfung protokolliert.
Weitere Informationen finden Sie src/security/restrict_os_access.py .
Huggingface Hub enthält Telemetrie- und Trackingfunktionen, die in AI Runner vollständig deaktiviert wurden.
Die für diese Bibliothek ergriffenen Sicherheitsmaßnahmen sind wie folgt
Weitere Informationen finden Sie unter Facehuggershield.
