AI Horde
1.0.0
Die AI Horde ist ein ML-Ops-Crowdsourcing-Cluster für verteilte Inferenzen auf Unternehmensebene für KI-Modelle. Diese Middleware kann sowohl die Bild- als auch die Textgenerierung unterstützen. Es ist unbegrenzt skalierbar und unterstützt den nahtlosen Ein-/Ausstieg von Rechenressourcen. Die öffentliche Version ermöglicht Benutzern ohne leistungsstarke GPU die Verwendung von Stable Diffusion oder großen Sprachmodellen wie Pygmalion/Llama, indem sie sich auf von der Community bereitgestellte freie/untätige Ressourcen verlassen, und ermöglicht auch Nicht-Python-Clients wie Spielen und Apps die Verwendung von KI- Generationen bereitgestellt.
Die AI Horde-Middleware selbst kann auch privat in einer geschlossenen Umgebung in jedem Unternehmen ausgeführt werden. Es kann innerhalb weniger Stunden installiert werden und kann Ihre ML-Lösung innerhalb weniger Tage nach der Bereitstellung skalieren.
Weitere Fragen finden Sie in den FAQ
Um die Horde nutzen zu können, müssen Sie über ein registriertes Konto verfügen oder den anonymen Modus verwenden.
Um ein Konto zu registrieren, gehen Sie zur AI Horde-Website:
und melden Sie sich mit einem der verfügbaren Dienste an. Sobald Sie dies getan haben, wird ein Formular angezeigt, in das Sie einen Benutzernamen eingeben können. Wenn Sie eines hinzufügen, wird automatisch ein Benutzerobjekt für Sie gespeichert und ein API-Schlüssel bereitgestellt, um Sie zu identifizieren.
Speichern Sie diesen API-Schlüssel und verwenden Sie ihn für Ihren Client oder Ihre Bridge.
Wenn Sie sich zuerst anmelden, können Sie Ihren Benutzernamen und API-Schlüssel jederzeit ändern. Wir speichern keine identifizierbaren Informationen außer der vom OAuth für Ihren Benutzer gesendeten ID-Zeichenfolge. Wir verwenden dies nur zur Einzigartigkeit des Benutzers und zu keinem anderen Zweck.
Wenn Sie möchten, können Sie auch ein pseudonymes Konto erstellen, ohne sich mit oauth anzumelden. Wir werden solche Konten jedoch nicht führen . Wenn Sie den Zugriff darauf verlieren, müssen Sie ein neues erstellen. Wenn jemand Ihren API-Schlüssel kopiert, kann er sich als Sie ausgeben. Sie können den Benutzernamen, den API-Schlüssel usw. nicht mehr ändern. Wenn Sie diese Risiken nicht möchten, melden Sie sich stattdessen bei einem der verfügbaren Dienste an.
Wenn Sie sich auch mit einem pseudonymen Account nicht anmelden möchten, können Sie diesen Dienst anonym nutzen, indem Sie „0000000000“ als API-Schlüssel verwenden. Ihre Nutzung und Ihre Beiträge werden jedoch nicht erfasst. Beachten Sie, dass der anonyme Modus möglicherweise deaktiviert wird, wenn dieser Dienst zu überlastet wird!
Der Zweck der Registrierung besteht darin, Ihre Nutzung und Ihre Beiträge zu verfolgen. Je mehr Sie zur Horde beitragen, desto mehr Priorität haben Sie. Lesen Sie hier darüber
Wenn Sie eine Integration in die AI Horde (Bot, Anwendung, Skripte usw.) erstellen möchten, lesen Sie bitte unsere Integrations-Readme
Wenn Sie Fragen oder Feedback haben, haben wir eine lebendige Community auf Discord
Bitte lesen Sie die einzelnen Readme-Dateien für jeden spezifischen Modus, der von der KI-Horde unterstützt wird.
