L'AI Horde est un cluster d'inférence distribuée ML-Ops au niveau de l'entreprise pour les modèles d'IA. Ce middleware peut prendre en charge la génération d'images et de texte. Il est évolutif à l’infini et prend en charge l’ajout/le retrait transparent des ressources de calcul. La version publique permet aux personnes ne disposant pas d'un GPU puissant d'utiliser la diffusion stable ou des modèles de langage étendus comme Pygmalion/Llama en s'appuyant sur des ressources de rechange/inactives fournies par la communauté et permet également aux clients non-python, tels que les jeux et les applications, d'utiliser l'IA. générations fournies.
Le middleware AI Horde lui-même peut également être exécuté en privé dans un environnement fermé au sein de n’importe quelle entreprise. Il peut être installé en quelques heures et peut faire évoluer votre solution ML quelques jours après son déploiement.
Pour plus de questions, consultez la FAQ
Pour utiliser la horde, vous devez avoir un compte enregistré ou utiliser le mode anonyme.
Pour créer un compte, rendez-vous sur le site Web d'AI Horde :
et connectez-vous avec l'un des services disponibles. Une fois que vous l'aurez fait, vous verrez un formulaire dans lequel vous pourrez saisir un nom d'utilisateur. Ajoutez-en un et il stockera automatiquement un objet utilisateur pour vous et fournira une clé API pour vous identifier.
Stockez cette clé API et utilisez-la pour votre client ou votre pont.
En vous connectant d'abord, vous pouvez modifier votre nom d'utilisateur et votre clé API à tout moment. Nous ne stockons aucune information identifiable autre que la chaîne d'identification envoyée par oauth pour votre utilisateur. Nous l'utilisons uniquement pour le caractère unique de l'utilisateur et à aucune autre fin.
Si vous le souhaitez, vous pouvez également créer un compte pseudonyme, sans vous connecter avec oauth. Cependant, nous ne maintiendrons pas de tels comptes . Si vous n’y avez plus accès, vous devrez en créer un nouveau. Si quelqu'un copie votre clé API, il peut usurper votre identité. Vous ne pouvez plus modifier le nom d'utilisateur ou la clé API, etc. Si vous ne voulez pas ces risques, connectez-vous plutôt à l'un des services disponibles.
Si vous ne souhaitez pas vous connecter même avec un compte pseudonyme, vous pouvez utiliser ce service de manière anonyme en utilisant « 0000000000 » comme clé API. Cependant, votre utilisation et vos contributions ne seront pas suivies. Sachez que si ce service est trop surchargé, le mode anonyme peut être désactivé !
Le but de l’inscription est de suivre votre utilisation et vos contributions. Plus vous contribuez à la Horde, plus vous avez la priorité. Lisez à ce sujet ici
Si vous souhaitez créer une intégration à AI Horde (Bot, application, scripts, etc.), veuillez consulter notre Readme d'intégration.
Si vous avez des questions ou des commentaires, nous avons une communauté dynamique sur Discord
Veuillez consulter les fichiers readmes individuels pour chaque mode spécifique pris en charge par l'IA Horde.