AubAI vous offre des fonctionnalités de génération d'IA sur l'appareil, notamment la génération de texte hors ligne et bien plus encore, directement dans votre application.
Salutations Flutteristas, passionnés d'IA et développeurs avant-gardistes ! Prêt à révolutionner vos applications avec la génération d'IA sur appareil, y compris des capacités avancées de génération de texte ? Vous avez atterri au bon endroit.
Découvrez AubAI : un package Flutter/Dart conçu spécifiquement pour doter vos applications de modèles gen-AI sur appareil. Qu'il s'agisse de générer du texte, d'améliorer l'interaction des utilisateurs ou d'autres tâches basées sur l'IA, AubAI est là pour vous.
Ce package change la donne pour toutes les principales plateformes. Mais ne vous contentez pas de me croire sur parole ; voyez AubAI en action dans mes didacticiels YouTube sur YouTube.com/@BrutalCoding.
AubAI est non seulement puissant et polyvalent, mais également convivial et open source. Il est temps de libérer tout le potentiel de vos applications avec la dernière technologie gen-AI.
Prise en charge de la plate-forme universelle : AubAI est méticuleusement conçu pour Flutter, garantissant un fonctionnement transparent sur une multitude de plates-formes. Cette large compatibilité s'étend à différents systèmes d'exploitation, répondant à un large éventail de besoins de développement :
En supposant que vous ayez consulté AubAI et que vous l'aimiez, il existe plusieurs façons de montrer votre appréciation :
Pensez à devenir sponsor. Si l’idée de ce projet est de rendre l’IA accessible à tous, cela a un coût, en termes de temps consacré à ce projet. Mon propriétaire n'accepte pas les étoiles GitHub comme mode de paiement, du moins pas encore. Si vous pouvez vous le permettre, pensez à devenir sponsor. Cela peut être aussi peu que 1 $ une fois, 1 $ par mois ou tout autre montant. Chaque petit geste compte, tant mentalement que financièrement.
Si vous êtes une personne riche et sur le point d'acheter un grand yacht de luxe, pensez à un bouton plaqué or de moins sur le volant et utilisez cet argent pour ajouter votre nom à la liste des sponsors.
Le but est de rendre l’IA accessible à tous, non ? C'est pourquoi j'ai passé beaucoup de temps à m'assurer que l'exemple d'application est disponible en téléchargement sur toutes les principales plates-formes. Je veux que ce soit aussi facile que possible pour que tout le monde puisse l'essayer. Rien de mieux qu'un exemple concret pour voir de quoi AubAI est capable.
Aucune connaissance technique requise. Téléchargez simplement l'application et vous êtes prêt à partir.
Assurez-vous d'appuyer sur le bouton "Étoile" sur ce projet si vous l'aimez. Peut-être qu'un jour mon propriétaire acceptera les étoiles GitHub comme mode de paiement !
pubspec.yaml
: dependencies :
aub_ai : ^1.0.0
Exécutez flutter pub get
installer le package.
Importez le package dans votre code Dart :
import 'package:aub_ai/aub_ai.dart' ;
/// The output of the AI will be stored in this variable.
/// Can be used in a Text() widget, for example.
String outputByAI = '' ;
/// Example of how to use AubAI to talk to the AI.
Future < void > example () async {
// Make sure that the model file is in the GGUF format.
const String filePath = 'path/to/model.gguf' ;
// The prompt to start the conversation with.
const String promptByUser = 'Why is the sky blue?' ;
// Pre-defined prompt templates are available.
final promptTemplate = PromptTemplate . chatML (). copyWith (
prompt : promptByUser,
);
// THe main function that does all the magic.
await talkAsync (
filePathToModel : filePath,
promptTemplate : promptTemplate,
onTokenGenerated : ( String token) {
// This callback is called for every token generated by the AI.
// A token can be seen as a partial word such as "hel" and "lo!".
setState (() {
outputByAI += token;
});
},
);
}
AubAI exploite la puissance de llama.cpp. Il s'agit d'une bibliothèque C++ qui vous permet d'exécuter des modèles d'IA sur votre appareil. C'est rapide, c'est léger et c'est open source. C'est la solution idéale pour AubAI.
Bien que llama.cpp soit une excellente bibliothèque, il n'est pas anodin de l'intégrer dans un projet Flutter. C'est là qu'AubAI entre en jeu. Il s'agit d'un package Flutter/Dart qui facilite l'utilisation de llama.cpp dans votre projet Flutter.
La vision d'AubAI est de rendre l'IA accessible à tous, et l'IA ne se limite pas à générer du texte. C'est pourquoi AubAI est conçu pour être modulaire. Au fil du temps, davantage de capacités d'IA seront ajoutées à AubAI, telles que la génération d'images, la génération de voix, etc.
Si vous recherchez un fichier modèle, vous pouvez en trouver quelques-uns ici : HuggingFace.co.
Au moment de la rédaction de cet article, plus de 2 300 modèles sont disponibles. Certains d’entre eux peuvent être très bons en mathématiques, d’autres en codage, d’autres en poésie et certains sont bons en tout. C'est à vous de trouver le modèle qui convient à votre cas d'utilisation pour votre application, ou de laisser vos utilisateurs choisir un modèle comme je l'ai fait dans l'exemple d'application.
AubAI, moi-même et toute autre personne impliquée dans ce projet ne sommes pas responsables des dommages causés par l'utilisation de ce projet. Utilisez à vos propres risques.
Voir le fichier LICENCE. Tous les fichiers sont sous licence AGPL-3.0, sauf indication contraire explicite.
AubAI est sous licence AGPL-3.0. Cependant, nous comprenons que la licence AGPL-3.0 n'est pas toujours adaptée à un usage commercial. Par conséquent, nous proposons une licence commerciale pour ceux qui souhaitent utiliser AubAI dans un cadre commercial, mais ne souhaitent pas se conformer à la licence AGPL-3.0.
Veuillez contacter [email protected] pour vous renseigner sur une licence commerciale.
Veuillez lire le fichier CONTRIBUTING.md.
Curieux de connaître AubAI ? Jetez un œil à ma chaîne où je fais des vidéos sur AubAI : YouTube.com/@BrutalCoding.
Démos, tutoriels et bien plus encore.
Pour votre commodité, j'ai répertorié certaines des vidéos ci-dessous :
Un mot néerlandais qui décrit parfaitement ma situation actuelle : au chômage. Mais utiliser ce mot en anglais vous a peut-être fait sauter cette section, et pourtant vous y êtes. Je suis content que vous lisiez encore.
Récemment, en septembre dernier, la startup fintech pour laquelle je travaillais a dû fermer ses portes en raison des conditions difficiles du marché. Alors que je suis actuellement à la recherche d'un nouvel emploi, il n'est pas facile de trouver une entreprise qui combine ma passion pour l'IA et Flutter.
J'ai décidé de faire un acte de foi et de travailler sur ce projet jusqu'à ce que je trouve un nouvel emploi ou jusqu'à ce que je sois à court d'argent (janvier-février 2024). Selon la première éventualité. Peut-être trouverai-je un moyen de rendre ce projet durable, tout en le gardant open source. Je vais juste avec le courant.