AubAI は、オフライン テキスト生成などを含むオンデバイス gen-AI 機能をアプリ内で直接提供します。
Flutterista、AI 愛好家、先進的な開発者の皆様、こんにちは。高度なテキスト生成機能を含む、オンデバイス gen-AI でアプリに革命を起こす準備はできていますか?正しい場所に着地しました。
AubAI のご紹介: オンデバイスの gen-AI モデルでアプリを強化するために特別に設計された Flutter/Dart パッケージです。テキストの生成、ユーザー インタラクションの強化、その他の AI 主導のタスクのいずれであっても、AubAI が対応します。
このパッケージは、すべての主要なプラットフォームにとって大きな変革をもたらします。しかし、私の言葉をそのまま鵜呑みにしないでください。私の YouTube チュートリアル (YouTube.com/@BrutalCoding) で AubAI の動作をご覧ください。
AubAI は強力で多用途であるだけでなく、ユーザーフレンドリーでオープンソースでもあります。最新の gen-AI テクノロジーを使用して、アプリの可能性を最大限に引き出す時が来ました。
ユニバーサル プラットフォーム サポート: AubAI は Flutter 向けに細心の注意を払って設計されており、多数のプラットフォーム間でのシームレスな動作を保証します。この幅広い互換性はさまざまなオペレーティング システムに拡張され、さまざまな開発ニーズに対応します。
AubAI をチェックして気に入っていただけた場合、感謝の意を示す方法がいくつかあります。
スポンサーになることを検討してください。このプロジェクトのアイデアは、誰もが AI にアクセスできるようにすることですが、このプロジェクトに多くの時間を費やすという点でコストがかかります。私の家主は、少なくともまだ、GitHub スターを支払い方法として受け入れていません。お金に余裕があればスポンサーになることも検討してみてください。 1 回あたり 1 ドル、毎月 1 ドル、またはその他の金額でも可能です。少しずつでも精神的にも経済的にも助けになります。
あなたが大型の高級ヨットを購入しようとしていた裕福な個人であれば、ステアリングホイールの金メッキのノブを 1 つ減らすことを検討し、そのお金でスポンサーのリストにあなたの名前を追加してください。
目標は、AI を誰もが利用できるようにすることですよね?そのため、私はサンプル アプリがすべての主要なプラットフォームでダウンロードできることを確認するのにかなりの時間を費やしました。できるだけ誰でも簡単に試してもらえるようにしたいと考えています。 AubAI がどのような機能を備えているかを知るには、実際の例を見てみるよりも良いものはありません。
技術的な知識は必要ありません。アプリをダウンロードするだけで準備完了です。
このプロジェクトが気に入ったら、必ず「スター」ボタンを押してください。おそらくいつか、家主が支払い方法として GitHub スターを受け入れるようになるでしょう。
pubspec.yaml
ファイルに追加します。 dependencies :
aub_ai : ^1.0.0
flutter pub get
を実行してパッケージをインストールします。
Dart コードにパッケージをインポートします。
import 'package:aub_ai/aub_ai.dart' ;
/// The output of the AI will be stored in this variable.
/// Can be used in a Text() widget, for example.
String outputByAI = '' ;
/// Example of how to use AubAI to talk to the AI.
Future < void > example () async {
// Make sure that the model file is in the GGUF format.
const String filePath = 'path/to/model.gguf' ;
// The prompt to start the conversation with.
const String promptByUser = 'Why is the sky blue?' ;
// Pre-defined prompt templates are available.
final promptTemplate = PromptTemplate . chatML (). copyWith (
prompt : promptByUser,
);
// THe main function that does all the magic.
await talkAsync (
filePathToModel : filePath,
promptTemplate : promptTemplate,
onTokenGenerated : ( String token) {
// This callback is called for every token generated by the AI.
// A token can be seen as a partial word such as "hel" and "lo!".
setState (() {
outputByAI += token;
});
},
);
}
AubAI は llama.cpp の機能を活用しています。これは、デバイス上で AI モデルを実行できるようにする C++ ライブラリです。高速で軽量、そしてオープンソースです。 AubAIにぴったりです。
llama.cpp は優れたライブラリですが、これを Flutter プロジェクトに統合するのは簡単ではありません。そこで AubAI の出番です。これは、Flutter プロジェクトで llama.cpp を簡単に使用できるようにする Flutter/Dart パッケージです。
AubAI のビジョンは、誰もが AI にアクセスできるようにすることであり、AI は単にテキストを生成するだけではありません。 AubAI がモジュール式に設計されているのはそのためです。時間の経過とともに、画像生成や音声生成など、さらに多くの AI 機能が AubAI に追加される予定です。
モデル ファイルをお探しの場合は、HuggingFace.co でいくつかのファイルを見つけることができます。
この記事の執筆時点では、2,300 を超えるモデルが利用可能です。数学が得意な人、コーディングが得意な人、詩が得意な人、すべてが得意な人もいます。アプリのユースケースに適したモデルを見つけるか、サンプルアプリで私が行ったようにユーザーにモデルを選択させるかは、あなた次第です。
AubAI、私、その他このプロジェクトに関わる者は、このプロジェクトの利用によって生じたいかなる損害についても責任を負いません。ご自身の責任でご使用ください。
LICENSE ファイルを参照してください。特に明記されていない限り、すべてのファイルは AGPL-3.0 ライセンスに基づいてライセンスされています。
AubAI は AGPL-3.0 ライセンスに基づいてライセンスを取得しています。ただし、AGPL-3.0 ライセンスが必ずしも商用利用に適しているわけではないことを理解しています。したがって、商用環境で AubAI を使用したいが、AGPL-3.0 ライセンスに準拠したくない人のために、商用ライセンスを提供します。
商用ライセンスについて問い合わせる場合は、[email protected] までご連絡ください。
CONTRIBUTING.md ファイルをお読みください。
AubAI について興味がありますか? AubAI に関するビデオを作成している私のチャンネルをご覧ください: YouTube.com/@BrutalCoding。
デモ、チュートリアルなど。
参考までに、以下にいくつかのビデオをリストしました。
私の現在の状況を完璧に表すオランダ語は「失業」です。ただし、この単語を英語で使用すると、このセクションをスキップすることになるかもしれませんが、それでもここまでです。まだ読んでいただけると嬉しいです。
最近、昨年の 9 月、私が働いていたフィンテックのスタートアップ企業が、厳しい市場環境のため閉鎖しなければならなくなりました。現在新しい仕事を探していますが、AI と Flutter に対する私の情熱を兼ね備えた会社を見つけるのは簡単ではありません。
私は思い切って、新しい仕事が見つかるまで、またはお金がなくなるまで(2024 年 1 月から 2 月)このプロジェクトに取り組むことにしました。どちらが先でも構いません。おそらく、オープンソースのままでこのプロジェクトを持続可能なものにする方法を見つけるでしょう。ただ流れに乗っているだけです。