AubAI는 오프라인 텍스트 생성 등을 포함한 온디바이스 Gen-AI 기능을 앱 내에서 직접 제공합니다.
Flutteristas, AI 애호가, 미래 지향적인 개발자 여러분, 안녕하세요! 고급 텍스트 생성 기능을 포함한 온디바이스 세대 AI로 앱을 혁신할 준비가 되셨나요? 당신은 올바른 장소에 도착했습니다.
AubAI를 만나보세요: 온디바이스 Gen-AI 모델로 앱을 강화하기 위해 특별히 설계된 Flutter/Dart 패키지입니다. 텍스트 생성, 사용자 상호 작용 강화, 기타 AI 기반 작업 등 AubAI가 모든 작업을 처리해 드립니다.
이 패키지는 모든 주요 플랫폼의 판도를 바꾸는 것입니다. 하지만 내 말을 그대로 받아들이지는 마세요. YouTube.com/@BrutalCoding의 YouTube 튜토리얼에서 AubAI의 작동 모습을 확인하세요.
AubAI는 강력하고 다재다능할 뿐만 아니라 사용자 친화적이고 오픈 소스입니다. 이제 최신 Gen-AI 기술로 앱의 잠재력을 최대한 활용해야 할 때입니다.
범용 플랫폼 지원 : AubAI는 Flutter용으로 세심하게 설계되어 다양한 플랫폼에서 원활한 작동을 보장합니다. 이러한 광범위한 호환성은 다양한 운영 체제로 확장되어 다양한 개발 요구 사항을 충족합니다.
AubAI를 확인했고 마음에 들었다고 가정하면 감사를 표할 수 있는 여러 가지 방법이 있습니다.
후원자가 되는 것을 고려해 보세요. 이 프로젝트의 아이디어는 모든 사람이 AI에 접근할 수 있도록 하는 것이지만, 이 프로젝트에 많은 시간을 투자한다는 점에서 비용이 발생합니다. 내 집주인은 적어도 아직까지는 GitHub Stars를 지불 방법으로 받아들이지 않습니다. 여유가 된다면 후원자가 되는 것을 고려해 보세요. 한 번에 1달러, 한 달에 1달러 또는 기타 금액이 될 수 있습니다. 정신적으로나 재정적으로나 작은 작은 것 하나하나가 도움이 됩니다.
당신이 큰 호화 요트를 구입하려는 부유한 개인이라면, 스티어링 휠의 금도금 손잡이 하나를 줄이고 그 돈을 사용하여 후원자 목록에 당신의 이름을 추가하십시오.
모든 사람이 AI에 접근할 수 있도록 하는 것이 목표겠죠? 이것이 바로 제가 모든 주요 플랫폼에서 예제 앱을 다운로드할 수 있는지 확인하는 데 상당한 시간을 투자한 이유입니다. 가능한 한 누구나 쉽게 시험해 볼 수 있도록 하고 싶습니다. AubAI의 능력을 확인하려면 실제 사례보다 더 좋은 것은 없습니다.
기술적 지식이 필요하지 않습니다. 앱을 다운로드하기만 하면 됩니다.
이 프로젝트가 마음에 드신다면 "별표" 버튼을 눌러주세요. 아마도 언젠가 집주인이 GitHub 스타를 지불 방식으로 받아들이게 될 것입니다!
pubspec.yaml
파일에 다음을 추가합니다. dependencies :
aub_ai : ^1.0.0
flutter pub get
실행하여 패키지를 설치하세요.
Dart 코드에서 패키지를 가져옵니다.
import 'package:aub_ai/aub_ai.dart' ;
/// The output of the AI will be stored in this variable.
/// Can be used in a Text() widget, for example.
String outputByAI = '' ;
/// Example of how to use AubAI to talk to the AI.
Future < void > example () async {
// Make sure that the model file is in the GGUF format.
const String filePath = 'path/to/model.gguf' ;
// The prompt to start the conversation with.
const String promptByUser = 'Why is the sky blue?' ;
// Pre-defined prompt templates are available.
final promptTemplate = PromptTemplate . chatML (). copyWith (
prompt : promptByUser,
);
// THe main function that does all the magic.
await talkAsync (
filePathToModel : filePath,
promptTemplate : promptTemplate,
onTokenGenerated : ( String token) {
// This callback is called for every token generated by the AI.
// A token can be seen as a partial word such as "hel" and "lo!".
setState (() {
outputByAI += token;
});
},
);
}
AubAI는 llama.cpp의 기능을 활용하고 있습니다. 기기에서 AI 모델을 실행할 수 있는 C++ 라이브러리입니다. 빠르고 가벼우며 오픈 소스입니다. AubAI에 딱 맞습니다.
llama.cpp는 훌륭한 라이브러리이지만 이를 Flutter 프로젝트에 통합하는 것은 쉽지 않습니다. 이것이 바로 AubAI가 등장하는 곳입니다. Flutter 프로젝트에서 llama.cpp를 쉽게 사용할 수 있게 해주는 Flutter/Dart 패키지입니다.
AubAI의 비전은 모든 사람이 AI에 액세스할 수 있도록 하는 것이며, AI는 단순한 텍스트 생성 그 이상입니다. 이것이 바로 AubAI가 모듈식으로 설계된 이유입니다. 시간이 지남에 따라 이미지 생성, 음성 생성 등과 같은 더 많은 AI 기능이 AubAI에 추가될 것입니다.
모델 파일을 찾고 있다면 HuggingFace.co에서 몇 가지 파일을 찾을 수 있습니다.
이 글을 쓰는 시점에는 2300개 이상의 모델을 사용할 수 있습니다. 그들 중 일부는 수학을 아주 잘할 수도 있고, 다른 사람들은 코딩을 잘할 수도 있고, 다른 사람들은 시를 잘할 수도 있고, 일부는 모든 것을 잘할 수도 있습니다. 앱의 사용 사례에 적합한 모델을 찾거나 예제 앱에서 했던 것처럼 사용자가 모델을 선택하도록 하는 것은 귀하에게 달려 있습니다.
AubAI, 저, 그리고 이 프로젝트에 관련된 다른 사람은 이 프로젝트의 사용으로 인해 발생하는 어떠한 손해에 대해서도 책임을 지지 않습니다. 자신의 책임하에 사용하십시오.
라이센스 파일을 참조하십시오. 달리 명시적으로 명시하지 않는 한 모든 파일은 AGPL-3.0 라이선스에 따라 라이선스가 부여됩니다.
AubAI는 AGPL-3.0 라이선스에 따라 라이선스가 부여됩니다. 그러나 우리는 AGPL-3.0 라이선스가 항상 상업적인 용도에 적합한 것은 아니라는 점을 알고 있습니다. 따라서 우리는 AubAI를 상업적 환경에서 사용하고 싶지만 AGPL-3.0 라이선스를 준수하고 싶지 않은 사람들을 위해 상업용 라이선스를 제공합니다.
상업용 라이선스에 대해 문의하려면 [email protected]으로 문의하세요.
CONTRIBUTING.md 파일을 읽어보세요.
AubAI에 대해 궁금하신가요? AubAI에 대한 동영상을 만드는 내 채널(YouTube.com/@BrutalCoding)을 살펴보세요.
데모, 튜토리얼 등.
귀하의 편의를 위해 아래 비디오 중 일부를 나열했습니다.
내 현재 상황을 완벽하게 설명하는 네덜란드 단어는 실업자입니다. 하지만 영어로 해당 단어를 사용하면 이 섹션을 건너뛰게 될 수도 있지만 여기 있습니다. 아직도 읽고 계시다니 다행이네요.
최근, 지난 9월, 제가 다니던 핀테크 스타트업이 어려운 시장 상황으로 인해 문을 닫게 되었습니다. 현재 새로운 일자리를 찾고 있지만, AI에 대한 열정과 Flutter를 결합한 회사를 찾는 것은 쉽지 않습니다.
나는 새 직장을 찾거나 돈이 떨어질 때까지(2024년 1월~2월) 믿음의 도약을 하고 이 프로젝트를 진행하기로 결정했습니다. 어느 쪽이든 먼저옵니다. 아마도 저는 이 프로젝트를 오픈 소스로 유지하면서 지속 가능하게 만드는 방법을 찾을 것입니다. 나는 단지 흐름을 따라 갈 것입니다.