Мета платформы выпустили сегодняшние модели Llama 3.21b и 3b, которые сегодня впервые в отрасли, которые впервые в отрасли достигли стабильной работы крупных языковых моделей на обычных мобильных телефонах и планшетах. Благодаря количественному обучению технологии и оптимизации, эта версия уменьшает размер файла на 56%, снижает работающую память на 41%и увеличивает скорость до 4 раза больше исходной версии. Этот прогресс прорыва отмечает преобразование режима обработки данных от централизованных серверов в личные терминалы, открывая новые способы разработки мобильных устройств для будущих приложений.
Meta Platforms Today выпустила новую оптимизированную версию своей модели Llama, включая продукты Llama 3.21b и 3b, что впервые достигла стабильной работы крупномасштабных языковых моделей на обычных смартфонах и планшетах. Благодаря инновационной интеграции алгоритмов количественной обучения и оптимизации, новая версия уменьшает размер файла на 56% при сохранении исходного качества обработки и снижает требования к операционной памяти на 41% и увеличивает скорость обработки на 4 раза до исходной версии. Непрерывная обработка 8000 текста символов.
При тестировании на телефонах Android сжатые модели ИИ Meta (Spinquant и Qlora) значительно улучшили скорость и эффективность по сравнению со стандартной версией. Меньшие модели работают в четыре раза быстрее, в то время как использование памяти уменьшается
В фактическом тесте телефонов OnePlus12 эта сжатая версия показала производительность, сопоставимые с производительностью стандартной версии, при этом значительно повышая эффективность работы и эффективно решение долгосрочной проблемы недостаточной вычислительной мощности мобильных устройств. Meta решила принять стратегию рынка открытого сотрудничества и провести глубокое сотрудничество с основными производителями мобильных процессоров, такими как Qualcomm и Mediatek. Полем
Эта стратегия резко контрастирует с другими гигантами в отрасли. Открытый маршрут Meta предоставляет разработчикам больше инновационных пространств, когда Google и Apple предпочитают глубоко интегрировать новые технологии со своими операционными системами. Этот выпуск знаменует собой преобразование режима обработки данных от централизованного сервера в личный терминал.
Этот технологический прорыв может вызвать серьезные изменения, такие как период, когда популяризируются персональные компьютеры, хотя они по -прежнему сталкиваются с такими проблемами, как требования к производительности устройства и выбор платформы разработчиков. Поскольку производительность мобильных устройств продолжает улучшаться, преимущества локализованных решений для обработки будут постепенно появляться. Мета надеждается продвигать всю отрасль для развития в более эффективном и безопасном направлении посредством открытого сотрудничества и открыть новые способы разработки мобильных устройств для будущих приложений.
Выбор стратегии открытого сотрудничества Meta в отличие от других технологических гигантов, предоставляя разработчикам более широкое пространство для инноваций, а также протестует будущее направление развития локализованной обработки искусственного интеллекта. Ожидается, что этот технологический прорыв изменит способ использования мобильных устройств, в результате чего основные изменения, такие как период популяризации персональных компьютеров, и стоит с нетерпением ждать его будущего развития.