Новая функция Apple по обобщению новостей AI вызвала огромные споры из-за частой дезинформации. Эта функция предназначена для предоставления пользователям удобной новостной информации, но ее широко критиковали за неправильное обобщение сообщений BBC и New York Times. Международная организация по защите свободы прессы «Репортеры без границ» даже публично призвала Apple немедленно отозвать эту функцию, посчитав, что она распространяет ложную информацию, подрывает доверие к СМИ и угрожает праву общественности на получение достоверной информации. Этот инцидент также подчеркивает проблемы и риски, с которыми сталкиваются новые технологии искусственного интеллекта в сфере новостной коммуникации, а также трудности, с которыми сталкиваются медиаорганизации перед лицом быстро развивающихся технологий.
Функции искусственного интеллекта, недавно представленные Apple, привлекли широкое внимание и вызвали споры. Эта функция была разработана для предоставления пользователям сводки новостей, но ее раскритиковали за дезинформацию. Международная организация по защите свободы прессы «Репортеры без границ» публично призвала Apple немедленно отозвать эту функцию после того, как она неправильно резюмировала репортаж BBC в уведомлении для пользователей.
В частности, система искусственного интеллекта Apple неверно заявила, что Луиджи Манчионе, подозреваемый в убийстве генерального директора UnitedHealthcare, покончил жизнь самоубийством. Однако BBC не упомянула об этом в своем первоначальном репортаже. BBC заявила, что связалась с Apple по поводу этой проблемы и надеется решить ее как можно скорее, но не подтвердила, отреагировала ли Apple на это.
Винсент Бертье, директор по технологиям и новостям организации «Репортеры без границ», заявил, что Apple должна взять на себя ответственность за инцидент и своевременно отозвать эту функцию. Он отметил, что искусственный интеллект — это всего лишь вероятностная машина, которая не может просто судить о фактах путем случайного выбора. Он подчеркнул, что автоматически генерируемая дезинформация не только подрывает доверие к СМИ, но и ставит под угрозу право общества на получение достоверной информации.
Кроме того, организация также выразила обеспокоенность по поводу рисков, которые новые инструменты искусственного интеллекта представляют для средств массовой информации, полагая, что нынешняя технология искусственного интеллекта является незрелой и ее нельзя допускать к использованию для распространения публичной информации.
В ответ BBC ответила, что крайне важно обеспечить доверие общественности к информации и новостям, которые она публикует, и чтобы весь контент, включая push-уведомления, был правдивым и заслуживающим доверия.
Apple запустила инструмент генеративного искусственного интеллекта в США в июне этого года, рекламируя его способность обобщать конкретный контент в кратких абзацах, пунктах списка или таблицах. Эта функция призвана помочь пользователям более удобно получать новостную информацию. Пользователи могут получать такие централизованные push-уведомления на устройствах iPhone, iPad и Mac. Однако с тех пор, как эта функция была официально запущена в конце октября, пользователи обнаружили, что она также неверно резюмировала сообщение New York Times, утверждающее, что премьер-министр Израиля Биньямин Нетаньяху был арестован, тогда как на самом деле это был всего лишь Международный уголовный суд, выдавший ордер на арест его.
Проблема в этом инциденте заключается в том, что новостные организации не контролируют сводный контент Apple AI. Хотя некоторые издатели решили использовать ИИ для помощи в написании статей, это остается на их усмотрение. Однако резюме Apple AI было опубликовано от имени издательской организации, которая не только распространяет потенциальную дезинформацию, но и ставит под угрозу авторитет СМИ.
Apple не отреагировала на инцидент, а разногласия по поводу возможностей искусственного интеллекта также отражают проблемы, с которыми сталкивается индустрия публикации новостей в быстро меняющейся технологической среде. С момента запуска ChatGPT несколько технологических гигантов запустили свои собственные крупномасштабные языковые модели, и многие модели были обвинены в использовании контента, защищенного авторским правом, включая новостные репортажи, во время обучения. Хотя некоторые медиа-организации подали в суд, другие, такие как Axel Springer, предпочли заключить лицензионные соглашения с соответствующими разработчиками.
Выделять:
Новая функция искусственного интеллекта Apple подверглась широкой критике за ложные срабатывания.
Организация «Репортеры без границ» призвала Apple отказаться от этой функции, подчеркнув, что технология искусственного интеллекта не должна использоваться для обобщения новостей.
BBC заявила, что крайне важно обеспечить достоверность информации, и связалась с Apple по этому поводу.
Этот инцидент вызвал широкие дискуссии по вопросам этики и безопасности технологий искусственного интеллекта в сфере новостной коммуникации. Он также предупредил технологические компании о том, что им необходимо проявлять осторожность при разработке и применении технологий искусственного интеллекта, чтобы избежать распространения ложной информации и защитить общественные интересы. Реакция Apple на этот инцидент и то, как она улучшит свои возможности искусственного интеллекта в будущем, будут внимательно наблюдать.