Недавно редактор Downcodes узнал, что Google объявил, что добавит новую функцию в результаты поиска, чтобы справиться с растущей проблемой контента, генерируемого искусственным интеллектом, и улучшить способность пользователей определять подлинность контента. Эта функция призвана помочь пользователям лучше понять, где создаются и редактируются изображения, тем самым снижая негативное влияние дезинформации и дипфейковых изображений. Запуск этой функции является важным шагом после того, как Google присоединился к Альянсу Content Provenance and Authenticity Alliance (C2PA), в состав которого также входят такие технологические гиганты, как Amazon, Adobe и Microsoft.
Недавно Google объявил, что внедрит новую функцию в результатах поиска, призванную помочь пользователям лучше понять, как создается и изменяется контент. Этот шаг был предпринят после того, как Google присоединилась к Альянсу Content Provenance and Authenticity Alliance (C2PA), в который входят крупные бренды, включая Amazon, Adobe и Microsoft, и который занимается борьбой с онлайн-дезинформацией.
В Google заявили, что новая функция, которая будет внедряться постепенно в течение следующих нескольких месяцев, использует текущий стандарт учетных данных контента (т. е. метаданные изображения) для пометки изображений, созданных или отредактированных искусственным интеллектом, в поиске, чтобы повысить прозрачность для пользователей.
Пользователи смогут увидеть, было ли оно создано искусственным интеллектом, нажав на три точки над изображением и выбрав «Об этом изображении». Эта функция также будет доступна пользователям через Google Lens и функцию Android «Круг для поиска». Однако стоит отметить, что этот тег не очень заметен и требует от пользователей дополнительных действий для подтверждения происхождения изображения.
В последние годы, с развитием технологий искусственного интеллекта, проблемы технологии видеодипфейков и изображений, генерируемых искусственным интеллектом, становятся все более серьезными. Например, однажды Трамп опубликовал вымышленное изображение Тейлор Свифт, поддерживающей его кампанию, что вызвало много недоразумений и споров. Кроме того, Тейлор Свифт также столкнулась с вредоносными изображениями, созданными ИИ, что вызвало сомнения в их подлинности.
Хотя внедрение Google этой функции является хорошим началом, остаются сомнения относительно того, достаточно ли эффективен этот скрытый ярлык. Многие пользователи могут не знать о существовании функции «Об этом изображении» и не смогут в полной мере воспользоваться преимуществами этого нового инструмента. Кроме того, в настоящее время лишь некоторые модели камер и некоторое программное обеспечение реализуют функцию ваучера контента, что также ограничивает эффективность системы.
Согласно исследованию Университета Ватерлоо, только 61% людей могут отличить изображение, созданное ИИ, от реального изображения, а это означает, что если систему тегов Google нельзя использовать эффективно, будет сложно обеспечить истинную прозрачность. пользователям.
Выделять:
Google запустит новую функцию для маркировки изображений, созданных и отредактированных искусственным интеллектом, чтобы повысить прозрачность для пользователей.
Пользователи могут проверить, было ли изображение создано искусственным интеллектом, с помощью функции «Об этом изображении», но метка не заметна.
? Исследования показывают, что только 61% людей могут отличить изображения ИИ от реальных изображений, и Google необходимо повысить видимость меток.
В целом, хотя этот шаг Google является важным шагом в борьбе с дезинформацией, его эффективность еще предстоит увидеть. Повышение видимости тегов и популяризация технологии ваучеров на контент станут ключевыми направлениями будущих улучшений. Редактор Downcodes продолжит уделять внимание дальнейшему развитию этой функции и доносить до читателей более актуальную информацию.