Google недавно объявил, что начиная со следующей недели приложение Google Photos будет добавлять логотипы редактирования AI к фотографиям, отредактированным с помощью таких функций AI, как Magic Editor, Magic Eraser и Zoom Enhance. Обновление было призвано повысить прозрачность, но вызвало споры. Поскольку логотип отображается только в деталях фотографии, а не в самой фотографии, пользователям сложно интуитивно идентифицировать следы редактирования ИИ при повседневном использовании. Редактор Downcodes подробно интерпретирует это, проанализирует плюсы и минусы и обсудит влияние на будущее развитие технологии изображений AI.
В то время, когда технология обработки изображений с использованием искусственного интеллекта становится все более популярной, Google объявила, что начиная со следующей недели представит новую функцию редактирования логотипа с помощью искусственного интеллекта в приложении Google Photos. Все фотографии, отредактированные с помощью функций искусственного интеллекта, таких как Magic Editor, Magic Eraser и Zoom Enhance, будут иметь аннотации, отредактированные с помощью Google AI, которые будут отображаться в нижней части раздела «Сведения» приложения.
Это обновление появилось более чем через два месяца после того, как Google выпустила телефон Pixel 9, оснащенный множеством функций редактирования фотографий с использованием искусственного интеллекта. Однако этот метод маркировки вызвал некоторые споры. Хотя Google утверждает, что этот шаг направлен на дальнейшее повышение прозрачности, фактический эффект сомнителен: сама фотография не добавляет никаких визуальных водяных знаков, а это означает, что пользователи не могут интуитивно идентифицировать ее при просмотре фотографий в социальных сетях, обмене мгновенными сообщениями или ежедневно. эти фотографии были обработаны AI.
Для функций редактирования фотографий, таких как Best Take и Add Me, которые не используют генеративный искусственный интеллект, Google Photos также будет аннотировать информацию о редактировании в метаданных, но она не будет отображаться на вкладке сведений. Эти функции в основном используются для объединения нескольких фотографий в одно полное изображение.
Майкл Маркони, менеджер по связям с общественностью Google Photos, рассказал TechCrunch: «Работа еще не завершена». Мы продолжим собирать отзывы, укреплять и совершенствовать меры безопасности, а также оценивать другие решения для повышения прозрачности генеративного редактирования с помощью ИИ. Хотя компания не уточнила, будет ли она добавлять визуальный водяной знак в будущем, она не исключила полностью такую возможность.
Стоит отметить, что все фотографии, редактируемые в настоящее время с помощью Google AI, уже содержат информацию о редактировании AI в метаданных. Новая функция просто перемещает эту информацию на вкладку «Подробности», которую легче найти. Однако реальный эффект такого подхода вызывает беспокойство, поскольку большинство пользователей специально не ищут метаданные или подробную информацию при просмотре изображений в Интернете.
Конечно, добавление видимого водяного знака в фоторамку тоже не является идеальным решением. Эти водяные знаки можно легко обрезать или отредактировать, а проблема останется. По мере того как инструменты Google для обработки изображений на основе искусственного интеллекта набирают популярность, синтетический контент, вероятно, будет распространяться в Интернете, из-за чего пользователям будет все труднее отличать настоящий контент от поддельного.
Метод нанесения водяных знаков на метаданные, принятый в настоящее время Google, в значительной степени зависит от каждой платформы для идентификации контента, созданного искусственным интеллектом, для пользователей. Meta внедрила эту практику в Facebook и Instagram, а Google планирует идентифицировать изображения AI в результатах поиска позднее в этом году. Однако соответствующие меры на других платформах продвигались медленнее.
Это противоречие выдвигает на первый план важный вопрос в развитии технологии искусственного интеллекта: как обеспечить подлинность контента и право пользователей на информацию, одновременно продвигая технологические инновации. Хотя Google сделал первый шаг к повышению прозрачности, очевидно, что необходимы дополнительные усилия и улучшения, чтобы предотвратить введение синтетического контента в заблуждение пользователей.
Хотя этот шаг Google направлен на повышение прозрачности, его эффект еще предстоит увидеть. Как найти баланс между развитием технологий искусственного интеллекта и аутентичностью контента — сложная проблема, стоящая перед всеми технологическими компаниями. В будущем необходимы более эффективные методы идентификации контента, генерируемого искусственным интеллектом, для лучшей защиты прав и интересов пользователей.