Google近日宣布，从下周起，Google Photos应用将为使用Magic Editor、Magic Eraser和Zoom Enhance等AI功能编辑的照片添加AI编辑标识。这一更新旨在提高透明度，但引发了争议。因为标识仅显示在照片详细信息中，而非照片本身，用户在日常使用中难以直观识别AI编辑痕迹。Downcodes小编将对此进行详细解读，分析其利弊，并探讨其对未来AI图像技术发展的影响。
在人工智能影像技术日益普及的当下，Google宣布将从下周开始为Google Photos应用引入新的AI编辑标识功能。所有使用Magic Editor、Magic Eraser和Zoom Enhance等AI功能编辑的照片，都将在应用的详细信息（Details）部分底端显示使用Google AI编辑的标注。
这项更新是在Google发布搭载多项AI照片编辑功能的Pixel9手机两个多月后推出的。然而，这种标注方式却引发了一些争议。虽然Google称此举是为了进一步提高透明度，但实际效果却令人质疑:照片本身并不会添加任何可视水印，这意味着用户在社交媒体、即时通讯或日常浏览照片时，无法直观识别出这些照片是否经过AI处理。
对于Best Take和Add Me这类不使用生成式AI的照片编辑功能，Google Photos也将在元数据中标注编辑信息，但不会显示在详细信息标签下。这些功能主要用于将多张照片合成为一张完整图像。
Google Photos的通讯经理Michael Marconi在接受TechCrunch采访时表示:这项工作尚未完成。我们将继续收集反馈，加强和改进安全保障措施，并评估其他解决方案，以增加生成式AI编辑的透明度。虽然公司没有明确表示是否会在未来添加可视水印，但也并未完全排除这种可能性。
值得注意的是，目前所有经过Google AI编辑的照片都已在元数据中包含AI编辑信息。新功能只是将这一信息搬到了更容易找到的详细信息标签下。然而，这种做法的实际效果令人担忧，因为大多数用户在浏览网络图片时并不会特意查看元数据或详细信息。
当然，在照片框架内添加可视水印也并非完美解决方案。这些水印很容易被裁剪或编辑掉，问题仍然存在。随着Google AI图像工具的普及，合成内容可能会在互联网上大量增加，这使得用户越来越难以分辨真实与虚假内容。
Google目前采用的元数据水印方式，很大程度上依赖于各平台向用户标识AI生成内容。Meta已经在Facebook和Instagram上实施了这一做法，Google也计划在今年晚些时候在搜索结果中标识AI图像。但其他平台的相关措施进展较慢。
这一争议凸显了AI技术发展中的重要课题:如何在推动技术创新的同时，确保内容真实性和用户知情权。尽管Google迈出了提升透明度的第一步，但在防止合成内容误导用户方面，显然还需要更多努力和完善。
Google此举虽然意在提升透明度，但其效果还有待观察。如何在AI技术发展与内容真实性之间取得平衡，是摆在所有科技公司面前的难题。 未来，更有效的AI生成内容识别方法势在必行，才能更好地保障用户权益。