Google a récemment annoncé qu'à partir de la semaine prochaine, l'application Google Photos ajouterait des logos d'édition IA aux photos modifiées avec des fonctionnalités IA telles que Magic Editor, Magic Eraser et Zoom Enhance. La mise à jour visait à accroître la transparence mais a suscité une controverse. Étant donné que le logo n'est affiché que dans les détails de la photo, et non dans la photo elle-même, il est difficile pour les utilisateurs d'identifier intuitivement les traces d'édition de l'IA au quotidien. L'éditeur de Downcodes interprétera cela en détail, analysera ses avantages et ses inconvénients et discutera de son impact sur le développement futur de la technologie d'image IA.
À l’heure où la technologie d’imagerie par intelligence artificielle devient de plus en plus populaire, Google a annoncé qu’il introduirait une nouvelle fonction d’édition de logo IA dans l’application Google Photos à partir de la semaine prochaine. Toutes les photos modifiées à l'aide des fonctionnalités d'IA telles que Magic Editor, Magic Eraser et Zoom Enhance auront des annotations modifiées à l'aide de Google AI affichées au bas de la section Détails de l'application.
Cette mise à jour intervient plus de deux mois après que Google a publié le téléphone Pixel 9 équipé de plusieurs fonctionnalités de retouche photo AI. Cependant, cette méthode d’étiquetage a suscité une certaine controverse. Bien que Google prétende que cette décision vise à améliorer encore la transparence, l'effet réel est discutable : la photo elle-même n'ajoute aucun filigrane visuel, ce qui signifie que les utilisateurs ne peuvent pas l'identifier intuitivement lorsqu'ils parcourent des photos sur les réseaux sociaux, la messagerie instantanée ou quotidiennement. ces photos ont été traitées par l'IA.
Pour les fonctionnalités de retouche photo telles que Best Take et Add Me qui n'utilisent pas l'IA générative, Google Photos annotera également les informations de retouche dans les métadonnées, mais elles ne seront pas affichées sous l'onglet Détails. Ces fonctions sont principalement utilisées pour combiner plusieurs photos en une seule image complète.
Michael Marconi, responsable des communications de Google Photos, a déclaré à TechCrunch : Le travail n'est pas encore terminé. Nous continuerons à recueillir des commentaires, à renforcer et à améliorer les mesures de sécurité et à évaluer d'autres solutions pour accroître la transparence de l'édition générative de l'IA. Bien que la société n’ait pas précisé si elle ajouterait un filigrane visuel à l’avenir, elle n’a pas complètement exclu cette possibilité.
Il convient de noter que toutes les photos actuellement modifiées par Google AI contiennent déjà des informations d'édition AI dans les métadonnées. La nouvelle fonctionnalité déplace simplement ces informations sous l'onglet Détails, qui est plus facile à trouver. Cependant, l’effet réel de cette approche est inquiétant, car la plupart des utilisateurs ne recherchent pas spécifiquement des métadonnées ou des informations détaillées lorsqu’ils parcourent des images sur Internet.
Bien entendu, l’ajout d’un filigrane visible dans un cadre photo n’est pas non plus une solution parfaite. Ces filigranes peuvent facilement être recadrés ou supprimés, et le problème persiste. À mesure que les outils d'imagerie IA de Google gagnent en popularité, le contenu synthétique est susceptible de proliférer sur Internet, ce qui rendra de plus en plus difficile pour les utilisateurs de distinguer le contenu réel du faux.
La méthode de filigrane des métadonnées actuellement adoptée par Google s'appuie fortement sur chaque plate-forme pour identifier le contenu généré par l'IA auprès des utilisateurs. Meta a mis en œuvre cette pratique sur Facebook et Instagram, et Google prévoit d'identifier les images d'IA dans les résultats de recherche plus tard cette année. Toutefois, les mesures pertinentes sur d’autres plateformes ont progressé plus lentement.
Cette controverse met en lumière un enjeu important dans le développement de la technologie de l’IA : comment garantir l’authenticité du contenu et le droit à l’information des utilisateurs tout en favorisant l’innovation technologique. Bien que Google ait fait un premier pas pour améliorer la transparence, il est clair que davantage d’efforts et d’améliorations sont nécessaires pour empêcher les contenus synthétiques d’induire les utilisateurs en erreur.
Même si la décision de Google vise à accroître la transparence, son effet reste à voir. Comment trouver un équilibre entre le développement de la technologie de l’IA et l’authenticité du contenu est un problème difficile auquel sont confrontées toutes les entreprises technologiques. À l’avenir, des méthodes d’identification de contenu générées par l’IA plus efficaces seront impératives pour mieux protéger les droits et les intérêts des utilisateurs.