OpenAI développe une technologie de filigrane capable d'identifier le texte généré par ChatGPT, dans le but de faire face à la prolifération du contenu généré par l'IA. Cette technologie permet la traçabilité en intégrant des filigranes invisibles dans le texte en apportant des ajustements subtils au choix des mots. Bien que la technologie fonctionne bien dans certaines situations, elle est moins efficace face à des problèmes tels que la falsification de texte et peut avoir un impact disproportionné sur certains groupes. Par conséquent, OpenAI adopte une approche prudente et explore entre-temps d’autres solutions telles que les classificateurs et les métadonnées.
Selon le Wall Street Journal, OpenAI a développé un outil permettant de reconnaître avec une grande précision le texte généré par ChatGPT, mais il n'a pas encore été officiellement publié. L'outil prévoit d'identifier le contenu généré par ChatGPT en incorporant des filigranes invisibles dans le texte, mais cette technologie est encore confrontée à de nombreux défis, tels que des problèmes d'échec lors de la modification et de la traduction du texte, et une discrimination potentielle contre certains groupes de personnes. OpenAI souligne que cette technologie n’est qu’une des nombreuses solutions qu’ils explorent et qu’ils feront progresser cette recherche avec prudence et donneront la priorité au développement d’outils d’authentification pour le contenu audiovisuel. Cette décision a déclenché de vastes discussions au sein de l’industrie sur l’identification et la gestion du contenu généré par l’IA, et la manière de trouver un équilibre entre la protection de l’innovation et la prévention des risques est devenue la priorité.
OpenAI affirme que le filigrane de texte n'est qu'une des nombreuses solutions qu'il explore, notamment les classificateurs et les métadonnées, visant à déterminer l'origine du texte. Bien que la technologie de tatouage de texte fonctionne bien dans certains cas, son efficacité diminue en cas de falsification telle que la traduction, la réécriture ou l'insertion de caractères spéciaux. De plus, la technologie peut avoir un impact disproportionné sur certains groupes, tels que les anglophones non natifs.
Compte tenu des facteurs complexes ci-dessus et de leur impact potentiel sur l’ensemble de l’écosystème, OpenAI a déclaré qu’elle ferait avancer prudemment la recherche sur la technologie d’attribution de texte et donnerait la priorité au développement d’outils d’authentification pour le contenu audiovisuel.
Cette décision a déclenché de nombreuses discussions au sein de l’industrie sur l’identification et la gestion du contenu généré par l’IA. Avec le développement rapide de la technologie de l’IA, la manière de trouver un équilibre entre la protection de l’innovation et la prévention des risques est devenue le centre d’attention de toutes les parties.
L’attitude prudente d’OpenAI à l’égard de la technologie de traçabilité du contenu de l’IA reflète la complexité et les défis éthiques du développement technologique. À l’avenir, la manière d’identifier et de gérer efficacement le contenu généré par l’IA deviendra une question clé qui suscitera des préoccupations constantes dans le domaine de l’intelligence artificielle, nécessitant des efforts conjoints de la part des technologies, des politiques et de l’éthique.