Deux nouvelles importantes sont apparues récemment dans le domaine de l'intelligence artificielle : premièrement, l'outil de détection des droits d'auteur « CopyrightCatcher » publié par la société d'évaluation de modèles d'intelligence artificielle Patronus AI a révélé les risques potentiels de violation des grands modèles de langage tels que GPT-4 ; les ingénieurs ont discuté de l'outil de génération d'images IA avertissant des risques sociaux et il est recommandé de cesser de l'utiliser. Les deux nouvelles ont suscité une inquiétude généralisée dans l'industrie concernant le développement de la technologie de l'intelligence artificielle et les questions éthiques, soulignant que même si la technologie de l'intelligence artificielle se développe rapidement, ses risques potentiels et ses défis éthiques deviennent également de plus en plus graves.
Patronus AI, une société d'évaluation de modèles d'intelligence artificielle, a publié un outil de détection des droits d'auteur appelé « CopyrightCatcher » et a découvert que les grands modèles de langage tels que GPT-4 présentaient des problèmes de violation. Les ingénieurs de Microsoft ont souligné que les outils de génération d'images IA pouvaient constituer un danger pour la société et ont proposé de cesser de les utiliser.
Le développement rapide de la technologie de l’intelligence artificielle apporte de la commodité mais pose également de nombreux défis. L'émergence des problèmes de droit d'auteur et des risques sociaux nous rappelle que nous devons prêter attention aux normes éthiques et à la prévention des risques lors du développement de technologies afin de garantir que la technologie de l'intelligence artificielle puisse être appliquée à la société de manière sûre, fiable et responsable, et d'éviter tout abus et tout dommage imprévisible. . À l’avenir, le renforcement de la supervision de l’intelligence artificielle et de la recherche éthique constituera un élément crucial.