Récemment, certains utilisateurs ont signalé que ChatGPT avait pris l'initiative de les contacter, suscitant des discussions animées. L'éditeur de Downcodes fournira une interprétation détaillée de cet incident et vous aidera à comprendre le début et la fin de l'incident ainsi que les raisons techniques qui le sous-tendent. De nombreux utilisateurs ont partagé des captures d'écran sur les réseaux sociaux de ChatGPT s'enquérant activement de leur vie au lycée ou de l'évolution de leur maladie. Les gens ont été paniqués pendant un moment, se demandant s'il s'agissait d'un test d'une nouvelle fonctionnalité OpenAI, et certains ont même douté de son authenticité.
Récemment, ChatGPT d'OpenAI a envoyé "activement" des messages aux utilisateurs, ce qui a alarmé de nombreuses personnes.
Le 15 septembre, un utilisateur nommé SentuBill a partagé une capture d'écran avec la communauté ChatGPT Reddit montrant le chatbot l'interrogeant sur sa première semaine de lycée. Lors de conversations ultérieures, ChatGPT a même déclaré qu'il souhaitait « s'occuper » régulièrement des utilisateurs et lui a demandé s'il souhaitait engager lui-même des conversations. Un autre utilisateur a vécu une situation similaire, l'IA lui demandant comment ses symptômes évoluaient après s'être déclaré malade il y a une semaine.
De nombreuses personnes étaient curieuses, voire un peu inquiètes, face à cette soudaine interaction. Au début, tout le monde pensait qu'il pourrait s'agir d'une nouvelle fonctionnalité des modèles o1-preview et o1-mini récemment lancés par OpenAI.
Les deux modèles s'appellent « Project Strawberry » et la société a déclaré que la technologie permettait à l'IA de réfléchir aux questions avant de répondre comme un humain. Par conséquent, certaines personnes pensent que le « discours actif » de ChatGPT cette fois-ci pourrait être une manifestation de nouveaux comportements, et certains soupçonnent même que ces comportements sont faux.
Le développeur d'IA Benjamin de Kraker a démontré sur X (anciennement Twitter) comment l'IA peut être invitée à demander une invite avant de démarrer une conversation et à supprimer l'entrée initiale.
Cependant, après confirmation, il s’agissait en réalité d’une vulnérabilité. Le site d'informations technologiques Futurism a contacté OpenAI et on lui a dit que dans ces cas, ChatGPT essayait de répondre à une invite qui n'était pas envoyée correctement ou qui semblait vide. De ce fait, le modèle d’IA donne une réponse « générique », ou s’appuie sur sa propre mémoire pour répondre.
Soyez donc assuré que ChatGPT n’a pas pris conscience et ne s’engagera pas activement dans des conversations avec les utilisateurs. Cependant, compte tenu du développement rapide de la technologie de l’IA, nous ne serions pas surpris que cette vulnérabilité devienne une fonctionnalité à l’avenir.
Après tout, ChatGPT a fait d'énormes progrès en peu de temps et, après quelques ajustements, il pourra occasionnellement envoyer des messages de manière proactive aux utilisateurs à l'avenir.
Souligner:
ChatGPT a accidentellement envoyé un message aux utilisateurs en raison d'une vulnérabilité technique, provoquant la panique de certains utilisateurs.
OpenAI a confirmé que ce comportement est une vulnérabilité due à des indices mal envoyés.
La technologie de l'IA se développe rapidement et la fonction de messagerie proactive pourrait apparaître à l'avenir.
Dans l’ensemble, cet incident de ChatGPT contactant activement les utilisateurs était dû à une vulnérabilité technique et ne constituait pas l’éveil de l’IA. Mais cela nous rappelle que la technologie de l’IA se développe rapidement et que des fonctions plus inattendues pourraient apparaître à l’avenir. L'éditeur de Downcodes continuera de prêter attention au développement de la technologie de l'IA et vous proposera des rapports plus passionnants.