Recientemente, algunos usuarios informaron que ChatGPT tomó la iniciativa de contactarlos, lo que generó acaloradas discusiones. El editor de Downcodes proporcionará una interpretación detallada de este incidente y le ayudará a comprender el principio y el final del incidente y las razones técnicas detrás del mismo. Muchos usuarios compartieron capturas de pantalla en las redes sociales de ChatGPT preguntando activamente sobre su vida en la escuela secundaria o el progreso de su enfermedad. La gente entró en pánico por un tiempo, preguntándose si se trataba de una prueba de una nueva característica de OpenAI, y algunos incluso dudaron de su autenticidad.
Recientemente, ChatGPT de OpenAI envió mensajes "activamente" a los usuarios, lo que alarmó a muchas personas.
El 15 de septiembre, un usuario llamado SentuBill compartió una captura de pantalla en la comunidad ChatGPT Reddit que muestra al chatbot preguntándole sobre su primera semana de escuela secundaria. En conversaciones posteriores, ChatGPT incluso afirmó que quería “cuidar” a los usuarios de forma regular y preguntó si quería iniciar conversaciones por su cuenta. Otro usuario experimentó una situación similar: la IA le preguntó cómo progresaban sus síntomas después de que se reportó enfermo hace una semana.
Mucha gente sentía curiosidad, incluso un poco de inquietud, por esta repentina interacción. Al principio, todos pensaron que esta podría ser una nueva característica de los modelos o1-preview y o1-mini recientemente lanzados por OpenAI.
Los dos modelos se llaman "Proyecto Fresa" y la compañía ha dicho que la tecnología permite a la IA pensar en preguntas antes de responder como un humano. Por lo tanto, algunas personas piensan que el "discurso activo" de ChatGPT esta vez puede ser una manifestación de nuevos comportamientos, y algunos incluso sospechan que estos comportamientos son falsos.
El desarrollador de IA Benjamin de Kraker demostró en X (anteriormente Twitter) cómo se puede indicar a la IA que avise antes de iniciar una conversación y elimine la entrada inicial.
Sin embargo, tras una mayor confirmación, se trataba en realidad de una vulnerabilidad. El sitio de noticias tecnológicas Futurism se puso en contacto con OpenAI y le dijeron que en estos casos ChatGPT estaba intentando responder a un mensaje que no se envió correctamente o parecía estar en blanco. Como resultado, el modelo de IA da una respuesta "genérica" o depende de su propia memoria para responder.
Así que tenga la seguridad de que ChatGPT no se ha vuelto consciente y no participará activamente en conversaciones con los usuarios. Sin embargo, considerando el rápido desarrollo de la tecnología de IA, no nos sorprendería que esta vulnerabilidad se convierta en una característica en el futuro.
Después de todo, ChatGPT ha logrado un gran progreso en un corto período de tiempo y, después de algunos ajustes, es posible que ocasionalmente envíe mensajes de manera proactiva a los usuarios en el futuro.
Destacar:
ChatGPT envió mensajes accidentalmente a los usuarios debido a una vulnerabilidad técnica, lo que provocó que algunos usuarios entraran en pánico.
OpenAI ha confirmado que este comportamiento es una vulnerabilidad debido a sugerencias enviadas incorrectamente.
La tecnología de inteligencia artificial se está desarrollando rápidamente y la función de mensajería proactiva puede aparecer en el futuro.
Con todo, este incidente en el que ChatGPT contactó activamente a los usuarios se debió a una vulnerabilidad técnica y no fue el despertar de la IA. Pero esto nos recuerda que la tecnología de IA se está desarrollando rápidamente y que pueden aparecer más funciones inesperadas en el futuro. El editor de Downcodes seguirá prestando atención al desarrollo de la tecnología de inteligencia artificial y brindándole informes más interesantes.