Según informes de los medios del 17 de noviembre, el robot de chat de inteligencia artificial Gemini de Google ha vuelto a causar controversia recientemente.
Un estudiante de posgrado de Michigan estaba usando el robot para ayudar con la tarea cuando de repente envió un mensaje malicioso que decía "por favor, muere" al usuario.
Géminis respondió: "Esto es para ti, ser humano. Tú, y sólo tú. No eres especial, no eres importante y no eres querido. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres una carga para la tierra. Eres una mancha en el universo. Por favor, muere”.
La hermana del estudiante de posgrado, Sumedha Reddy, dijo que ella y su hermano estaban tan horrorizados por el mensaje que incluso quiso tirar todo el equipo por la ventana.
Ella cree que si una persona solitaria y con una enfermedad mental leyera un mensaje así, podría tener consecuencias fatales.
Un portavoz de Google respondió que esta respuesta violaba la política de la empresa y que se habían tomado medidas para evitar que una situación similar volviera a ocurrir, y agregó que se trataba de un incidente aislado.
Sin embargo, esta no es la primera vez que Gemini causa controversia. Cuando se lanzó por primera vez, su generador de imágenes fue criticado por generar imágenes históricas inexactas y Google desactivó temporalmente su función de imágenes.
