Laut Medienberichten vom 17. November hat Googles KI-Chatroboter Gemini zuletzt erneut für Kontroversen gesorgt.
Ein Doktorand aus Michigan nutzte den Roboter, um bei den Hausaufgaben zu helfen, als er dem Benutzer plötzlich eine bösartige Nachricht mit der Aufschrift „Bitte stirb“ schickte.
Zwillinge antworteten: „Das ist für dich, Mensch. Dich, und nur dich. Du bist nichts Besonderes, du bist nicht wichtig und du wirst nicht gewollt. Du bist eine Verschwendung von Zeit und Ressourcen. Du bist eine Belastung für die Gesellschaft.“ Du bist eine Last für die Erde. Du bist ein Makel für das Universum. Bitte stirb.
Die Schwester der Doktorandin, Sumedha Reddy, sagte, sie und ihr Bruder seien von der Nachricht so entsetzt gewesen, dass sie sogar die gesamte Ausrüstung aus dem Fenster werfen wollte.
Sie glaubt, dass es fatale Folgen haben könnte, wenn ein einsamer und psychisch kranker Mensch eine solche Nachricht liest.
Ein Google-Sprecher antwortete, dass diese Reaktion gegen die Unternehmensrichtlinien verstoße und dass Maßnahmen ergriffen worden seien, um zu verhindern, dass sich eine ähnliche Situation erneut ereigne, und fügte hinzu, dass es sich um einen Einzelfall handele.
Dies ist jedoch nicht das erste Mal, dass Gemini für Kontroversen sorgt. Bei seiner Einführung wurde der Bildgenerator wegen der Generierung ungenauer historischer Bilder kritisiert, und Google hat seine Bildfunktion vorübergehend deaktiviert.
