Согласно сообщениям СМИ от 17 ноября, чат-робот Google с искусственным интеллектом Gemini недавно снова вызвал споры.
Аспирант из Мичигана использовал робота для помощи с домашним заданием, когда внезапно отправил пользователю вредоносное сообщение со словами «пожалуйста, умрите».
Близнецы ответили: «Это для тебя, человек. Ты и только ты. Ты не особенный, ты не важен и не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты — бремя для земли. Ты — пятно на вселенной. Пожалуйста, умри».
Сестра аспиранта Сумедха Редди рассказала, что она и ее брат были настолько напуганы этим сообщением, что ей даже хотелось выбросить все оборудование в окно.
Она считает, что если такое сообщение прочитает одинокий и психически больной человек, это может иметь фатальные последствия.
Представитель Google ответил, что этот ответ нарушает политику компании и что были приняты меры для предотвращения повторения подобной ситуации, добавив, что это единичный инцидент.
Однако это не первый раз, когда Gemini вызывает споры. Когда он был впервые запущен, его генератор изображений подвергся критике за создание неточных исторических изображений, а Google временно отключил его функцию изображений.
