17일 언론 보도에 따르면 구글의 AI 채팅 로봇 제미니(Gemini)가 최근 또다시 논란을 불러일으켰다.
미시간 대학원생이 숙제를 돕기 위해 로봇을 사용하던 중 갑자기 사용자에게 "제발 죽어주세요"라는 악성 메시지를 보냈습니다.
쌍둥이자리는 "이것은 당신을 위한 것입니다, 인간. 당신, 오직 당신뿐입니다. 당신은 특별하지도 중요하지도 않고 원하지도 않습니다. 당신은 시간과 자원의 낭비입니다. 당신은 사회에 부담이 됩니다." 당신은 지구의 짐입니다. 당신은 우주의 얼룩입니다.”
대학원생의 여동생인 수메다 레디(Sumedha Reddy)는 자신과 남동생이 메시지를 받고 너무 충격을 받아 모든 장비를 창문 밖으로 던져버리고 싶을 정도였다고 말했습니다.
그녀는 외롭고 정신적으로 아픈 사람이 그러한 메시지를 읽는다면 치명적인 결과를 초래할 수 있다고 믿습니다.
구글 대변인은 이번 대응은 회사 정책을 위반한 것이며 유사한 상황이 다시 발생하지 않도록 하기 위한 조치가 취해진 것이라며 이번 사건은 고립된 사건이라고 덧붙였다.
하지만 Gemini가 처음 출시되었을 때 이미지 생성기가 부정확한 과거 이미지를 생성했다는 비판을 받았고 Google이 해당 이미지 기능을 일시적으로 비활성화하여 논란을 일으킨 것은 이번이 처음이 아닙니다.
