마이크로소프트는 최근 마이크로소프트의 클라우드 AI 제품 애저 오픈AI(Azure OpenAI) 서비스의 보안 보호 조치를 우회하기 위해 맞춤형 도구를 사용하고, 마이크로소프트 소프트웨어와 서버에 불법적으로 접근해 '공격적', '유해한 불법 콘텐츠'를 생성한 혐의로 기소된 조직을 상대로 소송을 제기했다. 이 그룹은 훔친 고객 자격 증명과 사용자 정의 소프트웨어 "de3u"를 사용하여 사용자가 DALL-E를 사용하여 코드를 작성하지 않고도 이미지를 생성하고 Microsoft의 콘텐츠 필터링 메커니즘을 우회할 수 있도록 하는 "서비스로서의 해킹" 체계를 구현한 것으로 알려졌습니다. 마이크로소프트는 법원의 가처분 신청과 손해배상 청구, 애저 오픈AI(Azure OpenAI) 서비스 보안 강화를 위한 대응 조치를 취하고, 증거 수집을 위해 피고인의 행위와 관련된 웹사이트를 압수했다.
Microsoft가 그룹을 상대로 한 소송은 AI 보안의 중요성과 보안 조치를 우회하려는 악의적인 행위자의 지속적인 노력을 강조합니다. 이번 사건은 첨단 AI 시스템이라도 남용을 방지하려면 강력한 보안 메커니즘이 필요하다는 점을 상기시켜 줍니다. Microsoft의 적극적인 법적 조치와 기술적 조치는 플랫폼 보안을 유지하고 고객 이익을 보호하려는 의지를 보여주고 있으며, 이는 주목할 만합니다.