Apple은 최근 AI가 생성한 뉴스 알림 요약에 심각한 잘못된 정보가 포함되어 있어 관련 기능을 중단했습니다. 이번 사건은 BBC가 애플의 AI 시스템이 보도에서 사실을 심각하게 왜곡했다는 점을 지적해 AI 기술의 신뢰성에 대한 대중의 우려를 불러일으켰고, 애플이 뉴스와 뉴스에 AI 시스템의 적용을 재검토하게 됐다는 불만이 제기되면서 발생했다. 엔터테인먼트 애플리케이션. 이번 정지는 iOS, iPadOS 및 macOS 시스템에 영향을 미치며 모든 뉴스 및 엔터테인먼트 앱의 알림 요약 기능과 관련이 있습니다.
Apple은 최근 AI가 생성한 뉴스 알림 요약의 심각하게 부정확한 정보로 인해 iOS 18.3, iPadOS 18.3 및 macOS Sequoia 15.3의 최신 개발자 프리뷰 버전에서 모든 뉴스 및 엔터테인먼트 애플리케이션의 알림 요약 기능을 중단할 것이라고 발표했습니다.
이러한 변화는 BBC에 대한 이전 불만에서 비롯되었습니다. BBC는 유나이티드헬스(UnitedHealth) CEO 브라이언 톰슨(Brian Thompson) 살해 사건의 용의자 루이지 만지오네(Luigi Mangione)가 자살을 선택했다고 허위 주장하면서 애플의 AI 시스템이 사실을 심각하게 왜곡했다는 보고서를 지적했다.
사용자 경험을 개선하고 투명성을 높이기 위해 Apple은 향후 업데이트에 여러 가지 개선 사항을 도입할 계획입니다. AI가 생성한 모든 알림 요약은 사용자가 일반 알림과 구별할 수 있도록 기울임꼴로 표시되며, 사용자는 특정 애플리케이션에 대한 알림을 직접 끌 수 있습니다. 요약: 설정에 베타 기능 프롬프트를 추가하여 이 기능에 오류가 있을 수 있음을 사용자에게 경고합니다.
이러한 개선 사항은 AI 생성 콘텐츠를 "더 명확히"하려는 Apple의 이전 약속과 일치합니다. Apple이 AI 생성 콘텐츠를 식별하기 위해 새로운 태그나 배지를 추가할 것이라는 소문이 있지만, 이러한 기능은 현재 미리보기 버전에는 아직 나타나지 않았습니다.
iOS 18.3의 퍼블릭 베타 버전은 다음주 출시될 예정이지만, 구체적인 정식 버전 출시 시기는 아직 결정되지 않았다. 그때까지는 뉴스 및 엔터테인먼트 앱에 대한 알림 요약이 개선될 때까지 비활성화된 상태로 유지됩니다.
애플의 이러한 움직임은 AI 기술 적용에 대한 신중한 태도를 보여주는 동시에, 사용자 경험과 정보의 정확성을 중시한다는 점을 반영한다. 향후 버전 업데이트는 Apple이 AI 기술의 편의성과 잠재적인 위험 사이의 균형을 어떻게 유지할 것인지를 결정할 것이며, 이는 지속적인 관심을 받을 가치가 있습니다.