Downcodes の編集者は、Microsoft が最近、生成 AI の悪意のある使用を詳しく調査したホワイト ペーパーをリリースしたことを知りました。報告書は、AIが詐欺、児童性的虐待資料の作成、選挙操作、非自発的な個人画像の作成などの重大な犯罪行為に利用されていることを明らかにし、これらの問題が技術的な課題であるだけでなく、社会にとって大きな脅威となることを強調している。マイクロソフトは、AI がもたらすリスクに共同で対処するための世界的な協力を呼びかけています。
Microsoft は最近、詐欺、児童性的虐待素材、選挙操作、合意のないプライベート画像など、生成型人工知能 (AI) の悪意のある使用について詳細な分析を提供するホワイト ペーパーを発表しました。同社は、これらの問題は技術的な課題であるだけでなく、社会に対する大きな脅威でもあると強調した。
Microsoft のホワイトペーパーによると、犯罪者は生成 AI の力を利用して極悪犯罪を実行するケースが増えています。これらには、AI が生成した偽情報を利用した詐欺行為、児童への性的虐待素材の作成、ディープフェイク技術による選挙操作、特に女性をターゲットとした同意のない親密な画像の作成などが含まれます。マイクロソフト社の対外担当副社長、ヒュー・ミルワード氏は「AIの悪用は現実の人間に重大な影響を与えるということを決して忘れてはいけない」と述べた。
この白書は特に英国の政策立案者を対象としており、上記の問題に対処するための 6 つの中核要素に基づいた包括的な一連のソリューションを提案しています。 6 つの要素には、強力なセキュリティ アーキテクチャ、メディアと透かしツールの永続的なソース、公衆を保護するための最新の法律、業界と政府および市民社会の間の強力な連携、サービスの悪用からの保護、および公教育が含まれます。
マイクロソフトは英国の政策立案者向けの具体的な勧告の中で、ユーザーがAIシステムを操作する際にコンテンツがAIによって生成されることをユーザーに通知することをAIシステムプロバイダーに義務付けるよう求めている。さらに、Microsoft は合成コンテンツにフラグを立てるための高度なソース タグ付けツールを実装することを推奨しており、政府もメディア コンテンツの信頼性検証を実施することで模範を示す必要があります。 Microsoftはまた、選挙の完全性を守るためにAIツールを通じた不正行為を禁止するための新たな法律が必要であると強調した。同時に、性的なディープフェイクの制作を犯罪とするなど、子供や女性をオンライン搾取から守る法的枠組みも強化されるべきである。
Microsoftはまた、メディアがAIによって生成されたかどうかを示すメタデータ技術を保存することが重要であると指摘した。人々が画像の出所を特定できるようにすることを目的とした同様のプロジェクトが、Adobe などの企業によってすでに進行中である。ただし、Microsoft は、Content Credentials のような標準が有効であるためには、政策措置と一般の人々の認識が必要であると考えています。
さらに、Microsoft は StopNCII.org などの組織と協力して、不正な画像を検出して削除するツールを開発しています。被害者は、Microsoft の中央レポート ポータルを通じて異議を申し立てることができます。若者に対しては、国立行方不明児童搾取センターが提供する Take It Down サービスを通じて追加のサポートが提供されます。ミルワード氏は、「AIの悪用は長期的な問題となる可能性が高いため、この問題に取り組むには、私たちは努力を倍増させ、テクノロジー企業、慈善団体、市民社会、政府と創造的に協力する必要がある。私たちだけで取り組むことはできない」と語った。 」
この Microsoft ホワイト ペーパーは、生成 AI の悪意のあるアプリケーションに対処するための貴重な参考資料を提供し、技術的、法的、社会的な協力の重要性を強調し、将来の AI ガバナンスの重要な方向性を提供します。複数の関係者が連携することによってのみ、AI がもたらすリスクに効果的に対処し、社会の安全と安定を確保することができます。