Microsoftは最近、ホワイトペーパーをリリースし、生成AIの悪意のあるアプリケーションがますますramp延しており、詐欺、児童の性的虐待、選挙操作、不随意の画像漏れなどの複数の分野をカバーしていることを警告しています。このレポートは、技術的な課題を指摘しているだけでなく、それが社会にもたらす深刻な脅威を強調し、法的、技術的、社会的協力とその他の手段を使用することを目指して、英国の政策立案者に実用的な解決策を提案しています問題。ホワイトペーパーは、AIテクノロジーを使用して犯罪を犯すさまざまな方法について詳しく説明し、法律を強化し、技術革新を促進し、すべての関係者が協力して安全で信頼できるAIアプリケーション環境を構築することを提案しています。
Microsoftは最近、詐欺、児童の性的虐待資料、選挙操作、非自発的なプライベートイメージなど、生成人工知能（AI）の悪意のある使用を深く分析するホワイトペーパーをリリースしました。同社は、これらの問題は技術的な課題であるだけでなく、社会に対する大きな脅威でもあると強調しました。
Microsoftのホワイトペーパーによると、犯罪者は、邪悪な行為を犯すために生成的AIの力をますます使用しています。これらの悪質な行動には、AIによって生成された誤った情報を使用して詐欺を犯し、子供の性的虐待資料の作成、深い偽造技術による選挙操作、特に女性に向けられた不本意な親密な画像の作成が含まれます。 「AIの虐待が実在の人々に大きな影響を与えることを決して忘れることはできません」と、Microsoftの外務担当副社長であるHugh Millwardは述べています。
ホワイトペーパーは、英国の政策立案者を特に標的にしており、上記の問題に対処するための6つのコア要素に基づいた包括的なソリューションのセットを提案しています。これらの6つの要素には、強力なセキュリティアーキテクチャ、メディアおよび透かしツールの恒久的なソース、公衆を保護するための現代の法律、業界と政府と市民社会の強力な協力、サービスの乱用の保護、公教育が含まれます。
英国の政策立案者向けの具体的な推奨事項で、MicrosoftはAIシステムプロバイダーにAIシステムと対話するときにAIによってコンテンツが生成されることをユーザーに通知するよう呼びかけます。さらに、Microsoftは、合成コンテンツをマークする高度なソースマーキングツールを実装することを推奨しており、政府はメディアコンテンツの信頼性を確認することで模範を示します。マイクロソフトはまた、選挙の公平性を保護するためにAIツールを介して詐欺を禁止する新しい法律の必要性を強調しました。同時に、子供と女性をオンライン搾取から保護するための法的枠組みも強化されるべきです。
マイクロソフトはまた、メディアがAIによって生成されているかどうかを示すメタデータテクノロジーを保存することが重要であると指摘しました。同様のプロジェクトは、Adobeなどの企業によって推進されています。これは、人々が画像のソースを特定するのを支援することを目的としています。ただし、Microsoftは、「コンテンツバウチャー」のような標準には、ポリシー対策と一般の意識が必要であると考えています。
さらに、MicrosoftはStopncii.orgなどの組織と提携して、乱用された画像を検出および削除するツールを開発しています。被害者は、Microsoftの中央報告ポータルを通じて権利を守ることができます。国立行方不明および搾取された子どもたちが提供する「Take It Down」サービスも追加のサポートを提供します。 「AIの虐待の問題は長期的なものである可能性があるため、この問題に対処するために、ハイテク企業、慈善パートナー、市民社会、政府と創造的に協力する努力を倍加する必要があります。
キーポイント：
Microsoftは、詐欺や選挙操作など、生成AIが悪意を持って使用されていることを明らかにするホワイトペーパーをリリースしました。
英国の政策立案者に対応して、Microsoftは6つの主要な要素に対する解決策を提案し、法律と技術の包括的な保護を求めています。
すべての関係者と協力することの重要性を強調して、MicrosoftはAIの虐待によってもたらされる課題に対処するための共同の努力を求めています。
要するに、Microsoftのホワイトペーパーは、生成的AIの悪意のあるアプリケーションに対応するための重要な参照を提供し、技術、法律、社会協力の包括的な役割を強調し、AIテクノロジーの乱用を防ぎ、社会保障と安定を維持するためのグローバルな共同努力を求めています。