株式会社日立製作所は、生成AIにより作成された物品を効率的に識別する新技術を開発しました。この技術は、記事内の単語の使用パターンを分析してその起源を特定するものであり、重要な応用価値があります。生成型 AI 技術の急速な発展に伴い、AI が生成したコンテンツと人工的に作成されたコンテンツをどのように区別し、引き起こされるリスクを効果的に回避するかが世界的な注目を集めています。この技術は、企業や団体が著作権侵害などの法的リスクを回避できるだけでなく、虚偽の情報の拡散を効果的に防止し、情報セキュリティを維持するのに役立ちます。
最近、株式会社日立製作所は、記事が生成 AI によって作成されたかどうかを判断できる強力な独自技術を開発しました。
このテクノロジーは単純ではなく、記事内の単語の使用パターンに基づいています。なぜこのような技術を開発する必要があるのでしょうか? それは、生成 AI によって作成された誤った情報があらゆる場所に拡散するのを防ぐだけでなく、企業や行政機関が重要な文書を作成するのにも役立つからです。著作権侵害などのリスクを回避するため。
現在、生成 AI に関しては、欧州連合、米国、日本が手を緩めず、徐々に法律や規制を整備し、関連する議論を続けています。彼らは、大規模言語モデル (LLM) を開発している企業は、ビデオ、画像、記事が生成 AI から派生したものであることを示す必要があると考えています。
日立が今回開発した技術は、AI開発企業のLLMベースの記事作成技術に組み込まれる。また、同義語がたくさんある場合でも、特定の単語を使用する必要があるというルールも設定されています。このルールに基づいて記事内に多くの単語が使用されている場合、AIによって作成されたものと判断されます。日立では複数の単語選択ルールを組み合わせて判定精度を大幅に向上させる技術も開発したと聞きました。
生成AIと言えば、事実と異なる内容、いわゆる「幻想」を生成してしまうというやっかいな問題があります。しかし、その記事が生成AIによって作成されたものであることが事前に特定できれば、誤った情報が拡散するリスクを減らすことができます。
ハイライト:
日立の技術は、生成型 AI がもたらす課題に新たなソリューションを提供し、虚偽情報の拡散防止や知的財産権の保護におけるその役割が期待されています。テクノロジーが進歩し続けるにつれて、AI の潜在的なリスクを回避しながら AI をより有効に活用できるように、将来的には同様のテクノロジーがさらに登場すると思います。