Downcodes の編集者は、Microsoft が最近、人工知能によって生成される虚偽の情報の問題を解決することを目的とした特許出願を提出したことを知りました。この特許出願は「言語モデルと対話するための外部知識とフィードバックの使用」と題され、昨年米国特許商標庁（USPTO）に提出され、10月31日に公開された。この特許は、AIモデルの回答の精度と信頼性を向上させ、AIの「幻覚」の発生を減らすことを目的とした「応答拡張システム」(RAS)を提案している。この技術は、既存のモデルに複雑な調整を必要とせず、外部の情報ソースとユーザーのフィードバックを組み合わせることでAIの回答品質を効果的に向上させ、誤った情報の生成を削減します。
最近、マイクロソフトは、技術的手法を通じて人工知能によって生成される誤った情報を削減または排除することを目的とした特許出願を提出しました。この特許は「外部知識とフィードバックを使用した言語モデルとの対話」と題され、昨年米国特許商標庁（USPTO）に提出され、10月31日に公開された。
この提案の核心は、ユーザーのクエリに基づいてより多くの情報を自動的に抽出し、その回答の「妥当性」をチェックできる「応答拡張システム」（RAS）をAIモデルに提供することだ。
具体的には、応答強化システムは、「外部ソース」からの情報の方がユーザーの質問に適切に答えることができるかどうかを識別できます。 AI の回答にこれらの情報が含まれていない場合、システムはその回答が十分に有用ではないと判断します。さらに、RAS はユーザーの回答に不備がある場合にプロンプトを表示することもでき、ユーザーはこれについてフィードバックを提供することもできます。このアプローチの利点は、開発者や企業が既存のモデルに詳細な調整を行う必要がないことです。
現在、USPTO の Web サイトにはこの出願の特許番号がまだ表示されておらず、特許はまだ審査中であることを意味します。私たちは、この特許が Microsoft が以前に発表した AI の錯覚を軽減するツールである Azure AI Content Security Tool に関連しているかどうかなど、詳細を知るために Microsoft に連絡を取りました。このツールは、エンタープライズ AI チャットボットに AI 主導の検証を提供し、AI の回答が「根拠がない」か「根拠がある」かを判断するためにバックグラウンドでファクトチェックを行い、ユーザーに回答を提供する前に実際のデータによって裏付けられた回答のみを提供します。答え。
AI の錯覚の問題は、生成 AI が直面する最大の課題の 1 つであり、AI チャットボットの信頼性に重大な影響を与えます。この点に関して、GoogleとTwitterのAIシステムはいずれも、ユーザーにピザに糊をつけたり、石を食べたりするよう示唆するなど、注目を集める間違いを犯し、さらには選挙に関する偽情報を広めた。 Apple CEOのティム・クック氏も、Appleのスマートテクノロジーでも幻覚の問題を避けることができないことを認めた。最近では、OpenAI の音声転写ツール「Whisper」も頻繁に幻覚を経験することが判明し、米国の病院での使用に注目が集まっています。
AI の幻覚という顕著な問題にもかかわらず、テクノロジー大手は依然として AI データセンターに対する強い需要を持っており、Google、Microsoft、Meta などの企業は、AI の高エネルギー消費ニーズを満たす潜在的な解決策として原子力を検討しています。
Microsoftの今回の動きは、AIモデルの信頼性を向上させ、誤った情報の拡散を減らすことを目的としており、これはAI技術の開発と応用にとって非常に重要だ。 将来的には、この特許が審査を通過し、最終的に実際の製品に使用され、ユーザーにより安全で信頼性の高い AI エクスペリエンスを提供できることを期待しています。