マイクロソフトは最近、誤った情報を生成する人工知能の問題を解決するために特許出願を提出しました（AI幻覚）。 「言語モデルと対話するための外部知識とフィードバックの入力」と呼ばれる特許アプリケーションは、「応答増加システム」（RAS）と呼ばれるメカニズムを介してAIモデルの精度と信頼性を改善することを目的としています。システムは、外部ソースからより多くの情報を自動的に取得し、AIによって生成された回答を確認し、潜在的な欠点をユーザーに促し、AIによって生成された誤った情報を効果的に削減することができます。この特許出願の開示は、MicrosoftのAI Hallucinationsの問題との戦いにおける重要な前進を示し、この問題を解決するための業界の緊急の必要性を反映しています。
最近、Microsoftは、技術的アプローチを通じて人工知能によって生成された誤った情報を削減または排除することを目的とした特許出願を提出しました。 「外部の知識と言語モデルとの対話のためのフィードバックを使用する」というタイトルの特許は、昨年米国特許商標庁（USPTO）に提出され、10月31日に公開されました。この提案の中心にあるのは、AIモデルに「応答強化システム」（RAS）を提供し、ユーザークエリに基づいてより多くの情報を自動的に抽出し、回答の「有効性」を確認できるようにすることです。
具体的には、Response Enhancement Systemは、ユーザーの質問によりよく答えることができる「外部ソース」から情報があるかどうかを識別できます。 AIの回答にこの情報が含まれていない場合、システムはそれを効果的ではないと判断します。さらに、RASは、回答に欠点があるかどうかをユーザーに促すこともできます。また、ユーザーはこれについてフィードバックを提供することもできます。このソリューションの利点は、開発者または企業が既存のモデルに詳細な調整を行う必要がないことです。
現在、USPTOのWebサイトでは、アプリケーションの特許番号を示していません。つまり、特許はまだ審査中です。 Microsoftに連絡して、特許がAZUre AIコンテンツセキュリティツールに関連しているかどうかなど、詳細については、以前に発表されたAI Illusionsを減らすためのツールです。このツールは、AIの回答が「根拠のない」か「設立」されているかどうかを判断するために、バックグラウンドで事実検証を行うことができます。
AI幻覚の問題は、生成AIが直面している最大の課題の1つであり、AIチャットボットの信頼性に深刻な影響を及ぼします。この点で、GoogleとTwitterのAIシステムの両方が、ユーザーがピザに接着剤を適用したり、石を食べたり、選挙の偽情報を広めることを提案するなど、驚くべき間違いをもたらしました。 Apple CEOのTim Cookはまた、Appleのスマートテクノロジーが幻覚を避けられないことを認めました。最近、Openaiの「Whisper」オーディオ転写ツールも頻繁に幻覚を起こすことがわかっています。これは、アメリカの病院での使用に注意を向けています。
AIの顕著な問題にもかかわらず、Techの巨人はAIデータセンターに対して依然として強い需要があり、Google、Microsoft、Metaなどの企業は、AIの高エネルギーニーズを満たす潜在的な解決策として原子力を考慮しています。
キーポイント：
Microsoftは、AIによって生成された誤った情報を削減するために新しい特許を提出しました。
この特許の中核は、より多くの情報を自動的に抽出するために、AIモデルの応答強化システムを導入することです。
深刻なAIの幻覚の問題にもかかわらず、ハイテク企業からのAIデータセンターの需要は依然として強力です。
Microsoftの特許出願の開示は、テクノロジー企業が引き続きAI幻覚の問題に対処するためにより多くの努力を投資し続けることを示しています。 将来的には、より信頼性が高く信頼できるAIシステムが表示されると予想されており、AIテクノロジーのアプリケーション価値とユーザーエクスペリエンスが大幅に向上します。