Microsoft недавно подала патентную заявку на решение проблемы искусственного интеллекта, генерирующего ложную информацию (AI Hallucinations). Патентное заявление, называемое «введением внешних знаний и обратной связи для взаимодействия с языковыми моделями», направлено на повышение точности и надежности моделей ИИ с помощью механизма, называемого «Система увеличения ответов» (RAS). Система может автоматически получать больше информации из внешних источников, проверить ответы, сгенерированные ИИ, и предложить пользователям потенциальные недостатки, эффективно уменьшая ложную информацию, генерируемую ИИ. Раскрытие этой патентной заявки отмечает важный шаг вперед в борьбе с Microsoft с проблемой галлюцинаций ИИ и отражает срочную необходимость отрасли для решения этой проблемы.
Недавно Microsoft подала патентную заявку, направленную на сокращение или устранение ложной информации, полученной в результате искусственного интеллекта с помощью технического подхода. Патент под названием «Использование внешних знаний и обратной связи для взаимодействия с языковыми моделями» был представлен в Управление по патентам и товарным знакам США (USPTO) в прошлом году и был опубликован 31 октября. В основе этого предложения - предоставление «системы улучшения ответов» (RAS) для моделей искусственного интеллекта, что позволяет автоматически извлекать дополнительную информацию на основе запросов пользователей и проверить «достоверность» его ответов.
В частности, система улучшения отклика может определить, есть ли информация из «внешних источников», которая может лучше ответить на вопросы пользователей. Если ответ ИИ не содержит эту информацию, система будет определять ее как неэффективную. Кроме того, RAS также может предложить пользователю, есть ли какие -либо недостатки в их ответах, и пользователи также могут дать отзыв по этому поводу. Преимущество этого решения заключается в том, что разработчикам или компаниям не нужно вносить подробные коррективы к существующим моделям.
В настоящее время веб -сайт USPTO не показал патентный номер для заявки, что означает, что патент все еще находится под контролем. Мы связались с Microsoft для получения дополнительной информации, в том числе о том, связан ли патент с инструментом безопасности контента Azure, ранее объявленным инструментом для снижения иллюзий ИИ. Этот инструмент обеспечивает проверку AI для чат-ботов AI, которые могут провести проверку фактов в фоновом режиме, чтобы определить, являются ли ответы AI «необоснованными» или «основанными».
Проблема галлюцинации ИИ является одной из самых больших проблем, с которыми сталкивается генеративный ИИ, который серьезно влияет на доверие к чат -ботам искусственного интеллекта. В связи с этим, как системы ИИ Google, так и Twitter произвели замечательные ошибки, такие как предложение пользователей применять клей на пиццу или есть камни, и даже распространять дезинформацию выборов. Генеральный директор Apple Тим Кук также признал, что умные технологии Apple не могут избежать галлюцинаций. Недавно было обнаружено, что недавно был обнаружено, что инструмент «Whisper» в Openai имеет частые галлюцинации, которые привлекли внимание к его использованию в американских больницах.
Несмотря на выдающуюся проблему иллюзии искусственного интеллекта, технические гиганты по-прежнему имеют высокий спрос на центры обработки данных ИИ, и компании, включая Google, Microsoft и Meta, рассматривают ядерную энергию как потенциальное решение для удовлетворения высокоэнергетических потребностей ИИ.
Ключевые моменты:
Microsoft подала новый патент, чтобы уменьшить ложную информацию, сгенерированную ИИ.
Смыслом этого патента состоит в том, чтобы ввести систему улучшения отклика для моделей искусственного интеллекта для автоматического извлечения дополнительной информации.
Несмотря на серьезную проблему галлюцинации ИИ, спрос на дата -центры ИИ от технологических компаний остается сильным.
Раскрытие патентного приложения Microsoft указывает на то, что технологические компании будут продолжать инвестировать больше усилий в решение проблемы галлюцинаций ИИ. В будущем ожидается появление более надежных и заслуживающих доверия систем ИИ, что значительно повысит ценность приложения и пользовательский опыт технологии искусственного интеллекта.