Редактор Downcodes узнал, что недавно Microsoft подала заявку на патент, направленную на решение проблемы ложной информации, генерируемой искусственным интеллектом. Заявка на патент под названием «Использование внешних знаний и обратной связи для взаимодействия с языковыми моделями» была подана в Ведомство США по патентам и товарным знакам (USPTO) в прошлом году и обнародована 31 октября. В патенте предлагается «Система расширения ответов» (RAS), целью которой является повышение точности и надежности ответов модели ИИ и уменьшение возникновения «галлюцинаций» ИИ. Эта технология не требует сложных корректировок существующих моделей и эффективно повышает качество ответов ИИ за счет объединения внешних источников информации и отзывов пользователей, тем самым снижая генерацию ложной информации.
Недавно Microsoft подала заявку на патент, направленную на сокращение или устранение ложной информации, генерируемой искусственным интеллектом, с помощью технического метода. Патент под названием «Взаимодействие с языковыми моделями с использованием внешних знаний и обратной связи» был представлен в Ведомство по патентам и товарным знакам США (USPTO) в прошлом году и обнародован 31 октября.
Суть этого предложения заключается в том, чтобы предоставить моделям ИИ «систему дополнения ответов» (RAS), которая может автоматически извлекать больше информации на основе запросов пользователей и проверять «достоверность» их ответов.
В частности, система улучшения ответов способна определить, может ли информация из «внешнего источника» лучше ответить на вопрос пользователя. Если ответ ИИ не содержит этой информации, система сочтет ее недостаточно полезной. Кроме того, RAS также может подсказывать пользователям, если в их ответах есть недостатки, и пользователи также могут оставлять отзывы по этому поводу. Преимущество этого подхода в том, что он не требует от разработчиков или компаний внесения детальных корректировок в существующие модели.
В настоящее время на веб-сайте USPTO еще не указан номер патента заявки, а это означает, что патент все еще находится на рассмотрении. Мы обратились в Microsoft, чтобы узнать больше, в том числе о том, связан ли патент с ранее анонсированным инструментом Microsoft для уменьшения иллюзий искусственного интеллекта — Azure AI Content Security Tool. Этот инструмент обеспечивает проверку на основе искусственного интеллекта для корпоративных чат-ботов с искусственным интеллектом. Он может проверять факты в фоновом режиме, чтобы определить, являются ли ответы ИИ «необоснованными» или «обоснованными», и предоставлять только ответы, подтвержденные фактическими данными, прежде чем давать ответы пользователям. отвечать.
Проблема иллюзий ИИ — одна из самых больших проблем, стоящих перед генеративным ИИ, которая серьезно влияет на доверие к чат-ботам ИИ. В этом отношении системы искусственного интеллекта как Google, так и Twitter допустили громкие ошибки, например, предполагая, что пользователи наносят клей на пиццу или едят камни, и даже распространяют дезинформацию о выборах. Генеральный директор Apple Тим Кук также признал, что умные технологии Apple также не способны избежать проблемы галлюцинаций. Недавно было обнаружено, что инструмент транскрипции аудио OpenAI «Whisper» часто вызывает галлюцинации, что привлекло внимание к его использованию в больницах США.
Несмотря на очевидную проблему галлюцинаций ИИ, технологические гиганты по-прежнему имеют большой спрос на центры обработки данных ИИ, а такие компании, как Google, Microsoft и Meta, рассматривают ядерную энергию как потенциальное решение для удовлетворения потребностей ИИ в высоком потреблении энергии.
Этот шаг Microsoft призван повысить надежность моделей ИИ и уменьшить распространение ложной информации, что имеет большое значение для разработки и применения технологий ИИ. В будущем мы надеемся, что этот патент успешно пройдет проверку и, наконец, будет использован в реальных продуктах, чтобы предоставить пользователям более безопасный и надежный опыт работы с искусственным интеллектом.