Microsoft недавно выпустила белую статью, предупреждая, что злонамеренные применения генеративного ИИ становятся все более широко распространенными, охватывая несколько областей, таких как мошенничество, сексуальное насилие над детьми, манипуляции с выборами и непроизвольная утечка изображения. В отчете не только указаны технические проблемы, но и подчеркивают серьезные угрозы, которые он представляет для общества, и предлагает практическое решение для британских политиков, стремящихся использовать юридическое, техническое и социальное сотрудничество и другие средства. проблема. Белая статья рассказывает о различных методах использования технологии искусственного интеллекта для совершения преступлений, и предлагает важность укрепления законодательства, содействия технологическим инновациям и повышения осведомленности общественности.
Microsoft недавно выпустила белую статью, которая глубоко анализирует злонамеренное использование генеративного искусственного интеллекта (ИИ), включая мошенничество, материалы сексуального насилия над детьми, манипуляции по выборам и принудительные частные изображения. Компания подчеркнула, что эти проблемы являются не только техническими проблемами, но и серьезной угрозой для общества.
Согласно белой статье Microsoft, преступники все чаще используют силу генеративного ИИ для совершения злых дел. Эти порочные поведения включают в себя использование ложной информации, полученной ИИ для совершения мошенничества, создания материалов сексуального насилия над детьми, манипуляции избирателей с помощью методов глубокой подделки и создания непроизвольных интимных изображений, которые особенно направлены на женщин. «Мы никогда не можем забыть, что злоупотребление ИИ оказывает глубокое влияние на реальных людей», - сказал Хью Миллвард, вице -президент по внешним делам в Microsoft.
Белая статья специально нацелена на политиков в Великобритании и предлагает комплексный набор решений, основанных на шести основных элементах для решения вышеуказанных вопросов. Эти шесть элементов включают в себя: сильную архитектуру безопасности, постоянный источник средств массовой информации и инструментов для водяных знаков, современные законы для защиты общественности, сильное сотрудничество между промышленностью и правительством и гражданским обществом, защиту злоупотребления услугами и государственное образование.
В конкретной рекомендации для политиков Великобритании Microsoft призывает поставщиков системных систем ИИ сообщать пользователям, что контент генерируется ИИ, когда они взаимодействуют с системами ИИ. Кроме того, Microsoft рекомендует реализовывать передовые инструменты маркировки источника для маркировки синтетического контента, и правительство должно показать пример, проверяя подлинность своего медиа -контента. Microsoft также подчеркнула необходимость новых законов, запрещающих мошенничество с помощью инструментов искусственного интеллекта для защиты справедливости выборов. В то же время необходимо укрепить правовую основу для защиты детей и женщин от онлайн -эксплуатации, включая криминализацию производства сексуальной глубокой фальсификации.
Microsoft также отметила, что важно хранить технологии метаданных, которые указывают, генерируется ли медиа -медиа -среда. Подобные проекты были продвинуты такими компаниями, как Adobe, которые направлены на то, чтобы помочь людям определить источник изображений. Тем не менее, Microsoft считает, что такие стандарты, как «контент -ваучеры», требуют политических мер и общественности для работы.
Кроме того, Microsoft сотрудничает с такими организациями, как STOPNCII.org, для разработки инструментов для обнаружения и удаления изображений, подвергшихся насилию. Жертвы могут защитить свои права через центральный отчетный портал Microsoft. Служба «Take It Down», предоставляемая Национальным центром пропавших и эксплуатируемых детей, также обеспечивает дополнительную поддержку. «Проблема злоупотребления ИИ может быть долгосрочной, поэтому нам нужно удвоить наши усилия по творчеству с технологическими компаниями, благотворительными партнерами, гражданским обществом и правительством для решения этой проблемы. Мы не можем сражаться в одиночку»,-сказал Миллвард.
Ключевые моменты:
Microsoft выпустила белую статью, которая показывает, что генеративный ИИ используется злонамеренно, в том числе мошенничество и манипуляции с выборами.
В ответ на британские политики Microsoft предложила решения шести основных элементам, призывая к комплексной защите права и технологий.
Подчеркивая важность работы со всеми сторонами, Microsoft призывает совместные усилия по решению проблем, связанных с злоупотреблением ИИ.
Короче говоря, Белая книга Microsoft предоставляет важную ссылку для реагирования на злонамеренные применения генеративного ИИ, подчеркивает всестороннюю роль технологий, права и социального сотрудничества, а также призывает глобальные совместные усилия по предотвращению злоупотребления технологией ИИ и поддержания социального обеспечения и стабильности Полем