В последние годы технология искусственного интеллекта (ИИ) быстро развивалась, открывая огромные возможности предприятиям, но также тая в себе множество рисков. Редактор Downcodes составил отчет о том, как предприятиям следует бороться с рисками, связанными с генеративным ИИ. В отчете отмечается, что большинство предприятий еще не сформулировали эффективные стратегии реагирования на риски, связанные с генеративным ИИ, особенно с точки зрения сетевой безопасности, сетевого мошенничества с использованием ИИ и т. д. Угроза становится все более серьезной и заслуживает внимания предприятий.
В последние годы стремительное развитие искусственного интеллекта (ИИ) открыло предприятиям множество возможностей, но в то же время его потенциальные угрозы становятся все более очевидными. Согласно последнему «Отчету о рисках нового поколения» за 2024 год, исследование показывает, что около 80% опрошенных компаний еще не сформулировали специальный план реагирования на генеративные риски ИИ, который включает в себя риски безопасности, такие как онлайн-мошенничество с использованием ИИ.
В опросе, проведенном компанией Riskconnect, занимающейся разработкой программного обеспечения для управления рисками, приняли участие 218 специалистов по обеспечению соответствия рискам и устойчивости со всего мира. Результаты показывают, что 24% респондентов считают, что угрозы кибербезопасности, основанные на искусственном интеллекте (такие как программы-вымогатели, фишинг и дипфейки), окажут значительное влияние на предприятия в ближайшие 12 месяцев. Между тем, 72% респондентов заявили, что риски кибербезопасности оказали значительное или серьезное влияние на их организации, по сравнению с 47% в прошлом году.
Поскольку обеспокоенность по поводу таких вопросов, как этика ИИ, конфиденциальность и безопасность, усиливается, в отчете отмечается, что, хотя обеспокоенность компаний по поводу ИИ возросла, они не смогли своевременно принять меры по стратегиям управления рисками, и по-прежнему существует много ключевых пробелов. . Например, 65% компаний не имеют политики в отношении использования генеративного ИИ партнерами и поставщиками, хотя третьи лица являются распространенным каналом входа для кибермошенников.
Внутренние угрозы также нельзя недооценивать. Приведя в качестве примера использование компаниями генеративного ИИ для создания маркетингового контента, эксперт по маркетингу Энтони Миядзаки напомнил, что, хотя генеративный ИИ превосходно пишет текст, окончательный вариант все равно необходимо редактировать вручную, чтобы обеспечить его убедительность и точность. Кроме того, использование ИИ для создания контента веб-сайта также может привести к негативным последствиям. Например, Google ясно дал понять, что если контент ИИ будет использоваться для манипулирования процессом поиска, его рейтинг в поиске снизится, что окажет серьезное влияние. по поисковой оптимизации (SEO) предприятий.
Чтобы решить эти проблемы, компаниям необходимо обеспечить всесторонний охват внутренней политики, защитить конфиденциальные данные и соблюдать соответствующие правила. Джон Скимони, директор по безопасности компании Del Technology, сказал, что они сформулировали соответствующие принципы еще до повального увлечения генеративным искусственным интеллектом, чтобы гарантировать, что разработка приложений искусственного интеллекта будет справедливой, прозрачной и ответственной.
Вице-президент агентства цифрового маркетинга Empathy First Media Райан Дозер также подчеркнул строгие меры, которые компания приняла в отношении использования ИИ сотрудниками, включая запрет на ввод конфиденциальных данных о клиентах в генеративные инструменты ИИ и требование ручной проверки контента, созданного ИИ. Эти меры призваны повысить прозрачность и укрепить доверие клиентов.
В целом, предприятиям необходимо активно реагировать на риски безопасности, создаваемые генеративным ИИ, формулировать комплексные стратегии управления рисками и усиливать обучение сотрудников, чтобы оставаться конкурентоспособными и обеспечивать безопасность бизнеса в эпоху ИИ. Редактор Downcodes рекомендует предприятиям обращаться к предложениям отчета и активно принимать меры по предотвращению проблем в зародыше.