Недавно Webmaster Home сообщил о результатах исследования потенциальных рисков суперискусственного интеллекта, которые привлекли широкое внимание. Опрос выявил обеспокоенность исследователей ИИ по поводу потенциальных рисков суперискусственного интеллекта, в частности, небольшой, но реальной возможности того, что он может привести к вымиранию человечества. Результаты опроса также показывают, что у исследователей есть разногласия и неуверенность в отношении скорости развития и будущего социального воздействия технологии ИИ, а также выражается серьезная обеспокоенность по поводу рисков злонамеренного использования технологии ИИ, таких как глубокая подделка, манипулирование общественным мнением и производство оружия.
Webmaster Home сообщил, что исследователи ИИ в целом обеспокоены тем, что развитие суперискусственного интеллекта может иметь незначительный, но очень небольшой риск привести к вымиранию человечества. В крупнейшем опросе исследователей ИИ около 58% исследователей считали, что вероятность вымирания человечества или других крайне плохих последствий, связанных с ИИ, составляет 5%. Опрос также показал, что исследователи ИИ разделились во мнениях относительно графика будущих этапов развития технологий ИИ и не уверены в возможных социальных последствиях использования ИИ. Кроме того, у исследователей вызывают серьезную обеспокоенность сценарии, основанные на искусственном интеллекте, такие как дипфейки, манипулирование общественным мнением и производство оружия.
В целом, результаты этого опроса напоминают нам, что, наслаждаясь удобством, предоставляемым развитием технологии ИИ, мы должны придавать большое значение ее потенциальным рискам и активно изучать эффективные механизмы управления и контроля рисков, чтобы гарантировать, что технология ИИ может развиваться безопасно. и устойчиво приносить пользу человечеству.