Профессор Джеффри Хинтон, пионер в области искусственного интеллекта, недавно выступил с суровым предупреждением о том, что искусственный интеллект может привести к вымиранию человечества в течение следующего десятилетия. «Крестный отец искусственного интеллекта» глубоко сожалеет о своем участии в создании этой технологии. Он сравнил быстрое развитие искусственного интеллекта с промышленной революцией, но отметил, что в этой «революции» могут доминировать машины и в конечном итоге люди потеряют контроль. Он призвал правительства усилить надзор за компаниями, занимающимися искусственным интеллектом, чтобы справиться с потенциальными огромными рисками, и выразил обеспокоенность по поводу будущего направления развития искусственного интеллекта.
Профессор Джеффри Хинтон, «крестный отец искусственного интеллекта», предупредил, что искусственный интеллект может привести к вымиранию человечества в течение следующего десятилетия. Ученый-компьютерщик, признавшийся, что сожалеет о своей роли в создании технологии, сравнил быстрое развитие искусственного интеллекта с промышленной революцией, но предупредил, что на этот раз машины могут «захватить все».
77-летний британский ученый-компьютерщик, получивший Нобелевскую премию по физике за новаторскую работу в области искусственного интеллекта, призвал правительства усилить надзор за компаниями, занимающимися искусственным интеллектом. Профессор Хинтон ранее предсказал, что существует 10%-ная вероятность того, что искусственный интеллект приведет к вымиранию человечества в течение 30 лет.
На вопрос, изменилось ли что-нибудь в его анализе во время интервью в программе «Сегодня» BBC Radio 4, он ответил: «Не совсем. Я думаю, что это от 10 до 20 лет, а может быть, даже меньше. Мы никогда раньше этого не делали. Имея дело с чем-то более разумным, чем Сколько вы знаете примеров того, как нечто более разумное контролируется чем-то менее разумным? Их очень мало.
В 1980-х годах профессор Хинтон изобрел метод, позволяющий автономно находить атрибуты данных и идентифицировать конкретные элементы на изображениях, что заложило основу современного искусственного интеллекта. Он сказал, что технология развивается «намного быстрее, чем он ожидал» и может превратить людей в эквивалент «трехлетних детей», а ИИ — «взрослых».
Он продолжил: «Я думаю, это похоже на промышленную революцию. Во время промышленной революции человеческая сила [стала менее важной], потому что машины были более мощными - если бы вы хотели выкопать траншею, вы бы вырыли ее с помощью машины». заменяют человеческий интеллект. Интеллект обычных людей больше не будет на переднем крае, и на смену человеку придут машины. "
Профессор Хинтон предсказывает, что искусственный интеллект приведет к потрясающим изменениям в жизни обычных людей, точно так же, как промышленная революция, описанная Чарльзом Диккенсом. Как будет выглядеть жизнь в будущем с этой технологией, «во многом будет зависеть от того, как наша политическая система будет использовать эту технологию», сказал он.
Он добавил: «Меня беспокоит то, что даже если это приведет к огромному росту производительности, что должно быть хорошо для общества, если все выгоды достанутся богатым, а многие люди потеряют работу и станут беднее, это может закончиться было бы очень вредно для общества».
«Эти существа умнее нас. Поэтому во время промышленной революции машины никогда не смогли заменить людей только потому, что они были более могущественными. Мы по-прежнему контролируем все, потому что у нас есть интеллект. Теперь эти существа могут контролировать все, так что это большая проблема. разница."
Он сказал, что «надеется», что другие «очень знающие» эксперты в этой области правы и с оптимизмом смотрят на будущее технологии.
Однако профессор Хинтон добавил: «Я боюсь, что невидимая рука не защитит нас. Поэтому просто оставить это в погоне за прибылью крупных компаний недостаточно, чтобы гарантировать, что они разрабатывают его безопасно».
«Единственное, что может заставить эти крупные компании проводить больше исследований в области безопасности, — это государственное регулирование». «Поэтому я твердо верю, что правительству необходимо заставить крупные компании проводить много исследований в области безопасности».
Профессор Хинтон ранее заявлял, что сожалеет о представлении этой технологии миру. Он сказал: «Есть два вида сожаления. Один — это чувство вины, которое вы чувствуете за то, что сделали что-то, чего, как вы знаете, вам не следовало делать, а другой — это сожаление, когда вы сделали бы это снова в той же ситуации, но это может не повернуть вспять». в конце концов хорошо».
«У меня есть второе сожаление. Я бы сделал это снова в той же ситуации, но меня беспокоит, что общим следствием этого будет то, что системы, более умные, чем мы, в конечном итоге будут контролировать все. Мы не сталкивались с чем-то умнее нас, какие вещи такие».
Предупреждение профессора Хинтона забило тревогу по поводу будущего развития искусственного интеллекта, подчеркнув важность усиления надзора и этических соображений. Оно также заставило людей задуматься о потенциальных рисках, связанных с искусственным интеллектом. Для обеспечения этого необходимы глобальные совместные усилия. технологии продолжают двигаться вперед, что благоприятствует человечеству.