Недавно эксперт OpenAI по рассуждениям в области искусственного интеллекта Норм Браун выразил обеспокоенность по поводу чрезмерной шумихи вокруг ИИ в социальных сетях. Он считает, что, хотя в области искусственного интеллекта достигнут значительный прогресс, остается еще много неразгаданных загадок и проблем, которые необходимо решить. «Суперинтеллект» — это не цель, которой OpenAI достигла на данный момент. Взгляды Брауна контрастируют с оптимистичными прогнозами других исследователей OpenAI, заставляя людей задуматься о текущем состоянии и будущем направлении развития ИИ. В этой статье будет представлен углубленный анализ взглядов Брауна, изучены их различия с другими взглядами внутри OpenAI и интерпретирована их значимость в развитии ИИ.
В социальных сетях Ноам Браун, эксперт по рассуждениям в области искусственного интеллекта в OpenAI, заявил, что в настоящее время существует много «смутной шумихи» по поводу искусственного интеллекта, что привлекло его внимание. Хотя он признал, что прогресс в области искусственного интеллекта несет в себе оптимистические перспективы, он также отметил, что существует еще множество исследовательских проблем, которые необходимо решить, и подчеркнул, что OpenAI еще не достигла так называемого «сверхинтеллекта».
Заявление Брауна резко контрастирует с некоторыми недавними взглядами внутри OpenAI. В январе исследователь OpenAI Стивен Макалир заявил: «Я скучаю по тем временам в исследованиях ИИ, когда мы не знали, как создать сверхинтеллект». .
До прихода в OpenAI Браун работал в компании Facebook Artificial Intelligence Research (FAIR), где его исследования были сосредоточены на разработке систем искусственного интеллекта, способных побеждать игроков-людей в сложных играх, таких как покер и дипломатия. Его исследование покерного ИИ «Libratus» изучило концепцию «вычислений во время тестирования» и показало, что увеличение времени вычислений ИИ может улучшить игровые стратегии.
Позже Браун представил эти концепции в OpenAI и применил их для разработки языковых моделей. Последняя модель компании o1 основана на этой идее и открывает новое направление развития за счет увеличения «времени на обдумывание», а не просто улучшения эффективности тренировок. Он считает, что этот альтернативный подход к масштабированию позволит появиться новым возможностям ИИ, отмечая: «Масштабирование в этой области все еще находится на ранних стадиях».
Точка зрения Брауна напоминает нам, что, хотя перспективы искусственного интеллекта впечатляют, мы не можем игнорировать ограничения и проблемы, которые все еще существуют в развитии современных технологий.
Выделять:
Норм Браун отметил, что шумиха вокруг ИИ в социальных сетях слишком расплывчата, и подчеркнул, что еще предстоит решить множество исследовательских вопросов.
Браун опроверг других исследователей OpenAI, подчеркнув, что компания еще не достигла сверхразума.
Браун упомянул о расширении возможностей ИИ за счет «времени на размышление» и полагал, что в этой области еще есть много возможностей для развития.
В целом, взгляды Брауна дают возможность трезво осмыслить нынешнее развитие области ИИ. Наслаждаясь удобством, которое дает развитие технологий искусственного интеллекта, мы также должны сохранять ясную голову, учитывать ограничения технологического развития, избегать слепого оптимизма и чрезмерной шумихи, а также способствовать здоровому и устойчивому развитию технологий искусственного интеллекта.