Недавно юридический спор между Илоном Маском и OpenAI выявил ранние внутренние электронные письма, раскрывающие ожесточенный конфликт между основателями OpenAI по поводу контроля над искусственным интеллектом. Из содержания письма видно, что соучредитель Илья Сузковель выразил серьёзную обеспокоенность желанием Маска контролировать искусственный интеллект, полагая, что это может привести к диктатуре искусственного интеллекта в будущем. Это письмо было написано вскоре после того, как Маск покинул OpenAI, подчеркнув его важность и побудив людей задуматься о направлении развития искусственного интеллекта.
Недавно, когда Илон Маск подал иск против Сэма Альтмана, были раскрыты ранние внутренние электронные письма OpenAI, что привлекло широкое внимание к борьбе за власть между основателями компании. В электронном письме соучредитель OpenAI Илья Суцкевер выразил глубокую обеспокоенность по поводу сильного желания Маска контролировать искусственный интеллект.
Примечание к источнику изображения: изображение генерируется искусственным интеллектом и поставщиком услуг авторизации изображений Midjourney.
В электронном письме Маску и Альтману в сентябре 2017 года Сусковир отметил, что стремление Маска к контролю может представлять потенциальную угрозу для будущего искусственного интеллекта (AGI) человеческого уровня. В электронном письме он подчеркнул, что «нынешняя структура дает вам возможность в конечном итоге получить односторонний абсолютный контроль над AGI. Хотя Маск сказал, что он не хочет контролировать окончательный AGI, Сузвилл считает, что его поведение демонстрирует ориентацию на абсолютный контроль». контроль.
Примечательно, что электронное письмо пришло менее чем через шесть месяцев после того, как Маск ушел из OpenAI из-за разногласий по поводу финансирования компании. Суцковер ясно выразил свою обеспокоенность в электронном письме, заявив: «Поскольку компания добивается реального прогресса в AGI, вы можете сохранить абсолютный контроль над компанией, даже если это не является вашим текущим намерением».
Во второй половине письма Сузквер далее отметил, что цель OpenAI — создать лучшее будущее и избежать появления диктатуры AGI. Он упомянул об опасениях Маска по поводу того, что Демис Хассабис, основатель Google DeepMind, может создать диктатуру AGI, и посчитал, что эта обеспокоенность разумна. Поэтому он призвал к созданию структуры, которая не позволит Маску стать диктатором, особенно в контексте технологий, обеспечивающих такую возможность.
Содержание электронного письма сегодня особенно поразительно, поскольку оно показывает, что вопрос контроля является сложной и деликатной темой, когда речь идет о создании искусственного интеллекта с помощью человеческого интеллекта. Со временем Сузковир сам покинул OpenAI, чтобы основать новую компанию, занимающуюся безопасностью искусственного интеллекта, и это изменение добавило веса содержанию электронного письма.
Выделять:
Ранние внутренние электронные письма OpenAI показывают, что сотрудники были обеспокоены желанием Маска контролировать область искусственного интеллекта.
Сузковир предупредил, что абсолютный контроль Маска над AGI может иметь серьезные последствия.
Цель OpenAI — создать лучшее будущее, которое позволит избежать диктатуры AGI.
Разоблачение этого письма заставляет нас еще раз рассмотреть вопросы власти и контроля в развитии искусственного интеллекта. Как сбалансировать инновации и безопасность и как избежать злоупотребления технологиями искусственного интеллекта — ключевые вопросы, заслуживающие нашего рассмотрения. Будущее направление развития искусственного интеллекта будет зависеть от того, насколько эффективно мы будем управлять и контролировать эту мощную технологию.