Недавно редактор Downcodes узнал, что судебный процесс между Илоном Маском и Сэмом Альтманом случайно раскрыл ранние внутренние электронные письма OpenAI, раскрывая ожесточенную борьбу за власть между основателями компании за контроль над искусственным интеллектом. Содержание электронного письма вызвало широко распространенную обеспокоенность по поводу будущего направления развития и безопасности искусственного интеллекта, особенно вопроса контроля над искусственным интеллектом человеческого уровня (AGI). В электронном письме соучредитель OpenAI Илья Сузковель выразил обеспокоенность по поводу чрезмерного контроля Маска над ИИ, полагая, что это может привести к риску диктатуры AGI, и призвал к созданию разумных механизмов, чтобы предотвратить это.
Примечание к источнику изображения: изображение генерируется искусственным интеллектом и поставщиком услуг авторизации изображений Midjourney.
В электронном письме Маску и Альтману в сентябре 2017 года Сусковир отметил, что стремление Маска к контролю может представлять потенциальную угрозу для будущего искусственного интеллекта (AGI) человеческого уровня. В электронном письме он подчеркнул, что «нынешняя структура дает вам возможность в конечном итоге получить односторонний абсолютный контроль над AGI. Хотя Маск сказал, что он не хочет контролировать окончательный AGI, Сузвилл считает, что его поведение демонстрирует ориентацию на абсолютный контроль». контроль.
Примечательно, что электронное письмо пришло менее чем через шесть месяцев после того, как Маск ушел из OpenAI из-за разногласий по поводу финансирования компании. Суцковер ясно выразил свои опасения в электронном письме, заявив: «Поскольку компания добивается реального прогресса в AGI, вы можете сохранить абсолютный контроль над компанией, даже если это не является вашим текущим намерением».
Во второй половине письма Сузквер далее отметил, что цель OpenAI — создать лучшее будущее и избежать появления диктатуры AGI. Он упомянул об опасениях Маска по поводу того, что основатель Google DeepMind Демис Хассабис может создать диктатуру AGI, и посчитал эту обеспокоенность разумной. Поэтому он призвал к созданию структуры, которая не позволит Маску стать диктатором, особенно в контексте технологий, обеспечивающих такую возможность.
Содержание электронного письма сегодня особенно поразительно, поскольку оно показывает, что вопрос контроля является сложной и деликатной темой, когда речь идет о создании искусственного интеллекта с помощью человеческого интеллекта. Со временем Сузковир сам покинул OpenAI, чтобы основать новую компанию, занимающуюся безопасностью искусственного интеллекта, и это изменение добавило веса содержанию электронного письма.
Публикация этого электронного письма еще раз напоминает нам, что, поскольку искусственный интеллект быстро развивается, крайне важно уделять внимание технической этике и безопасности. Нам необходимо создать более совершенный механизм, гарантирующий, что технология искусственного интеллекта сможет принести пользу человечеству, а не станет инструментом, угрожающим будущему человечества. Редактор Downcodes продолжит уделять внимание последним разработкам в области искусственного интеллекта и доносить до читателей еще больше ценной информации.