Recentemente, o editor do Downcodes soube que o processo entre Elon Musk e Sam Altman expôs acidentalmente os primeiros e-mails internos da OpenAI, revelando a feroz luta de poder entre os fundadores da empresa pelo controle da inteligência artificial. O conteúdo do e-mail levantou preocupações generalizadas sobre a direção futura do desenvolvimento e da segurança da inteligência artificial, especialmente a questão do controle sobre a inteligência artificial (AGI) de nível humano. No e-mail, o cofundador da OpenAI, Ilya Suzkovel, expressou preocupação sobre o controle excessivo da IA por Musk, acreditando que isso pode levar ao risco de ditadura da AGI, e apelou ao estabelecimento de mecanismos razoáveis para evitar que isso aconteça.
Nota sobre a fonte da imagem: a imagem é gerada pela IA e pelo provedor de serviços de autorização de imagem Midjourney
Num e-mail para Musk e Altman em setembro de 2017, Suzkowir apontou que o desejo de controle de Musk pode representar uma ameaça potencial à futura inteligência artificial (AGI) de nível humano. Ele enfatizou no e-mail que “a estrutura atual fornece um caminho para que você eventualmente tenha controle absoluto unilateral da AGI”. Embora Musk tenha dito que não deseja controlar a AGI final, Suzkville acredita que seu comportamento mostra um foco absoluto”. controlar.
Notavelmente, o e-mail veio menos de seis meses depois que Musk renunciou à OpenAI devido a divergências sobre como a empresa foi financiada. Sutskower deixou claras suas preocupações no e-mail, dizendo: “À medida que a empresa faz progressos reais com a AGI, você pode optar por manter o controle absoluto da empresa, mesmo que essa não seja sua intenção atual”.
Na segunda metade do e-mail, Suzkwer destacou ainda que o objetivo da OpenAI é criar um futuro melhor e evitar o surgimento da ditadura AGI. Ele mencionou as preocupações de Musk de que o fundador do Google DeepMind, Demis Hassabis, pudesse criar uma ditadura AGI e acreditava que essa preocupação era razoável. Por isso, apelou à criação de uma estrutura que impedisse Musk de se tornar um ditador, especialmente no contexto da tecnologia que permite essa possibilidade.
O conteúdo do email é hoje particularmente marcante porque revela que a questão do controlo é um tema complexo e sensível quando se trata de criar inteligência artificial com inteligência humana. Com o passar do tempo, o próprio Suzkowir deixou a OpenAI para formar uma nova empresa focada em segurança de inteligência artificial, uma mudança que deu peso ao conteúdo do email.
A exposição deste email lembra-nos mais uma vez que à medida que a inteligência artificial se desenvolve rapidamente, é crucial prestar atenção à ética técnica e à segurança. Precisamos de estabelecer um mecanismo melhor para garantir que a tecnologia de inteligência artificial possa beneficiar a humanidade, em vez de se tornar uma ferramenta que ameaça o futuro da humanidade. O editor do Downcodes continuará atento aos últimos desenvolvimentos na área de inteligência artificial e trazendo informações mais valiosas aos leitores.