Recentemente, a disputa legal entre Elon Musk e a OpenAI expôs os primeiros e-mails internos, revelando um conflito feroz entre os fundadores da OpenAI sobre o controle da inteligência artificial. O conteúdo do e-mail mostra que o cofundador Ilya Suzkovel expressou fortes preocupações sobre o desejo de Musk de controlar a inteligência artificial, acreditando que isso pode levar à ditadura da inteligência artificial no futuro. Este e-mail foi escrito logo após Musk deixar a OpenAI, destacando sua importância e despertando o pensamento das pessoas sobre a direção do desenvolvimento da inteligência artificial.
Recentemente, quando Elon Musk entrou com uma ação judicial contra Sam Altman, os primeiros e-mails internos da OpenAI foram expostos, despertando a atenção generalizada sobre a luta pelo poder entre os fundadores da empresa. No e-mail, o cofundador da OpenAI, Ilya Sutskever, expressou profunda preocupação com o forte desejo de Musk de controlar a inteligência artificial.
Nota sobre a fonte da imagem: a imagem é gerada pela IA e pelo provedor de serviços de autorização de imagem Midjourney
Num e-mail para Musk e Altman em setembro de 2017, Suzkowir apontou que o desejo de Musk de controle pode representar uma ameaça potencial à futura inteligência artificial (AGI) de nível humano. Ele enfatizou no e-mail que “a estrutura atual fornece um caminho para que você eventualmente tenha controle absoluto unilateral da AGI”. Embora Musk tenha dito que não deseja controlar a AGI final, Suzkville acredita que seu comportamento mostra um foco absoluto”. controlar.
Notavelmente, o e-mail veio menos de seis meses depois que Musk renunciou à OpenAI devido a divergências sobre como a empresa foi financiada. Sutskower deixou claras suas preocupações no e-mail, dizendo: “À medida que a empresa faz progressos reais com a AGI, você pode optar por manter o controle absoluto da empresa, mesmo que essa não seja sua intenção atual”.
Na segunda metade do e-mail, Suzkwer destacou ainda que o objetivo da OpenAI é criar um futuro melhor e evitar o surgimento da ditadura AGI. Ele mencionou as preocupações de Musk de que Demis Hassabis, o fundador do Google DeepMind, pudesse criar uma ditadura AGI e acreditava que essa preocupação era razoável. Por isso, apelou à criação de uma estrutura que impedisse Musk de se tornar um ditador, especialmente no contexto da tecnologia que permite essa possibilidade.
O conteúdo do email é particularmente marcante hoje porque revela que a questão do controlo é um tema complexo e sensível quando se trata de criar inteligência artificial com inteligência humana. Com o passar do tempo, o próprio Suzkowir deixou a OpenAI para formar uma nova empresa focada em segurança de inteligência artificial, uma mudança que deu peso ao conteúdo do email.
Destaque:
Os primeiros e-mails internos da OpenAI mostram que os funcionários estavam preocupados com o desejo de Musk de controlar o campo da inteligência artificial.
Suzkowir alertou que o controle absoluto de Musk sobre a AGI poderia ter consequências graves.
O objetivo da OpenAI é criar um futuro melhor que evite a ditadura AGI.
A exposição deste e-mail nos faz examinar mais uma vez as questões de poder e controle no desenvolvimento da inteligência artificial. Como equilibrar inovação e segurança e como evitar o abuso da tecnologia de inteligência artificial são questões fundamentais que merecem a nossa consideração. A direção futura da inteligência artificial dependerá da eficácia com que gerimos e controlamos esta poderosa tecnologia.