A Encode entrou com uma ação judicial contra o plano da OpenAI de transformá-la em uma empresa com fins lucrativos. A Encode acredita que esta medida prejudicará os objetivos originais de pesquisa e desenvolvimento de inteligência artificial da OpenAI, de segurança e interesse público. O processo da organização é apoiado por conhecidos especialistas na área de inteligência artificial, Geoffrey Hinton e Stuart Russell, que acreditam que a transformação comercial da OpenAI pode levar ao uso indevido da tecnologia de inteligência artificial e pôr em perigo a segurança e o bem-estar público. Eles temem que a OpenAI ignore as suas responsabilidades sociais no processo de procura da maximização dos lucros.
O grupo Encode pediu recentemente ao tribunal que apoiasse a sua oposição ao plano da OpenAI de transformá-la numa empresa com fins lucrativos. Encode é uma organização sem fins lucrativos e co-patrocinadora da Lei de Segurança de Inteligência Artificial da Califórnia. Os advogados do grupo disseram num resumo que a transformação da OpenAI “minaria” a sua missão original de desenvolver e implementar tecnologia de inteligência artificial de uma forma que seja segura e benéfica para o público.
Sneha Revanur, fundadora e presidente da Encode, acusou a OpenAI de “internalizar os lucros da inteligência artificial, mas externalizar as consequências para toda a humanidade” e disse que “o tribunal deve intervir para garantir que o desenvolvimento da inteligência artificial seja do interesse público”. O briefing do grupo recebeu apoio de Geoffrey Hinton, pioneiro no campo da inteligência artificial, e de Stuart Russell, professor de ciência da computação na Universidade da Califórnia, Berkeley.
A OpenAI planeja transformar sua parte com fins lucrativos em uma corporação de benefício público de Delaware (PBC), com ações ordinárias e a missão da OpenAI como seu benefício público. No entanto, os advogados da Encode disseram que isso faria com que a OpenAI perdesse sua missão original e transferisse o controle dela para o PBC, o que "transformaria uma organização legalmente obrigada a proteger a inteligência artificial avançada em uma organização legalmente obrigada a 'Uma organização que equilibra' suas considerações sobre o público interesse com 'os interesses económicos dos seus accionistas'".
O resumo da Encode também observa que, uma vez concluída a reorganização da empresa, o conselho de administração da organização sem fins lucrativos OpenAI não poderá mais alienar as ações dos investidores por razões de segurança. A organização sem fins lucrativos da OpenAI comprometeu-se a parar de competir com quaisquer “projetos alinhados com valores e preocupados com a segurança” que se aproximem da construção da AGI antes dela, mas a OpenAI, como organização com fins lucrativos, tem menos, ou nenhum, incentivo para fazê-lo.
Os advogados da Encode disseram que o suposto dever fiduciário da OpenAI para com os humanos deixaria de existir porque a lei de Delaware afirma claramente que os diretores do PBC não têm responsabilidade para com o público. A organização Encode apela ao tribunal para apoiar os seus esforços para evitar que a OpenAI se transforme numa empresa com fins lucrativos e proteger a segurança da inteligência artificial e os interesses públicos.
O cerne deste processo reside nas questões éticas e de segurança do desenvolvimento da inteligência artificial e em como equilibrar os interesses comerciais e os interesses públicos. A decisão final do tribunal terá um impacto profundo no desenvolvimento da indústria da inteligência artificial e fornecerá uma referência importante para a futura governação da inteligência artificial.