Encode presentó una demanda ante los tribunales contra el plan de OpenAI de transformarla en una empresa con fines de lucro. Encode cree que esta medida socavará los objetivos originales de seguridad e interés público de investigación y desarrollo de inteligencia artificial de OpenAI. La demanda de la organización cuenta con el apoyo de conocidos expertos en el campo de la inteligencia artificial, Geoffrey Hinton y Stuart Russell, quienes creen que la transformación comercial de OpenAI puede conducir al uso indebido de la tecnología de inteligencia artificial y poner en peligro la seguridad y el bienestar públicos. Les preocupa que OpenAI ignore sus responsabilidades sociales en el proceso de buscar la maximización de ganancias.
El grupo Encode pidió recientemente al tribunal que apoyara su oposición al plan de OpenAI de transformarlo en una empresa con fines de lucro. Encode es una organización sin fines de lucro y copatrocinadora de la Ley de Seguridad de la Inteligencia Artificial de California. Los abogados del grupo dijeron en un escrito que la transformación de OpenAI "socavaría" su misión original de desarrollar e implementar tecnología de inteligencia artificial de una manera que sea segura y beneficiosa para el público.
Sneha Revanur, fundadora y presidenta de Encode, acusó a OpenAI de "internalizar los beneficios de la inteligencia artificial pero externalizar las consecuencias para toda la humanidad" y dijo que "el tribunal debe intervenir para garantizar que el desarrollo de la inteligencia artificial sea de interés público". El informe del grupo recibió el apoyo de Geoffrey Hinton, un pionero en el campo de la inteligencia artificial, y Stuart Russell, profesor de informática en la Universidad de California, Berkeley.
OpenAI planea transformar su parte con fines de lucro en una corporación de beneficio público (PBC) de Delaware, con acciones ordinarias y la misión de OpenAI como su beneficio público. Sin embargo, los abogados de Encode dijeron que esto haría que OpenAI perdiera su misión original y transfiriera el control de la misma a PBC, lo que "transformaría una organización legalmente obligada a asegurar la inteligencia artificial avanzada en una legalmente obligada a 'una organización que equilibra' sus consideraciones de la interés público con 'los intereses económicos de sus accionistas'".
El informe de Encode también señala que una vez que se complete la reorganización de la compañía, la junta directiva de la organización sin fines de lucro OpenAI ya no podrá cancelar las participaciones de los inversores por razones de seguridad. La organización sin fines de lucro de OpenAI se ha comprometido a dejar de competir con cualquier "proyecto alineado con los valores y consciente de la seguridad" que se acerque a construir AGI antes que ella, pero OpenAI, como organización con fines de lucro, tiene menos incentivos, si es que tiene alguno, para hacerlo.
Los abogados de Encode dijeron que el supuesto deber fiduciario de OpenAI hacia los humanos dejaría de existir porque la ley de Delaware establece claramente que los directores de PBC no tienen responsabilidad hacia el público. La organización Encode pide al tribunal que apoye sus esfuerzos para evitar que OpenAI se transforme en una empresa con fines de lucro y proteger la seguridad de la inteligencia artificial y los intereses públicos.
El núcleo de esta demanda radica en las cuestiones éticas y de seguridad del desarrollo de la inteligencia artificial y en cómo equilibrar los intereses comerciales y los intereses públicos. El fallo judicial final tendrá un profundo impacto en el desarrollo de la industria de la inteligencia artificial y proporcionará una referencia importante para la futura gobernanza de la inteligencia artificial.