Encode a intenté une action en justice contre le projet d'OpenAI de la transformer en une entreprise à but lucratif. Encode estime que cette décision sapera les objectifs initiaux de recherche et de développement d’OpenAI en matière d’intelligence artificielle en matière de sécurité et d’intérêt public. Le procès de l’organisation est soutenu par des experts renommés dans le domaine de l’intelligence artificielle, Geoffrey Hinton et Stuart Russell, qui estiment que la transformation commerciale d’OpenAI pourrait conduire à une utilisation abusive de la technologie de l’intelligence artificielle et mettre en danger la sécurité et le bien-être publics. Ils craignent qu’OpenAI ignore ses responsabilités sociales dans le processus de maximisation des profits.
Le groupe Encode a récemment demandé au tribunal de soutenir son opposition au projet d'OpenAI de le transformer en entreprise à but lucratif. Encode est une organisation à but non lucratif et co-sponsor de la loi californienne sur la sécurité de l’intelligence artificielle. Les avocats du groupe ont déclaré dans un mémoire que la transformation d'OpenAI « porterait atteinte » à sa mission initiale de développer et de déployer une technologie d'intelligence artificielle d'une manière sûre et bénéfique pour le public.
Sneha Revanur, fondatrice et présidente d'Encode, a accusé OpenAI « d'internaliser les bénéfices de l'intelligence artificielle mais d'en externaliser les conséquences sur toute l'humanité » et a déclaré que « le tribunal doit intervenir pour garantir que le développement de l'intelligence artificielle est dans l'intérêt public ». Le mémoire du groupe a reçu le soutien de Geoffrey Hinton, un pionnier dans le domaine de l'intelligence artificielle, et de Stuart Russell, professeur d'informatique à l'Université de Californie à Berkeley.
OpenAI prévoit de transformer sa partie à but lucratif en une société d'utilité publique (PBC) du Delaware, avec des actions ordinaires et la mission d'OpenAI comme étant d'intérêt public. Cependant, les avocats d'Encode ont déclaré que cela ferait perdre à OpenAI sa mission d'origine et en transférerait le contrôle à PBC, ce qui « transformerait une organisation légalement tenue de sécuriser l'intelligence artificielle avancée en une organisation légalement liée à » Une organisation qui équilibre « ses considérations de la l’intérêt public avec « les intérêts économiques de ses actionnaires » ».
Le mémoire d'Encode indique également qu'une fois la réorganisation de l'entreprise terminée, le conseil d'administration d'OpenAI, une organisation à but non lucratif, ne pourra plus annuler les participations des investisseurs pour des raisons de sécurité. L'organisation à but non lucratif d'OpenAI s'est engagée à cesser de rivaliser avec tous les « projets alignés sur les valeurs et soucieux de la sécurité » qui se rapprochent de la création d'AGI avant elle, mais OpenAI, en tant qu'organisation à but lucratif, est moins, voire inexistante, incitée à le faire.
Les avocats d'Encode ont déclaré que la prétendue obligation fiduciaire d'OpenAI envers les humains cesserait d'exister parce que la loi du Delaware stipule clairement que les administrateurs de PBC n'ont aucune responsabilité envers le public. L'organisation Encode appelle le tribunal à soutenir ses efforts visant à empêcher OpenAI de se transformer en une entreprise à but lucratif et à protéger la sécurité de l'intelligence artificielle et les intérêts publics.
Le cœur de ce procès réside dans les questions d’éthique et de sécurité liées au développement de l’intelligence artificielle, ainsi que dans la manière de concilier les intérêts commerciaux et les intérêts publics. La décision finale du tribunal aura un impact profond sur le développement du secteur de l’intelligence artificielle et constituera une référence importante pour la future gouvernance de l’intelligence artificielle.