Récemment, le différend juridique entre Elon Musk et OpenAI a révélé les premiers courriels internes, révélant un conflit féroce entre les fondateurs d'OpenAI sur le contrôle de l'intelligence artificielle. Le contenu de l’e-mail montre que le co-fondateur Ilya Suzkovel a exprimé de vives inquiétudes quant au désir de Musk de contrôler l’intelligence artificielle, estimant que cela pourrait conduire à la dictature de l’intelligence artificielle à l’avenir. Cet e-mail a été écrit peu de temps après que Musk ait quitté OpenAI, soulignant son importance et déclenchant une réflexion sur l'orientation du développement de l'intelligence artificielle.
Récemment, alors qu'Elon Musk a intenté une action en justice contre Sam Altman, les premiers courriels internes d'OpenAI ont été révélés, attirant une large attention sur la lutte de pouvoir entre les fondateurs de l'entreprise. Dans l’e-mail, Ilya Sutskever, co-fondateur d’OpenAI, a exprimé ses profondes inquiétudes quant au fort désir d’Elon Musk de contrôler l’intelligence artificielle.
Remarque sur la source de l'image : l'image est générée par l'IA et le fournisseur de services d'autorisation d'image Midjourney
Dans un e-mail adressé à Musk et Altman en septembre 2017, Suzkowir a souligné que le désir de contrôle de Musk pourrait constituer une menace potentielle pour la future intelligence artificielle (AGI) au niveau humain. Il a souligné dans l'e-mail que "la structure actuelle vous permet d'avoir éventuellement un contrôle absolu unilatéral sur AGI". Bien que Musk ait déclaré qu'il ne voulait pas contrôler l'AGI final, Suzkville estime que son comportement montre une concentration sur l'absolu. contrôle.
Notamment, l’e-mail est arrivé moins de six mois après la démission d’Elon Musk d’OpenAI en raison de désaccords sur le mode de financement de l’entreprise. Sutskower a clairement exprimé ses inquiétudes dans l'e-mail, déclarant : « À mesure que la société réalise de réels progrès avec AGI, vous pouvez choisir de conserver le contrôle absolu de la société, même si ce n'est pas votre intention actuelle. »
Dans la seconde moitié de l’e-mail, Suzkwer a en outre souligné que l’objectif d’OpenAI est de créer un avenir meilleur et d’éviter l’émergence d’une dictature de l’AGI. Il a mentionné les inquiétudes de Musk selon lesquelles Demis Hassabis, le fondateur de Google DeepMind, pourrait créer une dictature AGI, et a estimé que cette inquiétude était raisonnable. Il a donc appelé à la création d’une structure qui empêcherait Musk de devenir un dictateur, surtout dans le contexte d’une technologie permettant cette possibilité.
Le contenu de l’e-mail est particulièrement frappant aujourd’hui car il révèle que la question du contrôle est un sujet complexe et sensible lorsqu’il s’agit de créer une intelligence artificielle avec l’intelligence humaine. Au fil du temps, Suzkowir lui-même a quitté OpenAI pour créer une nouvelle société axée sur la sécurité de l'intelligence artificielle, un changement qui a ajouté du poids au contenu de l'e-mail.
Souligner:
Les premiers courriels internes d’OpenAI montrent que les employés s’inquiétaient de la volonté de Musk de contrôler le domaine de l’intelligence artificielle.
Suzkowir a averti que le contrôle absolu de Musk sur AGI pourrait avoir de graves conséquences.
L'objectif d'OpenAI est de créer un avenir meilleur qui évite la dictature de l'AGI.
La révélation de cet email nous amène une fois de plus à examiner les questions de pouvoir et de contrôle dans le développement de l’intelligence artificielle. Comment concilier innovation et sécurité et comment éviter les abus de la technologie de l’intelligence artificielle sont des questions clés qui méritent notre attention. L’orientation future de l’intelligence artificielle dépendra de l’efficacité avec laquelle nous gérerons et contrôlerons cette puissante technologie.