Récemment, l’éditeur de Downcodes a appris que le procès entre Elon Musk et Sam Altman avait accidentellement révélé les premiers courriels internes d’OpenAI, révélant ainsi la lutte de pouvoir acharnée entre les fondateurs de l’entreprise pour le contrôle de l’intelligence artificielle. Le contenu de l'e-mail a suscité de nombreuses inquiétudes quant à l'orientation future du développement et à la sécurité de l'intelligence artificielle, en particulier la question du contrôle de l'intelligence artificielle au niveau humain (AGI). Dans l’e-mail, le co-fondateur d’OpenAI, Ilya Suzkovel, a exprimé ses inquiétudes concernant le contrôle excessif de Musk sur l’IA, estimant que cela pourrait conduire à un risque de dictature de l’AGI, et a appelé à la mise en place de mécanismes raisonnables pour empêcher que cela ne se produise.
Remarque sur la source de l'image : l'image est générée par l'IA et le fournisseur de services d'autorisation d'image Midjourney
Dans un e-mail adressé à Musk et Altman en septembre 2017, Suzkowir a souligné que le désir de contrôle de Musk pourrait constituer une menace potentielle pour la future intelligence artificielle (AGI) au niveau humain. Il a souligné dans l'e-mail que "la structure actuelle vous permet d'avoir éventuellement un contrôle absolu unilatéral sur AGI". Bien que Musk ait déclaré qu'il ne voulait pas contrôler l'AGI final, Suzkville estime que son comportement montre une concentration sur l'absolu. contrôle.
Notamment, l’e-mail est arrivé moins de six mois après la démission d’Elon Musk d’OpenAI en raison de désaccords sur le mode de financement de l’entreprise. Sutskower a clairement exprimé ses inquiétudes dans l'e-mail, déclarant : « À mesure que la société réalise de réels progrès avec AGI, vous pouvez choisir de conserver le contrôle absolu de la société, même si ce n'est pas votre intention actuelle. »
Dans la seconde moitié de l’e-mail, Suzkwer a en outre souligné que l’objectif d’OpenAI est de créer un avenir meilleur et d’éviter l’émergence d’une dictature de l’AGI. Il a mentionné les inquiétudes de Musk selon lesquelles le fondateur de Google DeepMind, Demis Hassabis, pourrait créer une dictature de l'AGI, et a estimé que cette inquiétude était raisonnable. Il a donc appelé à la création d’une structure qui empêcherait Musk de devenir un dictateur, surtout dans le contexte d’une technologie permettant cette possibilité.
Le contenu de l’e-mail est particulièrement frappant aujourd’hui car il révèle que la question du contrôle est un sujet complexe et sensible lorsqu’il s’agit de créer une intelligence artificielle avec l’intelligence humaine. Au fil du temps, Suzkowir lui-même a quitté OpenAI pour créer une nouvelle société axée sur la sécurité de l'intelligence artificielle, un changement qui a ajouté du poids au contenu de l'e-mail.
La révélation de cet email nous rappelle une fois de plus qu’à mesure que l’intelligence artificielle se développe rapidement, il est crucial de prêter attention à l’éthique technique et à la sécurité. Nous devons établir un meilleur mécanisme pour garantir que la technologie de l’intelligence artificielle puisse profiter à l’humanité au lieu de devenir un outil qui menace l’avenir de l’humanité. L'éditeur de Downcodes continuera de prêter attention aux derniers développements dans le domaine de l'intelligence artificielle et d'apporter des informations plus précieuses aux lecteurs.