Recientemente, el editor de Downcodes se enteró de que la demanda entre Elon Musk y Sam Altman expuso accidentalmente los primeros correos electrónicos internos de OpenAI, revelando la feroz lucha de poder entre los fundadores de la compañía por el control de la inteligencia artificial. El contenido del correo electrónico ha generado preocupaciones generalizadas sobre la futura dirección del desarrollo y la seguridad de la inteligencia artificial, especialmente la cuestión del control sobre la inteligencia artificial (AGI) a nivel humano. En el correo electrónico, el cofundador de OpenAI, Ilya Suzkovel, expresó su preocupación por el control excesivo de la IA por parte de Musk, creyendo que esto puede conducir al riesgo de una dictadura de AGI, y pidió el establecimiento de mecanismos razonables para evitar que esto suceda.
Nota sobre la fuente de la imagen: la imagen es generada por AI y el proveedor de servicios de autorización de imágenes Midjourney
En un correo electrónico a Musk y Altman en septiembre de 2017, Suzkowir señaló que el deseo de control de Musk puede representar una amenaza potencial para la futura inteligencia artificial (AGI) a nivel humano. Enfatizó en el correo electrónico que "la estructura actual proporciona un camino para que eventualmente usted tenga un control absoluto unilateral de AGI. Aunque Musk ha dicho que no quiere controlar el AGI final, Suzkville cree que su comportamiento muestra un enfoque absoluto". control.
En particular, el correo electrónico llegó menos de seis meses después de que Musk renunciara a OpenAI por desacuerdos sobre cómo se financiaba la empresa. Sutskower dejó claras sus preocupaciones en el correo electrónico y dijo: "A medida que la empresa haga progresos reales con AGI, usted puede optar por mantener el control absoluto de la empresa, incluso si esa no es su intención actual".
En la segunda mitad del correo electrónico, Suzkwer señaló además que el objetivo de OpenAI es crear un futuro mejor y evitar el surgimiento de la dictadura de AGI. Mencionó las preocupaciones de Musk de que el fundador de Google DeepMind, Demis Hassabis, pudiera crear una dictadura de AGI, y creía que esta preocupación era razonable. Por lo tanto, pidió la creación de una estructura que impida que Musk se convierta en un dictador, especialmente en el contexto de la tecnología que permite esta posibilidad.
El contenido del correo electrónico llama especialmente la atención hoy porque revela que la cuestión del control es un tema complejo y delicado cuando se trata de crear inteligencia artificial con inteligencia humana. Con el paso del tiempo, el propio Suzkowir dejó OpenAI para formar una nueva empresa centrada en la seguridad de la inteligencia artificial, un cambio que añadió peso al contenido del correo electrónico.
La exposición de este correo electrónico nos recuerda una vez más que a medida que la inteligencia artificial se desarrolla rápidamente, es crucial prestar atención a la ética técnica y la seguridad. Necesitamos establecer un mecanismo mejor para garantizar que la tecnología de inteligencia artificial pueda beneficiar a la humanidad en lugar de convertirse en una herramienta que amenace el futuro de la humanidad. El editor de Downcodes seguirá prestando atención a los últimos desarrollos en el campo de la inteligencia artificial y brindará más información valiosa a los lectores.