OpenAI ha publicado su primer artículo sobre superalineación, explorando los enormes desafíos y oportunidades que podría traer la inteligencia súper artificial. El artículo propone el concepto de "generalización de débil a fuerte" y demuestra la viabilidad de que GPT-2 supervise a GPT-4 a través de experimentos. Sin embargo, también revela la enorme dificultad de la supervisión débil de modelos sobrehumanos. Para promover la investigación en este campo, OpenAI anunció generosamente una subvención de 10 millones de dólares para alentar a los investigadores globales de inteligencia artificial a participar activamente y abordar conjuntamente los riesgos potenciales que plantea la superinteligencia artificial. Este es un hito para la investigación en el campo de la seguridad de la inteligencia artificial.
Este plan de investigación y financiación de OpenAI no sólo señala la dirección de la investigación sobre la seguridad de la inteligencia artificial, sino que también destaca su compromiso con el desarrollo responsable de la tecnología de inteligencia artificial. En el futuro, cómo supervisar y controlar eficazmente la superinteligencia artificial se convertirá en un desafío clave que enfrentará el campo de la inteligencia artificial, y requerirá esfuerzos sostenidos y cooperación a escala global.