Recientemente, Webmaster Home informó sobre los resultados de una encuesta sobre los riesgos potenciales de la inteligencia súper artificial, que atrajo una gran atención. La encuesta revela las preocupaciones de los investigadores de IA sobre los riesgos potenciales de la inteligencia súper artificial, en particular la pequeña pero real posibilidad de que pueda conducir a la extinción de la raza humana. Los resultados de la encuesta también muestran que los investigadores tienen desacuerdos e incertidumbres sobre la velocidad de desarrollo y el impacto social futuro de la tecnología de IA, y han expresado grandes preocupaciones sobre los riesgos de que la tecnología de IA se utilice de manera maliciosa, como la falsificación profunda, la manipulación de la opinión pública y la fabricación de armas.
Webmaster Home informó que a los investigadores de IA les preocupa en general que el desarrollo de una inteligencia súper artificial pueda tener un riesgo insignificante pero muy pequeño de conducir a la extinción humana. En la encuesta más grande realizada a investigadores de IA, alrededor del 58% de los investigadores creía que había un 5% de probabilidad de causar la extinción humana u otros resultados extremadamente malos relacionados con la IA. La encuesta también mostró que los investigadores de IA están muy divididos en cuanto al calendario de futuros hitos de la tecnología de IA y no están seguros de las posibles consecuencias sociales de ser impulsados por la IA. Además, los investigadores tienen preocupaciones urgentes sobre escenarios impulsados por la IA, como los deepfakes, la manipulación de la opinión pública y la fabricación de armas.
Con todo, los resultados de esta encuesta nos recuerdan que, si bien disfrutamos de la conveniencia que brinda el avance de la tecnología de IA, debemos otorgar gran importancia a sus riesgos potenciales y explorar activamente mecanismos efectivos de control y gestión de riesgos para garantizar que la tecnología de IA pueda desarrollarse de manera segura. y sosteniblemente en beneficio de la humanidad.