Récemment, Webmaster Home a rapporté les résultats d'une enquête sur les risques potentiels de la super intelligence artificielle, qui a attiré une large attention. L'enquête révèle les inquiétudes des chercheurs en IA quant aux risques potentiels de la superintelligence artificielle, en particulier la possibilité, minime mais réelle, qu'elle puisse conduire à l'extinction de la race humaine. Les résultats de l'enquête montrent également que les chercheurs ont des désaccords et des incertitudes quant à la vitesse de développement et à l'impact social futur de la technologie de l'IA, et ont exprimé de fortes inquiétudes quant aux risques d'utilisation malveillante de la technologie de l'IA, comme la falsification profonde, la manipulation de l'opinion publique et la fabrication. d'armes.
Webmaster Home a rapporté que les chercheurs en IA craignent généralement que le développement de la super intelligence artificielle puisse présenter un risque négligeable mais très faible de conduire à l'extinction de l'humanité. Dans la plus grande enquête menée auprès des chercheurs en IA, environ 58 % des chercheurs pensaient qu’il y avait une probabilité de 5 % de provoquer l’extinction de l’humanité ou d’autres conséquences extrêmement néfastes liées à l’IA. L’enquête a également montré que les chercheurs en IA sont largement divisés sur le calendrier des futures étapes technologiques de l’IA et sont incertains quant aux conséquences sociales possibles d’être dirigés par l’IA. En outre, les chercheurs sont préoccupés par les scénarios basés sur l’IA, tels que les deepfakes, la manipulation de l’opinion publique et la fabrication d’armes.
Dans l’ensemble, les résultats de cette enquête nous rappellent que tout en profitant de la commodité apportée par les progrès de la technologie de l’IA, nous devons attacher une grande importance à ses risques potentiels et explorer activement des mécanismes efficaces de gestion des risques et de contrôle pour garantir que la technologie de l’IA puisse se développer en toute sécurité. et durablement au profit de l’humanité.