Recentemente, o Webmaster Home relatou os resultados de uma pesquisa sobre os riscos potenciais da superinteligência artificial, que atraiu atenção generalizada. A pesquisa revela as preocupações dos investigadores de IA sobre os riscos potenciais da superinteligência artificial, particularmente a pequena mas real possibilidade de que possa levar à extinção da raça humana. Os resultados da pesquisa também mostram que os pesquisadores têm divergências e incertezas sobre a velocidade de desenvolvimento e o impacto social futuro da tecnologia de IA, e expressaram fortes preocupações sobre os riscos da tecnologia de IA ser usada maliciosamente, como falsificação profunda, manipulação da opinião pública e a fabricação de armas.
O Webmaster Home relatou que os pesquisadores de IA geralmente estão preocupados com o fato de que o desenvolvimento da superinteligência artificial possa ter um risco insignificante, mas muito pequeno, de levar à extinção humana. Na maior pesquisa realizada com pesquisadores de IA, cerca de 58% dos pesquisadores acreditavam que havia uma probabilidade de 5% de causar a extinção humana ou outros resultados extremamente ruins relacionados à IA. A pesquisa também mostrou que os pesquisadores de IA estão amplamente divididos quanto ao cronograma para os futuros marcos da tecnologia de IA e estão incertos sobre as possíveis consequências sociais de serem impulsionados pela IA. Além disso, os investigadores têm preocupações urgentes sobre cenários impulsionados pela IA, como deepfakes, manipulação da opinião pública e fabrico de armas.
Em suma, os resultados deste inquérito lembram-nos que, ao mesmo tempo que desfrutamos da conveniência trazida pelo avanço da tecnologia de IA, devemos atribuir grande importância aos seus riscos potenciais e explorar ativamente mecanismos eficazes de gestão e controlo de riscos para garantir que a tecnologia de IA possa desenvolver-se com segurança. e sustentável para beneficiar a humanidade.