Baru-baru ini, Beranda Webmaster melaporkan hasil survei mengenai potensi risiko kecerdasan buatan super, yang menarik perhatian luas. Survei tersebut mengungkap kekhawatiran para peneliti AI mengenai potensi risiko kecerdasan super buatan, khususnya kemungkinan kecil namun nyata yang dapat menyebabkan kepunahan umat manusia. Hasil survei juga menunjukkan bahwa para peneliti mempunyai perbedaan pendapat dan ketidakpastian mengenai kecepatan pengembangan dan dampak sosial teknologi AI di masa depan, dan telah menyatakan kekhawatiran yang kuat mengenai risiko penggunaan teknologi AI secara jahat, seperti pemalsuan mendalam, manipulasi opini publik, dan manufaktur. senjata.
Webmaster Home melaporkan bahwa para peneliti AI umumnya khawatir bahwa pengembangan kecerdasan buatan super mungkin memiliki risiko yang dapat diabaikan namun sangat kecil dalam menyebabkan kepunahan manusia. Dalam survei terbesar yang dilakukan terhadap para peneliti AI, sekitar 58% peneliti percaya bahwa terdapat 5% kemungkinan menyebabkan kepunahan manusia atau dampak buruk lainnya terkait AI. Survei tersebut juga menunjukkan bahwa para peneliti AI mempunyai pendapat yang berbeda-beda mengenai jadwal pencapaian teknologi AI di masa depan dan tidak yakin mengenai kemungkinan konsekuensi sosial dari penggunaan AI. Selain itu, para peneliti mempunyai kekhawatiran mendesak mengenai skenario yang didorong oleh AI seperti deepfake, manipulasi opini publik, dan pembuatan senjata.
Secara keseluruhan, hasil survei ini mengingatkan kita bahwa sambil menikmati kemudahan yang dibawa oleh kemajuan teknologi AI, kita harus mementingkan potensi risikonya dan secara aktif mengeksplorasi mekanisme manajemen dan pengendalian risiko yang efektif untuk memastikan bahwa teknologi AI dapat berkembang dengan aman. dan berkelanjutan untuk memberi manfaat bagi umat manusia.