Dario Amodei, CEO startup AI Anthropic senilai US$19 miliar, baru-baru ini memberikan pidato tentang risiko pengembangan kecerdasan buatan di Konferensi AI San Francisco, yang memicu diskusi hangat. Dia dan pemodal ventura Marc Andreessen memiliki perbedaan pandangan yang signifikan mengenai risiko AI. Amodei percaya bahwa menyederhanakan AI sebagai "matematika" adalah suatu kesalahan logika dan mengkritik beberapa orang karena meremehkan risiko AI. Ia percaya bahwa meskipun ancaman terhadap model AI saat ini terbatas, dengan pesatnya perkembangan teknologi AI, terutama dengan munculnya agen AI yang menjalankan perintah secara mandiri, potensi risiko tidak dapat diabaikan dan mekanisme kontrol yang lebih baik perlu dibentuk. Hal ini memicu diskusi mendalam tentang keamanan dan regulasi AI.
Dario Amodei, CEO Anthropic, sebuah startup AI senilai $19 miliar, memberikan wawasan yang menggugah pikiran tentang risiko pengembangan kecerdasan buatan di Konferensi AI San Francisco pada hari Rabu. Meskipun ia yakin bahwa model AI yang ada saat ini tidak menimbulkan ancaman langsung terhadap umat manusia, ia mengkritik tajam beberapa rekannya karena terlalu meremehkan risiko AI.
Amodei meluncurkan analisis unik berdasarkan pandangan pemodal ventura terkenal Marc Andreessen. Andreessen mentweet pada bulan Maret tahun ini bahwa “membatasi AI sama dengan membatasi matematika, perangkat lunak, dan chip” dan hanya menghubungkan AI dengan “matematika.” Dalam hal ini, Amodei menunjukkan bahwa logika ini pada dasarnya mempunyai kelemahan. “Kalau menggunakan logika ini, bukankah otak manusia juga matematika? Pengaktifan dan penghitungan neuron juga matematika. Menurut pernyataan ini, kita bahkan tidak perlu takut pada Hitler, karena itu hanya matematika. Seluruh alam semesta bisa direduksi menjadi matematika"
Sebagai mantan wakil presiden OpenAI, Amodei keluar pada tahun 2021 untuk mendirikan Anthropic. Dia termasuk dalam kelompok eksekutif teknologi yang secara terbuka memperingatkan potensi risiko AI dan mendukung regulasi moderat dalam industri AI. Faktanya, Anthropic juga mendukung RUU regulasi AI California, meski RUU tersebut akhirnya dikalahkan.
Sebaliknya, Andreessen telah berinvestasi di sejumlah perusahaan AI termasuk OpenAI dan Xai. Dia menegaskan bahwa teknologi AI harus berkembang tanpa hambatan, bahkan menyebut kelompok peringatan keselamatan AI sebagai "kultusan" dan percaya bahwa pengawasan terhadap AI akan mengarah pada "totaliterisme baru".
Meskipun Amodei mengakui bahwa model AI saat ini “tidak cukup pintar atau cukup otonom” untuk menimbulkan ancaman serius bagi manusia, ia menekankan bahwa teknologi AI berkembang pesat. Apalagi dengan munculnya “agen” AI yang dapat menjalankan perintah manusia secara mandiri, masyarakat akan semakin sadar akan kemampuan AI dan potensi bahayanya.
“Orang-orang mungkin menertawakan beberapa perilaku chatbot yang tidak dapat diprediksi saat ini,” kata Amodei, “tetapi untuk agen AI di masa depan, kita harus membangun mekanisme kontrol yang lebih baik.”
Perdebatan ini tidak hanya mencerminkan perbedaan masalah keselamatan di komunitas AI, namun juga menyoroti pentingnya menemukan keseimbangan antara inovasi dan pengawasan seiring berkembangnya AI dengan pesat. Meskipun teknologi berkembang pesat, penilaian rasional dan pencegahan potensi risiko akan menjadi kunci untuk memastikan perkembangan AI yang sehat.
Pandangan Amodei memicu pemikiran mendalam mengenai arah pengembangan AI di masa depan, dan juga mengingatkan kita bahwa meskipun teknologi AI berkembang dengan pesat, kita perlu memperhatikan potensi risiko, mencari keseimbangan antara inovasi dan pengawasan, dan memastikan bahwa AI bermanfaat bagi umat manusia.