Baru-baru ini, editor Downcodes mengetahui bahwa gugatan antara Elon Musk dan Sam Altman secara tidak sengaja mengungkap email internal awal OpenAI, mengungkapkan perebutan kekuasaan yang sengit antara para pendiri perusahaan atas kendali kecerdasan buatan. Isi email tersebut telah menimbulkan kekhawatiran luas mengenai arah pengembangan masa depan dan keamanan kecerdasan buatan, terutama masalah kendali atas kecerdasan buatan tingkat manusia (AGI). Dalam email tersebut, salah satu pendiri OpenAI, Ilya Suzkovel, menyatakan keprihatinannya atas kendali Musk yang berlebihan terhadap AI, dan percaya bahwa hal ini dapat menyebabkan risiko kediktatoran AGI, dan menyerukan pembentukan mekanisme yang masuk akal untuk mencegah hal ini terjadi.
Catatan sumber gambar: Gambar dihasilkan oleh AI, dan penyedia layanan otorisasi gambar Midjourney
Dalam emailnya kepada Musk dan Altman pada bulan September 2017, Suzkowir menyatakan bahwa keinginan Musk untuk memegang kendali dapat menimbulkan potensi ancaman terhadap kecerdasan buatan tingkat manusia (AGI) di masa depan. Dia menekankan dalam emailnya bahwa "struktur saat ini memberikan jalan bagi Anda untuk pada akhirnya memiliki kendali absolut sepihak atas AGI." Meskipun Musk telah mengatakan bahwa dia tidak ingin mengendalikan AGI akhir, Suzkville percaya bahwa perilakunya menunjukkan fokus pada AGI absolut. kontrol.
Khususnya, email tersebut datang kurang dari enam bulan setelah Musk mengundurkan diri dari OpenAI karena perbedaan pendapat mengenai cara pendanaan perusahaan. Sutskower memperjelas kekhawatirannya melalui email, dengan mengatakan, "Seiring dengan kemajuan nyata yang dicapai perusahaan dengan AGI, Anda dapat memilih untuk mempertahankan kendali penuh atas perusahaan, meskipun itu bukan niat Anda saat ini."
Di paruh kedua emailnya, Suzkwer lebih lanjut menunjukkan bahwa tujuan OpenAI adalah menciptakan masa depan yang lebih baik dan menghindari munculnya kediktatoran AGI. Dia menyebutkan kekhawatiran Musk bahwa pendiri Google DeepMind Demis Hassabis mungkin akan menciptakan kediktatoran AGI, dan percaya bahwa kekhawatiran ini masuk akal. Oleh karena itu, dia menyerukan pembentukan struktur yang akan mencegah Musk menjadi diktator, terutama dalam konteks teknologi yang memungkinkan kemungkinan tersebut.
Isi email tersebut sangat menarik perhatian saat ini karena mengungkapkan bahwa masalah kontrol adalah topik yang kompleks dan sensitif dalam menciptakan kecerdasan buatan dengan kecerdasan manusia. Seiring berjalannya waktu, Suzkowir sendiri meninggalkan OpenAI untuk membentuk perusahaan baru yang berfokus pada keamanan kecerdasan buatan, sebuah perubahan yang menambah bobot pada konten email.
Pemaparan email ini mengingatkan kita sekali lagi bahwa seiring dengan pesatnya perkembangan kecerdasan buatan, sangat penting untuk memperhatikan etika teknis dan keselamatan. Kita perlu membangun mekanisme yang lebih baik untuk memastikan bahwa teknologi kecerdasan buatan dapat memberikan manfaat bagi umat manusia dan bukan menjadi alat yang mengancam masa depan umat manusia. Redaksi Downcodes akan terus memperhatikan perkembangan terkini di bidang kecerdasan buatan dan memberikan informasi yang lebih berharga kepada pembaca.