70 tahun yang lalu, di Massachusetts Institute of Technology di Amerika Serikat, ada percakapan terkenal yang mengungkap kesulitan kita saat ini. Saat itu, Marvin Minsk, pionir dalam penelitian kecerdasan buatan, menyatakan: "Kami ingin memberikan kecerdasan pada mesin dan membuat mereka sadar diri." Douglas Engelbart, yang menemukan pengolah kata dan mouse, menjawab: "Anda ingin memberikan mesin begitu banyak hal baik. ? Lalu apa yang akan kamu lakukan untuk kemanusiaan?"
Sampai hari ini, hal ini tampaknya telah menjadi "awan gelap" yang menyelimuti seluruh umat manusia: dari "Terminator" hingga "The Matrix" hingga "I, Robot" dan "Westworld", banyak film fiksi ilmiah yang menggambarkan hal yang sangat mengkhawatirkan. masa depan - mesin yang telah memperoleh kesadaran diri pada gilirannya akan mengambil alih manusia atau bahkan memusnahkan mereka. Beberapa tahun terakhir, pesatnya perkembangan kecerdasan buatan (AI) membuat banyak orang semakin khawatir apakah manusia akan diperbudak oleh kecerdasan buatan?
Bukan sekadar “alat lain”
Buku baru Yuval Harari "Beyond Homo Sapiens" sangat mewaspadai hal ini dan sangat yakin bahwa hal ini sangat mungkin terjadi: manusia telah menciptakan kekuatan yang tidak mereka ketahui cara mengendalikannya. Begitu hal-hal baru ini lepas dari kendali manusia, mereka akan memperbudak atau memusnahkannya kemanusiaan. Dalam pandangannya, kecerdasan non-manusia yang dihasilkan oleh jaringan komputer telah melahirkan teknologi pertama dalam sejarah yang dapat mengambil keputusan sendiri dan menciptakan ide-ide baru, yang mungkin berdampak subversif terhadap tatanan dan sistem masyarakat manusia saat ini.
Dampak yang mengganggu? Tentu saja harus ada. Sunstein telah lama memperingatkan dalam bukunya "Network Republic" bahwa Internet bukan hanya sebuah teknologi. Karakteristiknya akan menyebabkan "penyaringan kolaboratif" dan "polarisasi kelompok", yang memungkinkan semakin banyak orang hanya mendengar diri mereka sendiri pengoperasian masyarakat ke dalam krisis. Kepompong informasi yang kita lihat saat ini telah mengkonfirmasi hal ini, kita semua tahu ini buruk, tapi pertanyaannya adalah seberapa buruknya?
Dalam pandangan Harari, tantangan kecerdasan buatan jauh lebih dari itu, karena kecerdasan buatan bukan sekedar “alat lain”, namun berpotensi menguasai jaringan informasi untuk komunikasi manusia. Betapapun canggihnya alat-alat baru di masa lalu, keputusan untuk menggunakannya ada di tangan manusia. Namun, kecerdasan buatan telah mengubah hal ini untuk pertama kalinya. Inilah kelemahan fatal peradaban manusia: "Meskipun manusia dapat membangun jaringan kerja sama berskala besar untuk mendapatkan kekuatan yang luar biasa, cara jaringan ini dibangun membuat manusia sering kali tidak bijaksana dalam menggunakan kekuatan tersebut." Kegagalan kita dalam mengendalikan jaringan-jaringan tersebut berisiko menimbulkan kehancuran bagi kita sendiri.
Munculnya peradaban manusia bergantung pada kerja sama, dan kerja sama harus bergantung pada pertukaran informasi, jika tidak, masyarakat besar tidak akan mungkin terbentuk. Dari perspektif ini, semua bentuk organisasi dalam sejarah sebagian besar bergantung pada serangkaian kata-kata yang dipatuhi secara kolektif oleh para anggotanya. Ini adalah sebuah "realitas intersubjektif": selama para anggota percaya bahwa hal tersebut "benar", maka hal tersebut juga berlaku bagi mereka, dan kerja sama serta kepercayaan semuanya didasarkan pada konsensus diam-diam ini.
Sekarang masalahnya: Kecerdasan buatan tidak hanya memberikan dukungan teknis untuk pengelolaan informasi terpusat, tetapi juga dapat menciptakan ide-ide baru dengan sendirinya. Melalui pembelajaran mandiri, algoritma dapat mempelajari hal-hal yang tidak ditulis ke dalam program, dan juga dapat mempelajari hal-hal yang tidak tertulis dalam program membuat keputusan sendiri. Semakin banyak kita berbicara dengan komputer dan semakin banyak informasi yang kita ungkapkan, pada akhirnya program robot akan mampu memberi mereka opini, mempengaruhi opini kita, dan memanipulasi masyarakat manusia. “Komputer tidak perlu mengirimkan robot pembunuh untuk menembak orang, mereka hanya perlu untuk memanipulasi manusia untuk menarik pelatuknya.”
Untuk menghindari kejadian buruk seperti itu, hal yang paling penting adalah memiliki mekanisme koreksi diri yang kuat untuk terus mengidentifikasi dan memecahkan masalah. Namun, seperti yang biasa terjadi dalam program komputer, merevisi bug sering kali menimbulkan bug baru: "Meskipun mekanisme koreksi diri kondusif untuk mengejar kebenaran, hal ini akan sangat meningkatkan biaya pemeliharaan ketertiban. Mekanisme koreksi diri terlalu kuat. kuat .
Sekilas, hal ini berbicara tentang kecerdasan buatan dan jaringan informasi. Faktanya, kekhawatirannya adalah apakah dan bagaimana sistem sosial saat ini dapat mengatasi dampak tersebut. Harari menyoroti betapa mendesaknya krisis ini namun mungkin membesar-besarkan bahayanya. Ia sangat khawatir bahwa "tirai silikon" akan memecah jaringan komputer manusia dan menciptakan kepompong informasi yang sulit untuk berkomunikasi satu sama lain. Namun di sisi lain, dalam dunia yang majemuk, bukankah naif juga untuk mempercayai bahwa "itu dunia itu datar" Iman? Kepompong informasi tentu saja membawa penutup, namun juga memberikan perlindungan bagi beragam budaya. Jika tidak, kita mungkin akan menyaksikan hilangnya sejumlah besar budaya khusus. Meskipun konsentrasi informasi semacam itu pada pandangan pertama tampaknya diberkati oleh teknologi, seiring berjalannya waktu, dapatkah isolasi mandiri semacam ini benar-benar memiliki kekuatan endogen yang lebih kuat dan pada akhirnya dapat bertahan dalam jaringan terbuka yang dinamis?
Akankah kecerdasan buatan menjadi lepas kendali?
Tak bisa dipungkiri, peringatannya memang diperlukan, apalagi teknologi seringkali mendahului kesadaran sosial, dan terlalu banyak orang yang tidak mampu menyadari apa sebenarnya arti kecerdasan buatan. Tiga puluh tahun yang lalu, Anggota Kongres AS Edward Markey mengatakan ini: “Kabar baik dari Washington adalah bahwa semua orang di Kongres mendukung gagasan jalan raya informasi. Kabar buruknya adalah tidak ada yang tahu apa artinya ini kebodohan politisi, tapi nyatanya, siapa pun Setiap hal baru memiliki karakteristik ini. Ketika percetakan pertama kali lahir, orang tidak pernah membayangkan bahwa hal itu akan menghasilkan buku, arsip, dan uang kertas yang tak terhitung jumlahnya. Berapa banyak orang yang dapat membayangkan bahwa alat obrolan perangkat lunak sosial telah berevolusi hingga saat ini dan jumlahnya begitu banyak fitur? Multifungsinya membuat hidup kita tidak dapat dipisahkan darinya.
Dengan kata lain, dampak dari hal-hal baru muncul secara bertahap, dan tidak ada yang bisa menebak sejak awal apa dampak sosial yang kompleks dan luas yang nantinya akan terjadi. Harari benar dalam satu hal: kuncinya terletak pada mekanisme koreksi diri masyarakat, daripada bereaksi berlebihan ketika ada masalah, dan ingin mencekik penemuan baru yang berbahaya ini di dalam buaiannya untuk mencegahnya menyebabkan bencana yang lebih besar; pendapat Kami sangat khawatir bahwa evolusi diri dari kecerdasan buatan berada di luar kendali manusia. Kami awalnya ingin mendapatkan A, tetapi akhirnya mendapatkan B - namun, mengapa "konsekuensi yang tidak diinginkan" tidak baik?
Kekhawatiran akan dampak buruk yang mungkin terjadi pada ciptaan manusia sudah menjadi tradisi panjang dalam budaya Barat, yang berasal dari logika pertentangan biner antara subjek dan objek. "Monster Frankenstein" yang digambarkan dalam karya perintis fiksi ilmiah modern adalah kisah yang demikian. Kekhawatiran ini tentu saja diperlukan, tetapi apakah “evolusi terkendali” semacam ini juga berarti bahwa batas atas kecerdasan manusia akan membatasi kemajuan teknologi?
Kevin Kelly juga memperkirakan dalam "Out of Control: The Final Fate and End of All Humanity" bahwa manusia mungkin kehilangan kendali atas mesin: "Saat melepaskan kekuatan kehidupan ke dalam mesin yang kita ciptakan, kita kehilangan kendali atas kendali mereka. Setelah mereka memperolehnya keliaran dan mendapatkan beberapa kejutan dan kejutan, ada dilema yang harus dihadapi semua pencipta: mereka tidak lagi sepenuhnya memiliki yang terbaik. Sebuah ciptaan yang membanggakan.” Namun, ia tidak percaya bahwa masa depan seperti itu patut untuk ditakuti. Sebaliknya, ia percaya akan perlunya melepaskan sebagian kendali dan membiarkan mesin melakukan simulasi “evolusi alami” sendiri: “Evolusi dapat memungkinkan kita untuk melampaui kemampuan kita. kemampuan perencanaan kita sendiri; Kita dapat mengukir hal-hal yang tidak dapat kita urus; evolusi dapat mencapai keadaan yang lebih sempurna; evolusi dapat menjaga dunia yang tidak dapat kita tangani. Namun... akibat dari evolusi adalah hilangnya kendali."
Belajar hidup berdampingan satu sama lain
Ya, kecerdasan buatan mungkin mempunyai dampak besar pada sistem sosial saat ini, namun kecerdasan buatan perlu menyasar masyarakat itu sendiri, bukan teknologi, karena karakteristik jaringan komputer seringkali tidak bergantung pada teknologi, namun pada karakteristik jaringan sosial itu sendiri. Terus terang, masyarakat seperti apa yang akan memunculkan jaringan informasi dan aplikasi kecerdasan buatan seperti apa. Kita sebaiknya berterus terang dan tidak menyalahkan teknologi.
Bukan berarti kita tidak perlu khawatir kecerdasan buatan akan lepas kendali, namun setidaknya pada tahap ini penerapan dan pengembangannya masih bergantung pada masyarakat itu sendiri. Hal ini seperti pembelahan sel dalam tubuh kita, yang memungkinkan organisme untuk tumbuh, beradaptasi, pulih dan memperbaiki diri, sehingga memungkinkan kita untuk bertahan hidup. Namun jika mekanisme ini dibajak oleh sel kanker dan terjadi pertumbuhan sel yang tidak normal, maka akan berakibat fatal bagi tubuh manusia. Kita tidak perlu berbicara tentang kanker, kita juga tidak bisa duduk santai. Sebaliknya, kita perlu menemukan cara untuk menyesuaikan diri dengan sel, menghilangkan sel-sel mutan tanpa merusak pertumbuhan normal.
Karena kita tidak dapat menghancurkan kecerdasan buatan, kita juga tidak ingin tersingkir olehnya, maka alih-alih melihat hal ini sebagai perjuangan untuk mengendalikan, kita harus belajar lebih banyak tentang logika biologi dan belajar untuk hidup berdampingan satu sama lain.