Refleksi etis tentang "apakah kecerdasan buatan harus memiliki status subjek hukum"

Penulis：Eve Cole Waktu Pembaruan：2024-11-22 14:06:01

Dengan mempopulerkan penerapan model bahasa besar, kecerdasan buatan generatif telah menunjukkan otonomi yang semakin kuat, yang tidak hanya memungkinkan orang untuk melihat kemungkinan kecerdasan buatan yang kuat, tetapi juga sekali lagi merangsang orang untuk mendiskusikan status subjek ciptaan manusia ini. . Baru-baru ini, Guangming Daily menerbitkan sejumlah artikel di halaman teoretis yang membahas apakah kecerdasan buatan harus menjadi subjek hukum, yang secara komprehensif memaparkan pandangan utama civitas akademika. Diantaranya, dua artikel, "Tidak Ada Hambatan Teoritis bagi Kecerdasan Buatan untuk Menjadi Subjek Hukum" dan "Subjek Hukum Terbatas: Pilihan Wajar atas Status Hukum Kecerdasan Buatan", menunjukkan dari perspektif filsafat dan etika, dan mengusulkan bahwa kecerdasan buatan menjadi subjek hukum dan konflik antara bidang filsafat dan Pemahaman tentang unsur subjektivitas manusia tidak bertentangan, tidak akan merendahkan status subjek manusia, dan tidak akan merusak sistem subjek yang berpusat pada manusia. Dalam hal ini, penulis berpendapat bahwa argumen-argumen tersebut tidak memahami esensi ontologis mengapa suatu subjek adalah subjek dan mengapa suatu kepribadian adalah suatu kepribadian. Bahkan dari sudut pandang humanisme, manusia sebagai primata segala sesuatu memiliki martabat pribadi dan status subjektif yang berbeda dari segala sesuatu. Memberi status subjek pada kecerdasan buatan tidak hanya merendahkan martabat manusia dan status subjek, namun juga tidak kondusif terhadap atribusi dan asumsi tanggung jawab yang realistis. Kehadiran manusia merupakan syarat mendasar untuk membentuk suatu “subjek”, sedangkan kecerdasan buatan hanya dapat dijadikan sebagai objek. Prasyarat untuk membahas apakah kecerdasan buatan harus berstatus subjek hukum adalah apakah kecerdasan buatan dapat menjadi subjek atau buatan kecerdasan memiliki subjektivitas. Subyek merupakan suatu konsep filosofis yang memiliki acuan tertentu. Jika kecerdasan buatan tidak dapat membuktikan suatu subjek secara filosofis, maka akan sulit untuk memberikan kualifikasi subjek kepadanya dari suatu hubungan hukum. Namun, bahkan kecerdasan buatan generatif yang memiliki otonomi dan kemandirian yang kuat serta menunjukkan kesadaran emosional pada tingkat tertentu masih jauh dari status subjek. Meskipun subjek dan subjektivitas memiliki konotasi yang berbeda di antara para filsuf yang berbeda: Aristoteles menganggap subjek sebagai penerima, Descartes menganggap subjek sebagai pemikir dengan kesadaran diri, dan Kant mendefinisikan subjek sebagai makhluk rasional- —Tetapi tidak lebih dari berkaitan dengan bentuk tunggal atau tunggal. orang jamak. Marx bahkan menyatakan secara langsung: Subjek adalah manusia, objek adalah alam, dan “manusia selalu menjadi subjek.” Dapat dilihat bahwa hanya orang-orang, dan orang-orang yang dengan sengaja dan sadar memahami atau mengubah dunia, yang merupakan subjek. Subyek yang berasal dari manusia dapat berupa perseorangan, suatu kelompok, suatu organisasi, atau bahkan seluruh masyarakat, namun harus mempunyai eksistensi dan kehadiran orang-orang yang konkrit dan praktis. Ketentuan yang paling hakiki tentang manusia sebagai subjek adalah subjektivitas, dan kandungan subjektivitas yang paling penting adalah kreativitas dan kepraktisan manusia, yaitu inisiatif subjektif atau kesadaran diri. Inilah ciri paling mendasar dari manusia dan subjek manusia. Sejauh ini, meskipun kecerdasan buatan, termasuk kecerdasan buatan generatif, telah menunjukkan kemampuan belajar yang semakin kuat dan perilaku otonom pada tingkat tertentu, masalah yang dipecahkannya masih hanya masalah kalkulasi dan solusi dalam skenario tertutup, dan tidak dapat menetapkan tujuan untuk lingkungan eksternal. Atau perencanaan, umpan balik yang otonom dan aktif masih jauh dari "berkembang" dari kesadaran diri atau keagenan. Oleh karena itu, kecerdasan buatan tidak memiliki jenis subjektivitas yang unik pada manusia, dan tidak dapat merupakan subjek. Lebih lanjut, kecerdasan buatan tidak dapat menjadi subjek hukum atau subjek hukum yang terbatas. "Subjek Hukum Terbatas: Pilihan Wajar atas Status Hukum Kecerdasan Buatan" menyatakan bahwa evolusi historis subjek sipil dari "manusia bisa menjadi non-manusia" menjadi "non-manusia bisa menjadi manusia" mencerminkan perusakan dan deetika subjek sipil. Namun dasar dari setiap subjek fiksi dapat ditelusuri kembali ke keberadaan atau kehadiran manusia. Hal ini tidak hanya bertentangan dengan teori bahwa hanya manusia yang dapat menjadi subjek, namun justru memperkuat gagasan bahwa hanya manusia yang dapat menjadi subjek. Di satu sisi, konstruksi badan hukum seperti perseroan dan perkumpulan dapat dikatakan sebagai kumpulan orang-orang yang majemuk. Unsur inti dari badan hukum sebagai subjek hukum tetaplah orang yang menikmati hak dan kewajiban serta memikul tanggung jawab tertentu; di sisi lain, filosofi organisasi non-manusia yang merupakan subjek hukum Yayasan tidak menganjurkan antroposentrisme yang kuat, tetapi hanya menekankan pada inti humanisme, yaitu keberadaan atau keberadaan manusia. Pemberian status subjek hukum pada kecerdasan buatan yang sepenuhnya otomatis, terpisah, atau ada secara independen dari manusia pada dasarnya menyimpang dari tujuan filosofis ini. Kecerdasan buatan pada dasarnya adalah alat untuk melayani umat manusia. Konsep "kepribadian" pada dasarnya menolak nilai instrumental. Dibandingkan dengan argumen atau sanggahan pada tingkat teori subjek, perdebatan seputar apakah kecerdasan buatan memiliki status subjek hukum lebih fokus pada tingkat teori kepribadian. Para sarjana yang berpandangan positif terutama mengkonstruksi tipe kepribadian baru untuk kecerdasan buatan dengan mengajukan pandangan seperti perluasan kepribadian hukum, kepribadian elektronik, kepribadian instrumental, dan kepribadian terbatas, sehingga membuktikan status subjek hukum kecerdasan buatan. Namun, seperti halnya "subjek", "kepribadian" juga merupakan konsep yang memiliki konotasi dan nilai khusus. Kecerdasan buatan tidak mencerminkan martabat manusia. Memberikan kecerdasan buatan pada kepribadian yang sesuai dapat mengancam perlindungan dan perwujudan martabat manusia. Konsep kepribadian dan martabat adalah produk modern yang telah memajukan sifat manusia dan mengejar peradaban dan kemajuan sejak Pencerahan. Ini menandai keunikan manusia dari hewan atau benda lain dari sudut pandang transendental, abstrak dan universal. Seperti yang dikatakan Kant, beberapa entitas, meskipun keberadaannya tidak didasarkan pada kehendak kita tetapi berdasarkan alam, jika merupakan entitas irasional, maka ia hanya mempunyai nilai relatif sebagai sarana, sehingga disebut benda. mereka disebut benda, makhluk rasional disebut manusia berkepribadian, dan umumnya setiap makhluk rasional, ada sebagai suatu tujuan, dan keberadaannya sendiri mempunyai nilai absolut. Konsep kepribadian dan martabat menunjukkan nilai yang melekat dan nilai absolut manusia sebagai tujuan itu sendiri dan bukan sebagai sarana atau alat untuk tujuan lain. Oleh karena itu, ia tidak hanya menjadi sumber nilai terpenting dalam masyarakat manusia, tetapi juga merupakan landasan penting bagi hak asasi manusia dan telah menjadi "Dasar legislatif Piagam PBB dan konstitusi berbagai negara di dunia. Namun, sebagai ciptaan manusia, kecerdasan buatan tidak hanya tidak menikmati kepribadian yang ada sebagai tujuan itu sendiri dan memiliki nilai intrinsik, tetapi juga mulai mengancam atau merusak martabat manusia karena penggunaan yang salah atau tidak tepat. Di satu sisi, kecerdasan buatan pada dasarnya adalah alat kompleks yang ditemukan dan diciptakan oleh manusia untuk memperluas kebebasan manusia dan meningkatkan kemampuan serta efisiensi manusia, mulai dari lahir, beroperasi hingga mati, hanya melayani manusia, sehingga hanya memiliki nilai relatif alat tidak dapat memiliki nilai absolut bagi manusia, dan tidak akan menikmati martabat manusia, bahkan jika hal itu muncul di masa depan. Kecerdasan buatan yang kuat dengan kesadaran diri masih tidak bisa meninggalkan posisi nilai alat; di sisi lain, perkembangan kecerdasan buatan yang tidak terkendali, melalui pengumpulan dan penghitungan data tubuh, identitas, dan perilaku manusia dalam skala besar, mengarah pada pelanggaran privasi, Kendali Masalah-masalah penyimpangan moral seperti spiritualitas, konsumsi yang diinduksi, penipuan dan penipuan, sampai batas tertentu, telah mengancam status subjek dan martabat pribadi seseorang. Karena "kepribadian" pada dasarnya menolak nilai instrumental, artikel "Subjek Hukum Terbatas: Pilihan Wajar dari Status Hukum Kecerdasan Buatan" mengusulkan proposisi kepribadian instrumental terbatas. Metode pembentukan kata yang menggabungkan kepribadian dengan kata-kata seperti alat dan terbatas tidak ada tidak ada gunanya bersikap teliti. Ini tidak lebih dari imajinasi berlebihan posthumanisme melalui mekanisme sastra seperti analogi dan metafora. Ini pada dasarnya hanyalah hak milik ekonomi yang diberikan kepada kecerdasan buatan, yang jauh dari hak kepribadian yang sebenarnya. Martabat pribadi menunjukkan keunikan manusia. Memberikan martabat pribadi pada kecerdasan buatan dan mengubah entitas atau keberadaan non-manusia menjadi keberadaan yang sama pentingnya dengan manusia tidak kondusif bagi perlindungan hak asasi manusia atau pengembangan kecerdasan buatan untuk selamanya. Hasil akhirnya Ini adalah pembubaran terus-menerus atas keunikan manusia dan martabat pribadi yang terbentuk atas dasar ini. Menjadi subjek hukum tidak akan membantu menyelesaikan dilema tanggung jawab atas kecerdasan buatan, namun akan menciptakan situasi yang lebih rumit. Alasan lain yang sangat dapat dipertahankan untuk pemberian status subjek kecerdasan buatan berasal dari kebutuhan pembangunan nyata, yaitu karena adanya kebutuhan. penerapan kecerdasan buatan dalam skala besar dan Meningkatnya tingkat otonomi dan kecerdasan telah menimbulkan dilema praktis dalam proses implementasi kerangka hukum yang ada, seperti ketidakmampuan untuk menemukan subyek hukum, ketidakmampuan untuk memberikan tanggung jawab, atau ketidakmampuan untuk menentukan meminta pertanggungjawaban orang. Misalnya, dalam bidang hukum kontrak, robot cerdas biasa menandatangani kontrak atas nama manusia. Namun, mekanisme hukumnya masih belum jelas mengenai "otonomi kehendak" siapa yang dinyatakan dalam kontrak penjualan yang diakhiri dengan cerdas program. Contoh lainnya adalah di bidang hukum pertanggungjawaban tort. Jika mobil self-driving menyebabkan kecelakaan saat mengemudi, menyebabkan cedera atau tort, bagaimana cara mengatribusikan tanggung jawab menjadi masalah yang sulit apakah itu programmer yang cerdas, produsen mobil, pengguna, atau pengguna. atau korbannya? Sulit bagi sistem hukum saat ini untuk membuat keputusan yang efektif. Misalnya, kecerdasan buatan generatif akan menimbulkan masalah kekayaan intelektual yang signifikan, namun memberikan hak kekayaan intelektual kepada robot pada dasarnya melanggar tujuan awal undang-undang untuk melindungi inovasi. Oleh karena itu, beberapa sarjana telah mengusulkan dari sudut pandang kebutuhan praktis bahwa pemberian status subjek kecerdasan buatan atau badan hukum adalah hal yang mendesak, dan untuk memperjelas serta menetapkan mekanisme pembagian tanggung jawab untuk kecerdasan buatan. “Tidak Ada Hambatan Teoritis bagi Kecerdasan Buatan untuk Menjadi Subyek Hukum” menyatakan bahwa “harta tanggung jawab dari kecerdasan buatan dapat dilindungi oleh asuransi tanggung jawab wajib yang ditetapkan pabrik dengan mengacu pada sistem permodalan badan hukum korporasi”, “Subjek Hukum Terbatas : Status Hukum yang Wajar dari Kecerdasan Buatan" Artikel "Pilihan" juga mengusulkan untuk "menyatukan metode pembukaan rekening perwalian yang sesuai, pembelian asuransi, dll. untuk kecerdasan buatan", sehingga kecerdasan buatan dapat berpartisipasi dalam hubungan hukum perdata sebagai pembawa hak dan kewajiban khusus, dan memecahkan dilema atribusi dan imputasi tanggung jawab yang diperlukan dalam praktik. Namun, desain hak milik ini tidak perlu sampai pada tingkat pemberian status subjek kecerdasan buatan atau hak kepribadian. Memberikan status subjek hukum pada kecerdasan buatan tidak hanya tidak akan membantu keluar dari dilema tanggung jawab yang disebabkan oleh kecerdasan buatan, namun juga akan menciptakan situasi tanggung jawab yang lebih rumit dengan memperkenalkan "subyek hukum" baru yang tidak perlu. Memang benar, teknologi kecerdasan buatan tidak lagi sesederhana alat di era pertanian atau mesin di era industri, melainkan sebuah “mesin raksasa” seperti yang dikatakan sarjana Amerika Mumford atau “kerangka” seperti yang dikatakan Heidegger sistem yang sangat digabungkan dengan manusia, manusia memainkan peran dalam identitas yang berbeda dan dalam hubungan yang berbeda dengan mekanisme yang berbeda dan mendorong realisasi fungsi teknologi kecerdasan buatan, membentuk situasi "tanggung jawab terdistribusi" dengan banyak subjek yang bertanggung jawab dan perilaku interaktif yang kompleks. Namun, tanggung jawab yang didistribusikan hanya akan memperpanjang rantai sebab akibat antar perilaku dan mempersulit penugasan tanggung jawab, namun tidak akan menyebabkan hilangnya atau pengalihan tanggung jawab. Sebagai pencipta atau pengguna kecerdasan buatan, masyarakat mempunyai tanggung jawab untuk memilah pembagian tanggung jawab berbagai mekanisme di setiap tautan sistem yang kompleks dan membuat atribusi tanggung jawab yang jelas. Sekalipun terdapat ketidakjelasan yang disebabkan oleh "kotak hitam algoritmik" atau perilaku kecerdasan buatan generatif dengan tingkat otonomi tertentu dengan cara yang tidak terduga, hal tersebut tetap dapat dikaitkan dalam bentuk tanggung jawab bersama atau tanggung jawab ketat. Bagaimanapun, kecerdasan buatan diciptakan oleh manusia untuk tujuan tertentu, sehingga harus memikul tanggung jawab atas keseluruhan perilaku penciptaan atau penggunaannya, daripada mengalihkan tanggung jawab kepada non-manusia tanpa status subjek dan kualifikasi kepribadian. Jika tidak, membiarkan kecerdasan buatan memikul sebagian atau seluruh tanggung jawab atas nama manusia pasti akan menyebabkan situasi yang lebih rumit seperti saling lempar tanggung jawab dan kebuntuan, dan bahkan dapat menyebabkan hilangnya tanggung jawab karena tidak ada seorang pun yang mengambil tanggung jawab. Sebenarnya, berbagai perilaku otonom atau cerdas dari kecerdasan buatan masih merupakan pilihan probabilistik berdasarkan pengalaman atau data manusia di masa lalu. Tindakan tersebut sendiri merupakan perpanjangan dan proyeksi dari kemauan dan nilai manusia orang tunggal atau jamak tertentu dari artefak ini memungkinkan lebih banyak orang untuk mengambil tanggung jawab atas perilaku kolektif kompleks yang sulit dikendalikan, sehingga dapat menggunakan kecerdasan buatan dengan lebih hati-hati dan rasional.