Memastikan bahwa kecerdasan buatan aman, andal, dan terkendali akan kondusif bagi kemajuan peradaban manusia dan merupakan masalah penting yang harus diselesaikan untuk pengembangan kecerdasan buatan. "Keputusan" Sidang Pleno Ketiga Komite Sentral Partai Komunis Tiongkok ke-20 membuat pengaturan penting seperti "menetapkan sistem pengawasan keselamatan kecerdasan buatan" dan "meningkatkan mekanisme pengembangan dan pengelolaan kecerdasan buatan generatif". Bagaimana cara memperkuat tata kelola kecerdasan buatan, secara efektif mencegah dan menyelesaikan berbagai risiko keamanan yang ditimbulkan oleh pengembangan kecerdasan buatan, dan terus meningkatkan pelembagaan dan legalisasi pengawasan keselamatan kecerdasan buatan? Edisi akademik ini berfokus pada isu-isu tersebut.
Sekretaris Jenderal Xi Jinping menyatakan: "Kecerdasan buatan adalah kekuatan pendorong penting bagi babak baru revolusi ilmu pengetahuan dan teknologi serta transformasi industri, dan akan berdampak besar pada pembangunan ekonomi dan sosial global serta kemajuan peradaban manusia." kecerdasan mengacu pada generasi kecerdasan buatan berdasarkan algoritma, model, dan aturan. Teknologi untuk teks, gambar, suara, video, kode, dan konten lainnya. Didukung oleh data yang sangat besar dan daya komputasi yang kuat, kecerdasan buatan generatif yang dapat memahami, berbicara, dan berinteraksi dengan cepat ditingkatkan secara berulang-ulang, menunjukkan karakteristik seperti interaktivitas yang baik, keserbagunaan yang tinggi, dan generativitas yang cerdas, serta dapat diterapkan pada semua lapisan masyarakat telah membentuk koneksi yang lebih kaku, berfrekuensi tinggi, ada di mana-mana, dan mendalam, yang juga mengarah pada potensi risiko yang semakin nyata. "Keputusan" Sidang Pleno Ketiga Komite Sentral Partai Komunis Tiongkok ke-20 secara ilmiah memahami hukum dan karakteristik pengembangan kecerdasan buatan, dan mengusulkan "pembentukan sistem pengawasan keselamatan kecerdasan buatan" dan "meningkatkan pengembangan dan mekanisme manajemen kecerdasan buatan generatif", yang mencerminkan kebutuhan akan pembangunan dan keselamatan yang terkoordinasi dengan lebih baik. Ini merupakan kebutuhan obyektif untuk menunjukkan jalan ke depan untuk mendorong kemajuan teknologi, pengembangan industri dan keamanan di bidang kecerdasan buatan.
Teknis pengoperasian kecerdasan buatan generatif dapat dibagi menjadi tiga tahap, yaitu tahap persiapan pelatihan prapembelajaran dan peningkatan algoritma berbantuan anotasi manual, tahap perhitungan penginputan data untuk pemrosesan algoritma guna memperoleh produk yang dihasilkan, dan tahap perhitungan. produk yang memasuki masyarakat untuk digunakan. Kita harus menganalisis secara mendalam mekanisme operasi kecerdasan buatan generatif, memahami karakteristik pembentukan dan perkembangan risiko keamanan di setiap tahap, menggunakan cara-cara hukum untuk memperkuat tata kelola yang sistemik, dan memastikan bahwa kekuatan besar yang terkandung dalam kecerdasan buatan generatif selalu berperan. dalam jalur supremasi hukum.
Pada tahap persiapan kecerdasan buatan generatif, risiko keamanan data cenderung sering terjadi dan lebih menonjol. Kecerdasan buatan generatif menyaring informasi dan memprediksi tren melalui pelatihan data, pemrosesan dan analisis data. Hal ini memerlukan klasifikasi data yang tepat dan penetapan pola pemanfaatan serta metode perlindungan untuk berbagai jenis data agar dapat merespons dengan tepat risiko keamanan data yang relevan dan menghindari penggunaan ilegal atau pengungkapan data yang tidak tepat, yang mengakibatkan perselisihan pelanggaran. Misalnya, data pemerintah yang dihasilkan selama proses pemrosesan pemerintah merupakan elemen inti dari pemerintahan digital. Untuk menarik kesimpulan yang relatif akurat, kecerdasan buatan generatif mengumpulkan dan menganalisis data pemerintah. Aturan hukum untuk perolehan dan pemanfaatan data pemerintah melalui kecerdasan buatan generatif harus diperjelas, yang tidak hanya memenuhi kebutuhan penggunaan data pemerintah untuk melayani masyarakat, tetapi juga sangat mendukung pengembangan, pelatihan, dan penerapan model besar pemerintah dengan kecerdasan buatan. layanan, dan meningkatkan tingkat kecerdasan layanan publik dan tata kelola sosial; dan Menstandarkan metode pemrosesannya untuk mencegah hasil yang diperoleh dari penggunaan data pemerintah melanggar hak pribadi dan mengganggu ketertiban sosial dan publik. Untuk data pribadi, kecerdasan buatan generatif mengeksplorasi nilai potensialnya melalui analisis gabungan, dan pengumpulan serta pemanfaatan data pribadi serta hasilnya dapat melanggar hak-hak sipil. Dalam praktiknya, kecerdasan buatan generatif cenderung mengumpulkan data pribadi secara berlebihan untuk meningkatkan keakuratan kesimpulan, misalnya dengan menganalisis data medis dan kesehatan untuk mengetahui keberadaan pribadi dan memprediksi lintasan kehidupan pribadi. Untuk mencapai tujuan ini, kita harus bersikeras melakukan pengumpulan sesuai dengan hukum, mengumpulkan data pribadi sesuai dengan cakupan minimum yang disyaratkan oleh teknologi, menetapkan kedalaman pemrosesan data yang wajar, dan menghindari eksploitasi informasi potensial secara berlebihan. Singkatnya, persyaratan pengawasan keamanan data rahasia dan hierarkis harus dimasukkan dalam tahap persiapan kecerdasan buatan generatif untuk mencegah risiko keamanan data berkembang menjadi konsekuensi kerusakan hukum tertentu.
Dalam tahap komputasi kecerdasan buatan generatif, risiko bias algoritmik yang melekat pada model kecerdasan buatan yang besar patut diwaspadai. Kecerdasan buatan generatif terutama menganalisis dan memproses data melalui model algoritma. Berbeda dari model algoritme tradisional, kecerdasan buatan generatif tidak hanya melakukan pembelajaran mesin, tetapi juga menggunakan sejumlah besar anotasi manual untuk mengoreksi kesimpulan pembelajaran mesin dan mendorong evolusi kecerdasan buatan. Namun, "pembelajaran mesin + anotasi manual" sebagai inti dari teknologi algoritme juga akan membuat kemauan dan preferensi manusia memiliki dampak yang lebih besar dibandingkan pembelajaran mesin murni. Pengaruh preferensi pribadi ditumpangkan pada bias model algoritma itu sendiri, yang akan melipatgandakan efek negatif dari bias algoritmik, membuat terjadinya bias algoritmik lebih sulit dilacak dan dicegah. Untuk mencegah dan mengatasi risiko bias algoritmik, tata kelola yang ditargetkan harus dilakukan berdasarkan prinsip dan lokasi terjadinya bias algoritmik. Persyaratan peraturan hukum perlu ditanamkan secara mendalam ke dalam model algoritme kecerdasan buatan generatif, mempromosikan teknologi untuk kebaikan, menghilangkan bias algoritme, memastikan penggunaan rasional algoritme kecerdasan buatan generatif, dan mengalokasikan sumber daya komputasi. Berdasarkan konsep penggabungan teknologi dan manajemen, kami akan memperkuat pengawasan keselamatan siklus penuh terhadap algoritma dan menerapkan persyaratan peraturan hukum ke dalam seluruh proses operasi kecerdasan buatan generatif. Pada awal penyiapan algoritme, perlu mengikuti aturan hukum dan standar teknis yang relevan, menerapkan persyaratan normatif "pembelajaran mesin + anotasi manual", meninjau modul algoritme berisiko, dan menemukan risiko teknis dengan lebih baik dalam algoritme kecerdasan buatan generatif model; ketika ditemukan Ketika bias algoritmik bawaan terjadi, maka diwajibkan oleh hukum untuk menghilangkan bias algoritmik bawaan dari dalam algoritma kecerdasan buatan generatif. Melakukan koreksi untuk memastikan bahwa algoritme yang dimodifikasi dapat berjalan normal ketika masalah muncul setelahnya, menelusuri sumber algoritme kecerdasan buatan untuk mencapai atribusi dan koreksi yang tepat, mendorong peningkatan standar pengawasan algoritme untuk kecerdasan buatan generatif, dan mengisi kesenjangan sebelumnya tinjauan preventif Sarana teknis dan hukum yang tidak memadai harus digunakan secara paralel untuk mencapai penekanan yang sama pada pembangunan dan pengelolaan.
Pada tahap pembangkitan kecerdasan buatan generatif terdapat berbagai risiko seperti risiko kekayaan intelektual terkait produk yang dihasilkan dan risiko penyalahgunaan produk yang dihasilkan. Karena kecerdasan buatan generatif sangat cerdas, ia dapat mewujudkan kompilasi konten otomatis, pemolesan cerdas, konversi multi-modal, dan generasi kreatif, yang secara langsung mengubah metode produksi dan model pasokan konten. Dibandingkan dengan sistem kecerdasan buatan sebelumnya, telah terjadi perubahan subversif telah menimbulkan masalah seperti kepemilikan hak kekayaan intelektual dan perlindungan kekayaan intelektual atas produk yang dihasilkan dari kecerdasan buatan generatif. Beberapa orang percaya bahwa produk kecerdasan buatan generatif adalah kesimpulan dari algoritma data, yang pada dasarnya adalah perhitungan dan peniruan, bukan hasil kerja intelektual, dan tidak dapat menjadi objek hak kekayaan intelektual. Penentangnya percaya bahwa kecerdasan buatan generatif mensimulasikan struktur jaringan saraf otak manusia untuk memperoleh dan mengeluarkan data, serta mengontrol desain dan produksinya sendiri melalui jaringan saraf konvolusional. Pada saat yang sama, kecerdasan buatan generatif juga meningkatkan risiko perselisihan kekayaan intelektual dan kesulitan perlindungan. Beberapa produk yang dihasilkan mungkin berisi konten yang melanggar hak kekayaan intelektual pihak lain, atau mungkin dikemas menjadi karya asli dengan hak kekayaan intelektual lengkap. melalui pemrosesan dan cara lain, yang memicu perselisihan hak kekayaan intelektual. Untuk menyelesaikan masalah terkait secara tepat waktu, model teknis dan prinsip teknis kecerdasan buatan generatif harus dianalisis secara substantif sesuai dengan standar undang-undang kekayaan intelektual. Jika teknologi memerlukan campur tangan kemauan manusia untuk memungkinkan produk yang dihasilkan menghasilkan orisinalitas dan inovasi, hak kekayaan intelektual harus diberikan Dan memperjelas kepemilikannya dan memperkuat perlindungan sistematis hak kekayaan intelektual di bidang kecerdasan buatan generatif pada saat yang sama, perlu untuk menentukan secara wajar ruang lingkup perlindungan intelektual yang dihasilkan; hak milik untuk menghindari perluasan cakupan perlindungan yang tidak terbatas dan menghambat promosi, penerapan, dan pengembangan teknologi kecerdasan buatan generatif. Pengelolaan risiko penyalahgunaan produk juga perlu diperkuat. Misalnya, karya-karya tersebut diharuskan untuk secara jelas mengidentifikasi peran kecerdasan buatan generatif dalam ciptaan penulis, dan pengawasan yang tepat dan normal terhadap pemalsuan mendalam, pengubah wajah AI, dan produk-produk lain yang dihasilkan yang mungkin melibatkan kejahatan ilegal akan diperkuat, dll.
Kecerdasan buatan generatif memiliki banyak dampak yang tersebar luas dalam penerapan sosial. Selain risiko-risiko yang disebutkan di atas, terdapat banyak jenis risiko lainnya, seperti memperburuk asimetri informasi, memperlebar kesenjangan digital, dan merugikan kepentingan kelompok yang kurang beruntung secara digital. Respons harus dibuat berdasarkan kondisi aktual untuk meminimalkan dampak negatif teknologi baru terhadap pembangunan sosial.
Sekretaris Jenderal Xi Jinping menekankan: "Mematuhi orientasi pada masyarakat dan kebijaksanaan demi kebaikan." Saat ini, teknologi kecerdasan buatan terus berubah dari hari ke hari, yang tidak hanya mengubah produksi dan gaya hidup masyarakat secara signifikan, mempercepat proses pembangunan ekonomi dan sosial, namun juga berdampak pada norma hukum, etika moral, tata kelola publik, dan lain-lain. Diantaranya, ancaman terhadap privasi dan keamanan informasi pribadi merupakan isu penting yang patut mendapat perhatian. "Keputusan" Sidang Pleno Ketiga Komite Sentral Partai Komunis Tiongkok ke-20 membuat pengaturan penting untuk "membangun sistem pengawasan keselamatan kecerdasan buatan." Melindungi hak privasi dan keamanan informasi pribadi merupakan bagian integral dari pengawasan keselamatan kecerdasan buatan . Perlindungan privasi di era kecerdasan buatan harus diperkuat untuk menjamin keamanan informasi pribadi.
Di era kecerdasan buatan, hak privasi menghadapi tantangan berat. Privasi mengacu pada kedamaian kehidupan pribadi dan ruang pribadi seseorang, aktivitas pribadi, dan informasi pribadi yang dia tidak ingin orang lain mengetahuinya. KUH Perdata menetapkan: "Setiap orang berhak atas privasi. Tidak ada organisasi atau individu yang boleh melanggar hak privasi orang lain dengan cara memata-matai, mengganggu, membocorkan, mengungkapkan, dll." Hak atas privasi, sebagai elemen inti dari hak kepribadian, merupakan landasan penting untuk membangun martabat pribadi. Tidak diungkapkan dan tidak diketahui adalah tuntutan inti dari hak privasi. Saat ini, kecerdasan buatan secara diam-diam terlibat dalam semua aspek produksi dan kehidupan manusia, sehingga menghasilkan banyak skenario penerapan seperti perawatan medis cerdas, transportasi cerdas, dan rekomendasi cerdas. Hindari masalah pelanggaran privasi. Misalnya, mengumpulkan dan menggunakan informasi pribadi secara ilegal, menggunakan dan menganalisis informasi pribadi ini untuk sering mendorong apa yang disebut "iklan presisi" yang "dipersonalisasi", membocorkan informasi pribadi kepada pihak ketiga, menyebabkan kehidupan pribadi sering diserang oleh informasi spam; informasi untuk melakukan "data besar" "membunuh keakraban" untuk mencapai diskriminasi harga yang tepat atas "satu pelanggan, satu harga", Warga negara menderita kerugian harta benda; informasi pribadi yang tidak peka diidentifikasi kembali, data bocor karena tindakan perlindungan yang tidak tepat, pembelian dan penjualan informasi pribadi secara ilegal adalah hal biasa, dan keamanan informasi pribadi dilanggar; Mengubah wajah AI, dll. berarti melakukan tindakan ilegal dan kriminal seperti penipuan, dll. Hal ini menunjukkan bahwa pelanggaran hak privasi tidak hanya melanggar martabat pribadi warga negara, namun juga menimbulkan konsekuensi sosial serius lainnya.
Deprivatisasi fitur teknis memperburuk risiko keamanan informasi pribadi. Pada awal penerapan kecerdasan buatan berbasis big data, banyak orang yang memandang teknologi baru ini dengan sikap wait and see dan skeptis. Ketika kecerdasan buatan terus meningkatkan pengalaman produk dan perasaan psikologis pengguna melalui bentuk eksternal antropomorfik, penyediaan layanan yang dipersonalisasi, dan proses interaktif yang mendalam, semakin banyak orang secara bertahap menjadi pengguna setia kecerdasan buatan dan menikmati segala macam kemudahan yang dibawa oleh kecerdasan buatan. Anda. Dengan mempopulerkan teknologi IoT untuk interaksi manusia-komputer dan interkoneksi segala hal, skenario penerapan kecerdasan buatan seperti rumah pintar, kantor pintar, pabrik pintar, dan mengemudi cerdas juga terus berkembang ruang digital dalam bentuk manusia digital. , dan juga tanpa sadar mengirimkan informasi pribadi ke kecerdasan buatan. Jejak apa pun yang ditinggalkan oleh individu di ruang digital akan didigitalkan untuk membentuk informasi pribadi dan memainkan fungsi penting sebagai “media untuk terhubung dengan dunia” bagi masyarakat. Pada saat yang sama, kecerdasan buatan juga cenderung mengumpulkan dan menggunakan informasi pribadi secara berlebihan untuk meningkatkan kualitas layanan. Semua ini menjadikan kecerdasan buatan memiliki karakteristik teknis deprivatisasi yang khas. Hal ini juga terjadi dalam aliran informasi pribadi yang biasa dilakukan oleh pengguna kecerdasan buatan, dimana data besar yang bercampur dengan data publik dan data pribadi ditambang, diintegrasikan, dianalisis, dan dimanfaatkan hak telah dilanggar dan informasi pribadi telah dilanggar.
Hormati pilihan individu dan tegaskan persetujuan berdasarkan informasi. Setiap orang memiliki tingkat penerimaan yang berbeda terhadap informasi pribadi yang diketahui dan digunakan. Keinginan individu harus dihormati dan prinsip "persetujuan berdasarkan informasi" harus diterapkan secara ilmiah dan rasional. Prinsip informed consent mencakup dua aspek yaitu informed consent dan persetujuan harus diinformasikan. Tanpa pengetahuan dan pemahaman penuh, tidak akan ada persetujuan yang sebenarnya. Informasi, pemahaman dan kesukarelaan adalah tiga elemen dari prinsip informed consent. Atas dasar “informasi” yang lengkap, individu dapat secara mandiri menyatakan “persetujuannya”. Hal ini memerlukan pemberian instruksi yang mudah dipahami dan jelas ketika pengguna menggunakan kecerdasan buatan, dan mendapatkan persetujuan pengguna terhadap pengumpulan dan penggunaan informasi pribadi. Jika informasi pribadi akan mengalir antar platform yang berbeda, pengguna perlu diberi tahu tentang cakupan, target, dan batasan penggunaan aliran tersebut. Untuk pengalaman pengguna yang baik dan lancar, pengguna juga dapat diberikan opsi otorisasi sekaligus atau bertahap. Pengguna harus diberitahu mengenai ruang lingkup, metode dan tujuan pengumpulan informasi pribadi dan kepada siapa informasi pribadi dibagikan, dan pengguna juga harus dapat memilih untuk tidak ikut serta kapan saja. Saat menganalisis informasi pribadi, pengguna harus diminta untuk memperhatikan dan memberi otorisasi secara real time melalui jendela pop-up atau formulir lainnya. Mengatur siklus hidup data dan menghapus informasi pribadi tepat waktu juga merupakan cara efektif untuk melindungi keamanan informasi pribadi.
Meningkatkan sarana teknis untuk memastikan intelijen demi kebaikan. Untuk permasalahan yang disebabkan oleh teknologi, kita harus pandai dalam menetapkan ide pemecahan masalah dari sudut pandang teknis. Di era kecerdasan buatan, hak privasi menghadapi tantangan, dan pemicu langsungnya adalah evolusi teknologi. Dari kecerdasan buatan analitis hingga kecerdasan buatan generatif, setiap peningkatan teknologi kecerdasan buatan yang berulang dapat membawa dampak baru pada hak privasi. Oleh karena itu, solusi teknis harus ditempatkan pada posisi kunci, dan firewall yang melindungi hak privasi dan keamanan informasi pribadi harus dibangun dengan meningkatkan keamanan basis data, enkripsi data inti, desensitisasi data pribadi, dan teknologi lainnya. Informasi pribadi umumnya melewati tiga tahap pengumpulan, penyimpanan, dan penggunaan, dan ketiga tahap ini mungkin melibatkan risiko pelanggaran hak privasi dan keamanan informasi pribadi. Perlindungan teknis yang efektif harus dilakukan sesuai dengan situasi informasi pribadi yang berbeda pada tahapan yang berbeda. Pada tahap pengumpulan informasi pribadi, perkuat promosi dan penerapan teknologi anonimisasi. Meskipun pengumpulan informasi pribadi tidak dapat dihindari, selama informasi tersebut dianonimkan dan tidak sesuai dengan informasi pribadi dengan identitas, hak privasi tidak akan dilanggar. Pada tahap penyimpanan informasi pribadi, teknologi enkripsi harus ditingkatkan. Saat ini, ada dua cara utama penyimpanan data: penyimpanan database dan penyimpanan cloud. Intrusi dan pencurian dari luar serta pengamatan, penggunaan, dan kebocoran yang tidak sah oleh orang dalam merupakan ancaman utama terhadap keamanan informasi pribadi selama tahap penyimpanan. Penting untuk memperkuat enkripsi data dan mengontrol secara ketat hak akses data. Selama tahap penggunaan informasi pribadi, secara teknis perlu untuk memperkuat intervensi, interferensi, dan pemblokiran penggunaan ilegal informasi pribadi secara real-time, sehingga dapat menambahkan lapisan perlindungan tambahan terhadap hak privasi dan keamanan informasi pribadi.
Seiring dengan semakin disempurnakannya aturan hukum negara saya dan perlindungannya terus diperkuat, khususnya KUH Perdata dan Undang-Undang Perlindungan Informasi Pribadi, yang memiliki ketentuan rinci tentang hak privasi dan perlindungan informasi pribadi, memperjelas batasan hak dan kewajiban dalam aktivitas pemrosesan informasi pribadi. , negara saya di era kecerdasan buatan Perlindungan hukum atas hak privasi dan keamanan informasi pribadi pasti akan mencapai tingkat yang lebih tinggi, memberikan perlindungan hukum yang kuat untuk perkembangan kecerdasan buatan yang sehat dan memberikan manfaat yang lebih baik bagi masyarakat.
Makmurnya ilmu pengetahuan dan teknologi akan membuat bangsa menjadi sejahtera, dan ilmu pengetahuan dan teknologi yang kuat akan membuat negara menjadi kuat. Sejak Kongres Nasional Partai Komunis Tiongkok ke-18, negara saya sangat mementingkan pengembangan kecerdasan buatan, secara aktif mempromosikan integrasi mendalam antara Internet, data besar, kecerdasan buatan dan ekonomi riil, mengembangkan dan memperluas industri cerdas, mempercepat pengembangan kekuatan produktif baru, dan memberikan momentum baru bagi pembangunan berkualitas tinggi. Sekretaris Jenderal Xi Jinping menekankan: "Kita harus mematuhi kesatuan dalam mendorong pembangunan dan pengelolaan sesuai hukum, tidak hanya dengan penuh semangat mengembangkan teknologi baru dan aplikasi baru seperti kecerdasan buatan, Internet of Things, dan jaringan komunikasi generasi mendatang, tetapi juga juga secara aktif menggunakan undang-undang, peraturan, dan standar untuk memandu penerapan teknologi baru." Penjelasan penting Sekretaris Jenderal Xi Jinping memberikan kepatuhan mendasar dan panduan tindakan untuk pengembangan kecerdasan buatan di negara kita. Untuk mengembangkan kecerdasan buatan secara giat dan meningkatkan tingkat tata kelola keselamatan kecerdasan buatan, kita harus sepenuhnya melaksanakan penerapan penting "pembentukan sistem pengawasan keselamatan kecerdasan buatan" yang diusulkan oleh "Keputusan" Sidang Pleno Ketiga Komite Sentral ke-20 Komite Sentral ke-20. Partai Komunis Tiongkok, dan secara akurat memahami perkembangan Tren kecerdasan buatan, dengan fokus pada teknologi kecerdasan buatan mutakhir serta risiko dan tantangan yang ditimbulkannya, memperkuat pemikiran berwawasan ke depan, dan terus mengeksplorasi solusi inovatif untuk tata kelola kecerdasan buatan.
Saat ini, kecerdasan buatan generatif telah menciptakan paradigma baru interaksi manusia-komputer. Dengan kemampuan interaksi, pemahaman, dan pembangkitan yang kuat, kecerdasan buatan generatif telah mengembangkan model bahasa alami berskala besar sebagai komponen inti, yang mengintegrasikan memori, perencanaan, dan penggunaan alat. kemampuan untuk memahami dan bertindak. Kemampuan agen buatan membuka prospek yang luas. Kecerdasan buatan telah menjadi arah penelitian mutakhir yang paling penting dalam bidang kecerdasan buatan secara umum dan merupakan jalur baru yang bersaing untuk dikembangkan oleh perusahaan-perusahaan teknologi. Ia menggunakan model bahasa alami yang besar sebagai "mesin cerdas" dan memiliki karakteristik otonomi, kemampuan beradaptasi, dan interaktivitas. Ini dapat secara signifikan meningkatkan efisiensi produksi, meningkatkan pengalaman pengguna, memberikan dukungan keputusan di luar kemampuan manusia, dan dapat diterapkan pada pengembangan perangkat lunak dan penelitian ilmiah. dan skenario kehidupan nyata lainnya. Meskipun komersialisasi skala besar masih dalam tahap eksplorasi dan inkubasi awal, tren seperti integrasi virtual dan nyata serta interaksi mendalam manusia-komputer yang diwakili oleh kecerdasan buatan memiliki arti penting bagi pembangunan ekonomi dan sosial. Namun, karena keterbatasan teknis, agen buatan juga dapat menimbulkan risiko dan kekhawatiran yang kompleks, dinamis, dan tidak terduga.
Dari sudut pandang logika desain, kecerdasan buatan perlu memperoleh kemampuan kognitif melalui ujung kontrol, memperoleh dan memanfaatkan informasi dari lingkungan sekitar melalui ujung penginderaan, dan akhirnya menjadi sistem cerdas yang merasakan dan bertindak berdasarkan entitas fisik dalam tindakan tersebut. akhir.
Di sisi kontrol, model bahasa alami berskala besar berfungsi sebagai "otak" dari tubuh buatan, yang membentuk pengetahuan dengan mempelajari data dalam jumlah besar dan merupakan modul memori dalam sistem kendali tubuh buatan dan keakuratan konten yang dihasilkan. Misalnya, konten yang dihasilkan oleh model mungkin tidak mengikuti sumber informasi atau tidak sesuai dengan situasi sebenarnya di dunia nyata, sehingga mengakibatkan apa yang disebut "halusinasi mesin"; karena bias manusia dalam data pelatihan, hal ini dapat mempengaruhi pengambilan keputusan yang adil tentang kecerdasan buatan;
Di sisi persepsi, untuk sepenuhnya memahami informasi eksplisit dan implisit dalam situasi tertentu dan secara akurat memahami niat manusia, agen kecerdasan buatan memperluas cakupan persepsi dari teks murni ke bidang multi-modal termasuk mode teks, visual, dan pendengaran. Meskipun hal ini meningkatkan kemampuan pengambilan keputusan, hal ini dapat menyebabkan serangkaian kebocoran privasi dan risiko keamanan data saat mengintegrasikan dan menganalisis data multi-sumber dari saluran dan jenis yang berbeda. Misalnya, penggunaan dan pembagian data biometrik yang sangat personal dan permanen secara tidak benar seperti informasi wajah, sidik jari, dan cetakan suara dapat menimbulkan risiko privasi jangka panjang atau bahkan permanen. Untuk menangani tugas-tugas kompleks dengan lebih baik, sistem multi-agen yang mengerahkan beberapa agen buatan untuk merencanakan, bekerja sama, dan bahkan bersaing untuk menyelesaikan dan meningkatkan kinerja tugas akan menjadi arus utama dan normal. Interaksi sistem dari beberapa agen buatan dapat menyebabkan risiko keamanan sistemik yang tidak terduga. Meskipun masing-masing algoritme tampak aman dan masuk akal saat dijalankan sendiri, kombinasi dan interaksi tersebut masih dapat menghasilkan risiko yang sangat berbeda dan tidak dapat diprediksi yang dapat berkembang dan meningkat dengan cepat. Misalnya, di pasar saham, jika kecerdasan buatan digunakan secara luas dan beberapa algoritme secara otomatis mengidentifikasi perubahan kecil pada harga saham dan secara bersamaan menjalankan sejumlah besar transaksi frekuensi tinggi untuk arbitrase, hal ini dapat memicu insiden keamanan sistemik seperti flash crash. di pasar saham.
Di sisi seluler, agen buatan yang ditempatkan di lingkungan fisik nyata kemungkinan besar akan ditampilkan dalam gambar tiga dimensi dan antropomorfik. Berbeda dari ruang virtual, ruang nyata bergantung pada metode pembelajaran interaktif. Agen kecerdasan buatan memerlukan persepsi informasi yang kaya dan menyeluruh untuk mengamati, belajar, dan bertindak. Melalui kemampuan optimalisasi pembelajaran berbasis umpan balik, hal ini mungkin merupakan pendekatan yang komprehensif dan intrusif terhadap privasi pribadi . Resiko seks dan ketidaktampakan. Misalnya, menafsirkan bahasa tubuh pengguna dan merasakan aktivitas pengguna yang lebih kompleks, serta terus mengumpulkan data secara diam-diam tanpa izin pengguna, dapat menimbulkan risiko keamanan data yang sangat besar ketika terdapat kerentanan keamanan dalam sistem. Selain itu, seiring dengan meningkatnya otonomi kecerdasan buatan, hal ini tidak hanya mengganggu dan memengaruhi kognisi dan emosi manusia, namun juga menantang kemampuan dan status manusia sebagai pengambil keputusan dan aktor independen. Misalnya, beberapa chatbot menghasilkan keluaran yang memengaruhi emosi pengguna selama berinteraksi dengan pengguna, terkadang dengan cara yang negatif dan manipulatif.
Dalam menghadapi risiko dan tantangan yang dibawa oleh agen kecerdasan buatan, agar perilaku agen buatan sesuai dengan niat dan nilai-nilai manusia, perlu untuk mengeksplorasi solusi tata kelola yang inovatif untuk memastikan bahwa sistem pengawasan keselamatan kecerdasan buatan efektif. Perkembangan kecerdasan buatan berada pada masa kritis “dari nol menjadi satu”. Rencana tata kelola harus mampu untuk tetap tidak berubah dalam menanggapi perubahan yang terus berubah, memastikan bahwa pengembangan dan penerapan teknologi selalu berada pada jalur yang terkendali. Pengembangan, pelatihan, penempatan, pengoperasian, dan layanan agen kecerdasan buatan telah mengalami pembagian kerja yang sangat terspesialisasi, sehingga membentuk struktur hierarki yang kompleks. Setiap lapisan memiliki peserta, pemangku kepentingan, dan faktor risiko potensial yang berbeda, sehingga memberikan entitas kecerdasan buatan karakteristik rantai industri "modular". Oleh karena itu, kerangka tata kelola modular dapat dibangun yang mencakup seluruh rantai industri dan setiap lapisan akhir, dan modul tata kelola yang sesuai dirancang mulai dari node utama seperti modul data, modul algoritme, dan arsitektur model. Misalnya, dalam proses penerapan, modul tata kelola yang berbeda dapat dipilih secara fleksibel dan digabungkan secara kolaboratif sesuai dengan karakteristik skenario aplikasi dan mode penerapan untuk membangun solusi tata kelola yang sesuai. Kerangka tata kelola modular menyediakan metode dekomposisi yang dapat dijalankan. Dengan menguraikan tujuan tata kelola ke dalam modul tata kelola yang relatif independen namun digabungkan, kerangka ini secara bertahap mendorong pembentukan sistem tata kelola, yang tidak hanya meningkatkan fleksibilitas dan relevansi tata kelola, namun juga meningkatkan fleksibilitas dan relevansinya. pemerintahan. Negara ini juga dapat beradaptasi dengan perkembangan teknologi yang cepat. Saat membangun modul tata kelola berdasarkan dimensi seperti data, algoritme, model, dan skenario, teknologi harus digunakan untuk memberdayakan pengawasan dan menciptakan alat tata kelola cerdas yang kompatibel dengan kerangka tata kelola modular entitas kecerdasan buatan, sehingga menjembatani dinamika risiko dan ketegangan. antara statika peraturan memungkinkan tata kelola yang tepat terhadap skenario risiko tinggi tertentu.
Penting untuk membangun ekosistem tata kelola interaktif untuk entitas kecerdasan buatan. Agen kecerdasan buatan sangat interaktif, saling berhubungan, dan mudah beradaptasi secara dinamis. Oleh karena itu, metode tata kelola harus melampaui tata kelola tradisional yang berpusat pada individu dan mendorong pembentukan ekosistem tata kelola dengan interkoneksi yang luas, partisipasi multi-partai, dan kolaborasi multi-tingkat. Di antara mereka, komunitas teknis seperti pengembang teknis serta personel operasi dan pemeliharaan akan memainkan peran penting sebagai “pelapor” (whistleblower) dalam tata kelola entitas kecerdasan buatan. Keuntungan pengawasan dari komunitas teknis harus digunakan dengan lebih baik untuk membangun mekanisme pengendalian yang efektif dalam perusahaan kecerdasan buatan. Kita juga harus secara aktif meningkatkan literasi digital sebagian besar pengguna, meningkatkan kesadaran mereka dalam menggunakan kecerdasan buatan dengan cara yang sah, aman dan bertanggung jawab, mencapai interaksi positif dengan kecerdasan buatan, dan mendorong pembentukan kondisi operasional yang baik dan maju.
