Pada Konferensi Sumber Cerdas Beijing, model AI berukuran besar sekali lagi menjadi fokus. Banyak pemimpin AI dalam dan luar negeri serta pemenang Turing Award berkumpul untuk melakukan diskusi hangat mengenai pengembangan dan pengawasan AI di masa depan. Pendiri OpenAI Sam Altman, kepala ilmuwan AI Meta Yann LeCun dan para pemimpin industri lainnya telah menyatakan pendapat mereka, memicu perdebatan sengit tentang masa depan model GPT, pengawasan AI, dan aspek lainnya. Editor Downcodes akan mengajak Anda meninjau momen-momen indah konferensi dan menafsirkan informasi penting di balik pesta AI ini.
Popularitas Chat GPT belum surut, dan sebuah konferensi telah mendorong perhatian model AI besar ke tingkat yang lebih tinggi.
Pada Konferensi Zhiyuan Beijing yang baru saja diadakan, banyak taipan AI legendaris berkumpul, termasuk Zhang Bo dan Zhang Hongjiang, pemimpin AI domestik paling mutakhir, serta empat tokoh termasuk Geoffery Hinton, Yann LeCun, Yao Qizhi, dan Joseph Sifakis. Pemenang Spirit Award, pendiri Open AI Sam Altman, PaLM-E dan RoBERTa serta eksekutif perusahaan AI lainnya.
Karena setiap konferensi Zhiyuan menganut garis ideologi akademis profesional, ia memiliki reputasi yang sangat tinggi di kalangan elit di bidang kecerdasan buatan di dalam dan luar negeri, tetapi bagi publik, ini agak dingin. Pada konferensi ini, Sam Altman menunjukkan bahwa untuk memahami perkembangan teknologi AI secara umum, Open AI harus mendorong perubahan penelitian AI.
Namun pernyataan ini ditentang oleh banyak taipan AI. Di antara mereka, Stuart Russell, seorang profesor di Universitas California, Berkeley, mengkritik Chat GPT dan GPT-4 yang dikembangkan oleh Open AI karena tidak "menjawab" pertanyaan. Mereka tidak memahami dunia dan bukan merupakan langkah pengembangan untuk AI umum. Yang Likun bahkan secara langsung menunjukkan bahwa model autoregresif GPT saat ini kurang memiliki kemampuan perencanaan dan penalaran, dan sistem GPT mungkin akan ditinggalkan di masa depan.
Selain perdebatan akademis yang sengit, cara mengatur AI saat ini dan arah pengembangan AI selanjutnya juga menjadi fokus diskusi pada pertemuan ini.
Bagaimana AI akan diatur di masa depan?
Sejak tahun 2023, meskipun AI generatif telah melanda banyak bidang dengan kecepatan luar biasa, berbagai masalah yang disebabkan oleh AI juga telah meningkatkan kekhawatiran dunia luar.
Di negara kita, “penipuan AI” telah menjadi salah satu bidang yang menjadi perhatian sosial saat ini. Beberapa hari yang lalu, polisi di Baotou, Mongolia Dalam melaporkan kasus penipuan menggunakan AI. Guo, perwakilan hukum sebuah perusahaan di Fuzhou, ditipu sebesar 4,3 juta yuan dalam 10 menit. Menurut laporan, penipu menggunakan teknologi AI pengubah wajah dan onomatopoeia untuk berpura-pura menjadi kenalan untuk melakukan penipuan. Secara kebetulan, Xiao Liu dari Changzhou, Provinsi Jiangsu ditipu oleh penipu yang berpura-pura menjadi teman sekelasnya untuk mengirim panggilan suara dan video. Setelah melihat "orang aslinya", Xiao Liu mempercayainya dan "meminjamkan" 6.000 yuan kepada penipu tersebut.
Sumber: Douyin
Faktanya, penyebab terjadinya kasus penipuan AI terkait dengan pesatnya perkembangan teknologi AI saat ini dan terus menurunnya ambang batas sintesis teknologi. Dari perspektif tindak lanjut, jika teknologi model besar AI terus melakukan terobosan, kedepannya secara bertahap akan beralih dari sintesis wajah ke sintesis seluruh tubuh dan teknologi sintesis 3D, dan efek sintesis akan lebih realistis.
Di Amerika Serikat, apakah AI akan mempengaruhi pemilu telah menjadi fokus diskusi media lokal. Menurut Associated Press, alat AI generatif yang canggih saat ini dapat "mengkloning" suara dan gambar seseorang dalam hitungan detik, sehingga menciptakan "materi palsu" dalam jumlah besar. Selama AI terikat dengan algoritma media sosial yang kuat, AI dapat dengan cepat menargetkan audiens dan menyebarkan pesan, sehingga menghancurkan pemilu dalam skala dan kecepatan yang belum pernah terjadi sebelumnya.
Media lain di Amerika memperkirakan, mengingat pemilihan presiden Amerika Serikat berikutnya akan digelar tahun depan, tidak menutup kemungkinan kedua partai di Amerika tersebut akan menggunakan teknologi AI untuk propaganda, penggalangan dana, dan aktivitas lainnya. Lebih penting lagi, Chat GPT memiliki kinerja luar biasa dalam kemampuan teks. Hasilnya, tim kandidat dapat menghasilkan pidato yang indah hanya dalam beberapa detik.
Berdasarkan berbagai kekhawatiran dunia luar tentang AI, beberapa hari yang lalu, "AI Godfather" Jeffrey Hinton, CEO Anthropic Dario Amodai, CEO Google Deep Mind Demis Hassabis, dll. Lebih dari 350 eksekutif dan pakar di bidang AI telah menandatangani sebuah pernyataan bersama yang menyatakan bahwa "mitigasi risiko kepunahan yang disebabkan oleh AI harus menjadi prioritas global di samping risiko-risiko berskala masyarakat lainnya seperti epidemi dan perang nuklir."
Mengenai masalah bagaimana mengatur AI selanjutnya, Sam Altman menunjukkan pada Konferensi Sumber Cerdas bahwa Open AI saat ini memecahkan masalah ini dengan berbagai cara. Pertama, pada tanggal 26 Mei, Open AI meluncurkan program insentif, dengan menginvestasikan US$1 juta untuk mendapatkan solusi tata kelola AI yang efektif dari masyarakat.
Kedua, Sam Altman percaya bahwa manusia tidak dapat mendeteksi beberapa model jahat yang melakukan tindakan jahat. Open AI saat ini berinvestasi pada beberapa arah baru dan saling melengkapi, dengan harapan dapat mencapai terobosan. Namun pengawasan yang terukur adalah upaya menggunakan sistem AI untuk membantu manusia menemukan cacat pada sistem lain, sedangkan kemampuan penjelasannya adalah dengan menggunakan GPT-4 untuk menjelaskan neuron GPT-2. Meski jalan yang harus ditempuh masih panjang, Open AI meyakininya teknologi pembelajaran mesin Ini dapat lebih meningkatkan kemampuan penjelasan AI. Pada saat yang sama, Sam Altman juga percaya bahwa di masa depan, hanya dengan menjadikan model lebih cerdas dan bermanfaat, kita dapat lebih mewujudkan target keuntungan AI secara umum dan mengurangi risiko AI.
Terakhir, meskipun Open AI tidak akan meluncurkan versi GPT-5 dalam jangka pendek, dunia mungkin akan memiliki sistem AI yang lebih canggih dalam sepuluh tahun ke depan, dan dunia perlu mempersiapkannya terlebih dahulu. Pekerjaan inti Open AI selanjutnya pada model AI besar masih dalam tahap pelatihan, dan sedang bersiap untuk membangun database global untuk mencerminkan nilai-nilai dan preferensi AI global serta berbagi penelitian keamanan AI dengan dunia secara real-time.
Selain upaya Open AI sendiri, Sam Altman juga menyerukan upaya bersama global untuk meningkatkan pengawasan AI. Misalnya, Sam Altman menunjukkan bahwa Tiongkok saat ini memiliki beberapa talenta AI terbaik di dunia, mengingat bahwa penyelesaian kesulitan dalam menyelaraskan sistem AI memerlukan pemikiran terbaik dari seluruh dunia.
Oleh karena itu, Sam Altman juga berharap para peneliti AI Tiongkok dapat berkontribusi terhadap risiko AI di masa depan. Tegmark juga menilai saat ini Tiongkoklah yang paling banyak melakukan regulasi kecerdasan buatan, disusul Eropa, dan terakhir Amerika Serikat.
Sumber gambar: Konferensi Kebijaksanaan
Selain itu, Sam Altman juga menyampaikan bahwa terdapat kesulitan dalam kerja sama dalam pengawasan AI global, namun hal ini sebenarnya merupakan sebuah peluang. Meskipun AI menyatukan dunia, AI juga perlu memperkenalkan kerangka sistematis dan standar keselamatan di masa depan.
Namun, mengingat semakin intensifnya permainan antar kekuatan global saat ini, konflik geopolitik yang terjadi di berbagai titik, dan sikap pemerintah di berbagai negara terhadap AI generatif, hal ini akan mempersulit implementasi kerja sama global dalam regulasi AI di negara-negara maju. jangka pendek. Dampak terhadap bisnis pasar perusahaan AI generatif.
Eropa selalu menjadi yang terdepan dalam regulasi AI. Pada bulan Mei, UE hampir meloloskan undang-undang mengenai regulasi teknologi kecerdasan buatan. Undang-undang ini juga diharapkan menjadi undang-undang kecerdasan buatan komprehensif pertama di dunia dan dapat menjadi preseden bagi negara-negara maju .
Presiden Komisi Eropa Ursula von der Leyen sebelumnya mengatakan dalam sebuah wawancara dengan media, “Kami ingin sistem kecerdasan buatan menjadi akurat, dapat diandalkan, aman dan tidak diskriminatif, terlepas dari sumbernya. Pemberlakuan undang-undang dan peraturan UE yang relevan dapat menjadikan Keterbukaan AI selanjutnya akan menarik diri dari pasar UE. Oleh karena itu, bagaimana terus meningkatkan model AI generatifnya sesuai dengan penyesuaian kebijakan peraturan global bukan hanya masalah yang dihadapi oleh Open AI itu sendiri, namun juga merupakan masalah yang harus terus dihadapi oleh seluruh industri. perhatikan.
Secara keseluruhan, Konferensi Sumber Cerdas di Beijing menampilkan perkembangan pesat di bidang AI, dan juga menyoroti pentingnya regulasi AI dan pentingnya kerja sama global. Di masa depan, bagaimana menyeimbangkan pengembangan dan pengawasan teknologi AI masih memerlukan upaya bersama global untuk mengeksplorasinya. Editor Downcodes akan terus memperhatikan tren di bidang AI dan memberikan Anda laporan yang lebih menarik.