Era kecerdasan telah memasuki babak baru, dan teknologi baru seperti AI (kecerdasan buatan) mempercepat integrasi dengan berbagai industri di dunia nyata. Pertanyaan yang juga muncul: Ke manakah gelombang AI akan membawa kita? Bagaimana kita harus menghadapi perubahan teknologi?
Pada tanggal 5 hingga 7 September, Konferensi Bund 2024 diadakan di Shanghai. Sebagai konferensi teknologi keuangan dan teknologi mutakhir yang berpengaruh secara global, Konferensi Bund telah membangun jembatan antara teknologi dan humaniora dan telah menjadi jendela penting untuk mengamati penerapan dan perkembangan industri AI Tiongkok.
Agen cerdas Huangshan Scenic Spot secara resmi dirilis, model skala besar iFlytek Spark Medical, tampilan produk Guodun Quantum, Sekolah Keamanan Dunia Maya dari Universitas Sains dan Teknologi Tiongkok adalah salah satu penyelenggara kompetisi pameran Global Deepfake Tantangan Serangan dan Pertahanan... banyak "adegan Anhui" "Elemen Anhui" juga muncul secara bersamaan, menunjukkan kedalaman humanistik dan kehangatan ilmu pengetahuan dan teknologi bersama dengan Konferensi Bund, membuat "semakin maju teknologi, semakin banyak manfaatnya bagi semua orang" terus menjadi kenyataan.
AI yang lebih profesional
Sama seperti mesin uap yang mengubah dunia karena mulai berintegrasi dengan kapal, kereta api, dan mesin tekstil, bidang AI juga mengalami evolusi penting dari "Pertempuran Ratusan Model" menjadi "Aplikasi Industri".
Avatar digital membantu menyelesaikan pekerjaan, komputer otak membantu tidur nyenyak, dan serat otot buatan memberi Anda pelukan hangat... Konferensi Bund adalah demonstrasi nyata dari kegilaan global saat ini dalam industri AI. Para ahli memperkirakan bahwa implementasi industri dalam waktu lima tahun adalah kunci bagi kelanjutan evolusi teknologi model besar.
Seperti kata pepatah, "Serahkan urusan profesional kepada profesional." Kebutuhan setiap orang dan setiap industri adalah unik. Untuk kecerdasan buatan yang memberdayakan ribuan industri, masalah yang lebih profesional mungkin memerlukan AI yang lebih profesional untuk menyelesaikannya.
Oleh karena itu, mempromosikan model besar dari kemampuan umum ke aplikasi yang dipersonalisasi adalah salah satu proposisi inti industri AI.
Pada Konferensi Bund ini, Huangshan Scenic Spot dan Alipay meluncurkan "Huangshan Space Intelligence" dengan konsep layanan "luar angkasa" untuk pertama kalinya, menggunakan model besar Ant Bailing sebagai basis teknisnya "pengawalan AI penuh" di Tiongkok.
Sebagai bentuk produk kecerdasan buatan generatif, agen cerdas adalah arah inti dari aplikasi model besar saat ini, yang memungkinkan model besar mengembangkan "tangan dan kaki". Agen cerdas spasial menggunakan "AOI" (Area of Interest) sebagai organisasi layanan utama dan metode presentasinya. Ketika agen cerdas merasakan bahwa pengguna telah memasuki Area Pemandangan Huangshan, ia akan menggunakan AI untuk menganalisis dan mendorong layanan tersebut. yang paling mungkin dibutuhkan oleh pengguna.
Misalnya, sebelum pengguna membeli tiket, "Huangshan Space Intelligence" akan memberi tahu pengguna tentang suhu tempat pemandangan, rekomendasi pakaian, dan secara cerdas merekomendasikan panduan rute ketika pengguna tiba di pintu masuk tempat pemandangan tersebut, yaitu kode QR tiket akan diambil secara otomatis; ketika pengguna mengenali Ketika pengguna mulai mendaki gunung, setiap tempat pemandangan di sepanjang jalan akan dijelaskan kepada pengguna ketika pengguna mencapai pintu keluar dari tempat pemandangan tersebut, data menarik tentang perjalanan dapat; dihasilkan dengan satu klik. Selain itu, sepeda bersama, layanan ride-hailing online, dan layanan lain yang biasa digunakan selama perjalanan dapat dengan cepat dipanggil dan dibuka.
"Di bawah gelombang pengembangan AI, industri pariwisata budaya juga memulai dan mengalami revolusi teknologi dan skenario yang belum pernah terjadi sebelumnya." Zhang Dehui, ketua Huangshan Tourism Development Co., Ltd., mengatakan bahwa dibandingkan dengan "satu-" tradisional. code tour" dan model "one-machine tour", "Huangshan Scenic Area Intelligent" mengintegrasikan teknologi model besar teknologi, basis pengetahuan wisata budaya, algoritma big data, interaksi suara dan produk aplikasi terkini yang dapat mewujudkan pembelajaran mandiri dan evolusi diri kemajuan dalam pengembangan budaya dan pariwisata." Transformasi digital dalam industri perjalanan telah mengambil langkah revolusioner lainnya.”
Pencerahan dari “Pertanyaan Sains, Teknologi dan Humaniora”
Setiap inovasi teknologi dalam sejarah manusia disertai dengan “kegembiraan” dan “kecemasan”.
Bagaimana cara menghadapi AI yang bersaing memperebutkan pekerjaan dengan manusia? Apakah kemampuan berpikir manusia akan menurun akibat AI? Sejauh mana era “simbiosis manusia-mesin”? Mungkinkah AI melampaui properti alat, memperoleh kesadaran, dan bahkan membangun peradaban AI? … Terlihat dari Sepuluh Pertanyaan Sains, Teknologi, dan Humaniora yang dirilis pada Konferensi Bund bahwa perasaan masyarakat terhadap AI semakin kompleks, dengan banyak kecemasan terhadap teknologi.
Masa depan semakin maju, dan ilmu pengetahuan serta teknologi baik dan indah. Tidak peduli seberapa terobosan teknologi berubah, berorientasi pada manusia selalu menjadi prinsip pertama.
Pada Konferensi Bund, Zhou Jian, seorang pria berusia 24 tahun yang kehilangan lengan kanannya pada usia 12 tahun, menggunakan kecerdasan buatan dan teknologi antarmuka otak-komputer untuk memainkan lagu piano "Big Fish" dengan tangan bioniknya, membiarkan penonton mengungkapkan apresiasinya terhadap perkembangan teknologi untuk melayani umat manusia.
Perlu dicatat bahwa meskipun perubahan teknologi baru membawa skenario baru, bisnis baru, dan pasar baru, perubahan tersebut juga membawa risiko dan tantangan yang belum pernah terjadi sebelumnya dalam hal etika teknologi. Bagaimana cara mendorong perkembangan pesat teknologi AI sekaligus memastikan keamanan, keandalan, dan pengendaliannya, sehingga AI dapat memberikan manfaat bagi masyarakat dengan lebih bertanggung jawab?
Ambil contoh model AI yang besar. Saat ini, model-model besar sedang diterapkan di berbagai industri dengan kecepatan yang semakin cepat. Khususnya, pembentukan kembali industri-industri yang ketat seperti perawatan medis dan keuangan belum pernah terjadi sebelumnya standar dan bidang hubungan etika yang paling kompleks.
Zhao Jinghe, wakil presiden iFlytek Medical Research Institute, berbagi kemajuan penerapan terkini dan eksplorasi etika keselamatan model medis Spark iFlytek di Konferensi Bund. Mengenai masalah yang dihadapi oleh penerapan model besar dalam skenario medis, ia percaya bahwa "masalah utamanya adalah privasi data, hak kekayaan intelektual, dan tanggung jawab moral. Hanya dengan mengizinkan model besar untuk benar-benar menyelesaikan masalah ini kita dapat benar-benar membantu dokter, pasien, penelitian ilmiah dan skenario lainnya." .
“Dalam hal interpretasi undang-undang, tidak hanya perlu mengatur dan membuat undang-undang di tingkat pemerintah untuk memastikan legalitas dan kepatuhan model skala besar; perlindungan, dan mendapatkan otorisasi hak cipta yang diperlukan. Pastikan keadilan dan kepatuhan model sekaligus meningkatkan transparansi dan memperkuat pendidikan publik,” kata Zhao Jinghe.
Sebagai salah satu perusahaan inovasi ilmu pengetahuan dan teknologi penting di Anhui, Guodun Quantum juga memamerkan berbagai produk yang berkaitan dengan keamanan informasi kantor. "Misalnya, headset Bluetooth kami menggabungkan teknologi perlindungan privasi komunikasi suara yang dikembangkan secara independen oleh Guodun Quantum, yang secara efektif dapat melindungi informasi pribadi pengguna selama panggilan, pesan suara, dll., membuat pengguna merasa lebih nyaman selama berkomunikasi." Zhang Rutong, direktur teknis Shield Quantum Solutions, memperkenalkan.
Beberapa ahli lebih optimis tentang bagaimana memastikan bahwa teknologi selalu bermanfaat bagi kesejahteraan manusia. "Banyak masalah yang kita khawatirkan saat ini mungkin bukan masalah yang paling sulit untuk diselesaikan. Tantangan sebenarnya mungkin merupakan masalah yang belum pernah kita bayangkan sebelumnya. Salah satu cara terbaik untuk mencapai masa depan berbasis AI yang kita inginkan adalah dengan terlibat secara aktif, kata futuris Kevin Kelly pada konferensi Bund.
Gunakan AI untuk mengendalikan “penipuan AI”
Dengan pesatnya perkembangan teknologi AI, teknologi deepfake (Deepfake), yang menggunakan algoritma pembelajaran mendalam untuk mensimulasikan dan memalsukan konten audio dan video, telah menjadi semakin matang. Insiden ganas seperti "penipuan yang mengubah wajah AI" yang telah terjadi dalam beberapa tahun terakhir telah memicu minat masyarakat terhadap penerapan teknologi.
Ini mungkin merupakan cara yang efektif untuk menggunakan teknologi AI untuk secara akurat mengidentifikasi dan mencegah risiko "perubahan wajah AI" dan "menggunakan AI untuk mengalahkan AI". Namun, apakah barang palsu yang dibuat oleh AI dapat diidentifikasi oleh AI?
Sebuah kompetisi yang berfokus pada risiko penipuan dari teknologi "AI yang mengubah wajah" memberikan jawabannya. Dalam kompetisi pameran AI Innovation Competition of the Bund Conference dan Global Deepfake Offensive and Defense Challenge, pertanyaan tersebut dipresentasikan bersama oleh School of Cyberspace Security dari University of Science and Technology of China dan Ant Digital Dimensity Laboratory. Para kontestan menggunakan model AI yang mereka pelajari untuk memodifikasi AI.
Dalam image track terdapat 9 gambar yang sulit dibedakan antara benar dan salah dengan mata telanjang, namun para kontestan harus menggunakan model partisipasi mereka sendiri untuk memberikan kemungkinan pemalsuan pada setiap gambar, dan membandingkan kedua foto tersebut dengan gambar. nilai probabilitas tertinggi dengan jawaban yang benar. Di trek video, pemain juga harus menggunakan model AI untuk mengidentifikasi keaslian video.
Perlu dicatat bahwa dalam hal skor kontestan di tempat, pada beberapa pertanyaan yang cukup sulit, hasil dari kedua belah pihak hampir sama, dan tingkat pengakuan pemalsuan hampir di atas 80%. Namun, pada beberapa pertanyaan yang sangat sulit, model tersebut menghasilkan sangat berbeda.
Seseorang di tempat kejadian bertanya: "Mengapa AI tidak bisa sepenuhnya menjawab gambar yang terlihat palsu dengan mata telanjang? Dan gambar yang sulit dibedakan dengan mata telanjang, AI bisa mengenalinya dalam satu detik?"
Dalam hal ini, Zhou Tianyi, kepala ilmuwan Pusat Penelitian Kecerdasan Buatan Frontier dari Badan Sains, Teknologi, dan Penelitian Singapura, percaya bahwa manusia mengandalkan intuisi dan logika untuk menilai apakah suatu gambar itu palsu digantikan dengan wajah aktor film, manusia bisa mengetahuinya secara sekilas. Namun AI tidak rentan terhadap gangguan emosional seperti manusia, dan AI akan menyelesaikan instruksi dengan cermat. Dari perspektif ini, AI “lebih unggul” dibandingkan manusia dalam hal efisiensi dan stabilitas kerja.
Namun, mengembangkan algoritma pendeteksian hanyalah salah satu cara untuk mengekang penyalahgunaan teknologi deepfake. Yao Weibin, salah satu pembuat pertanyaan permainan, mengakui bahwa metode ini relatif tertinggal. Untuk mencegah penipuan dari akar permasalahannya, kita harus mewajibkan pembuatan pengenal universal untuk konten AIGC dari perspektif standar dan undang-undang. Misalnya, setiap video atau gambar yang dihasilkan oleh AIGC harus memiliki tanda tangan atau tanda air di informasi file bahwa manajemen platform memiliki lebih banyak dasar.
“Bagi masyarakat umum, pemalsuan mendalam sekarang sangat mungkin terjadi dan secara bertahap memasuki kehidupan kita, dan bahkan membocorkan privasi orang.” Profesor Zhou Wenbo dari Sekolah Keamanan Dunia Maya, Universitas Sains dan Teknologi Tiongkok, menyarankan untuk tidak melakukannya dengan mudah di tempat umum. Tunjukkan data wajah Anda dan sebisa mungkin hindari kebocoran data wajah. "Seiring dengan kemajuan teknologi sintesis, kita akan semakin tertipu, tetapi selama kita bisa tetap waspada, kita masih dapat memberikan dampak yang besar." Probabilitas tidak dapat dikompromikan oleh penipuan.”