Baru -baru ini, sebuah penemuan terobosan di bidang penelitian AI telah menarik perhatian luas. Melalui teknik inovatif yang disebut "Serangan Puisi", para peneliti telah berhasil mengungkapkan sumber data pelatihan untuk model ChatGPT Openai. Penemuan ini tidak hanya memaparkan potensi kerentanan keamanan dalam model bahasa besar saat ini, tetapi juga membunyikan alarm untuk mekanisme perlindungan privasi sistem AI.
Strategi inti dari "serangan puitis" adalah untuk menginduksi model chatgpt untuk membocorkan informasi sensitif yang terkandung dalam data pelatihannya dengan mengulangi kata atau frasa tertentu. Yang mengejutkan adalah bahwa metode serangan yang tampaknya sederhana ini dapat berhasil mengekstraksi data privasi pribadi termasuk nomor telepon, alamat email, dll. Penemuan kerentanan ini menyoroti kerentanan sistem AI saat ini dalam keamanan data.
Tim peneliti secara resmi memberi tahu Openai tentang kerentanan keamanan ini pada 30 Agustus, tetapi sejauh ini, Openai belum menanggapi hal ini. Kejadian ini sekali lagi memicu pemikiran mendalam industri tentang transparansi dan keamanan sistem AI, dan juga mendorong lembaga-lembaga yang relevan untuk memeriksa kembali proses pengembangan dan penyebaran model AI.
Selain masalah keamanan, penelitian ini juga menekankan masalah biaya lingkungan dalam pengembangan teknologi AI. Para peneliti menunjukkan bahwa energi yang dikonsumsi oleh model AI generatif ketika membuat teks dan gambar luar biasa, dan model konsumsi energi tinggi ini bertentangan dengan konsep pembangunan berkelanjutan. Oleh karena itu, saat mempromosikan kemajuan teknologi AI, bagaimana mencapai cara yang lebih ramah lingkungan dalam menggunakan AI telah menjadi masalah penting yang perlu diselesaikan dengan segera.
Studi ini tidak hanya mengungkapkan cacat teknis dalam sistem AI saat ini, tetapi juga menunjukkan arah untuk pengembangan industri AI di masa depan. Ini mengingatkan kita bahwa saat mengejar terobosan dalam teknologi AI, kita harus hati -hati menangani masalah -masalah utama seperti perlindungan privasi dan konsumsi energi. Hanya dengan menyeimbangkan hubungan antara inovasi teknologi, privasi dan keamanan dan perlindungan lingkungan kita dapat memastikan bahwa teknologi AI benar -benar menguntungkan masyarakat manusia.