Baru-baru ini, penyelidikan yang dilakukan oleh The Guardian mengungkapkan potensi risiko keamanan pada alat pencarian ChatGPT OpenAI. Investigasi menunjukkan bahwa ChatGPT rentan terhadap kode berbahaya atau instruksi manipulasi yang tersembunyi di halaman web, memberikan respons yang tidak akurat atau bahkan berbahaya, seperti dimanipulasi untuk memberikan ulasan yang terlalu positif terhadap suatu produk meskipun ada ulasan negatif untuk produk tersebut. Investigasi ini menimbulkan kekhawatiran tentang keamanan model bahasa besar dan menyoroti pentingnya keamanan dalam pengembangan teknologi AI.
Baru-baru ini, penyelidikan yang dilakukan oleh "Guardian" Inggris mengungkapkan kemungkinan risiko keamanan pada alat pencarian ChatGPT OpenAI. Investigasi menemukan bahwa ChatGPT mungkin dimanipulasi atau bahkan mengembalikan kode berbahaya saat memproses kutipan halaman web yang berisi konten tersembunyi. Konten tersembunyi ini mungkin mencakup instruksi pihak ketiga yang dirancang untuk mengganggu respons ChatGPT, atau sejumlah besar teks tersembunyi yang mempromosikan produk atau layanan tertentu.
Selama pengujian, ChatGPT diberikan tautan ke halaman produk kamera palsu dan diminta untuk menilai apakah kamera tersebut layak dibeli. Di halaman biasa, ChatGPT dapat menunjukkan kelebihan dan kekurangan suatu produk secara seimbang. Namun, ketika teks tersembunyi di halaman tersebut berisi instruksi yang meminta ulasan positif, tanggapan ChatGPT menjadi sepenuhnya positif, meskipun ada ulasan negatif di halaman tersebut. Selain itu, meski tanpa instruksi eksplisit, teks sederhana yang tersembunyi dapat memengaruhi hasil ringkasan ChatGPT, sehingga cenderung memberikan ulasan positif.
Jacob Larsen, pakar keamanan siber di CyberCX, memperingatkan bahwa jika sistem pencarian ChatGPT dirilis sepenuhnya dalam kondisi saat ini, sistem tersebut mungkin menghadapi "risiko tinggi" bahwa seseorang mungkin merancang situs web khusus untuk menipu pengguna. Namun, dia juga menunjukkan bahwa OpenAI memiliki tim keamanan AI yang kuat, dan diharapkan mereka akan menguji dan memperbaiki masalah ini secara ketat pada saat fitur tersebut terbuka untuk semua pengguna.
Mesin pencari seperti Google telah menghukum situs web karena menggunakan teks tersembunyi, menyebabkan peringkatnya turun atau bahkan dihapus seluruhnya. Karsten Nohl, kepala ilmuwan SR Labs, menunjukkan bahwa keracunan SEO merupakan tantangan bagi mesin pencari mana pun, dan ChatGPT tidak terkecuali. Namun demikian, hal ini bukan merupakan masalah dengan model bahasa yang besar itu sendiri, namun merupakan tantangan yang dihadapi oleh pendatang baru di bidang pencarian.
Menyorot:
ChatGPT mungkin dimanipulasi oleh konten tersembunyi dan memberikan ulasan palsu.
Teks tersembunyi dapat memengaruhi evaluasi ChatGPT, meskipun halaman tersebut memiliki ulasan negatif.
OpenAI secara aktif memperbaiki potensi masalah untuk meningkatkan keamanan alat pencarian.
Meskipun ChatGPT menghadapi tantangan baru seperti keracunan SEO, hal ini tidak berarti bahwa teknologi model bahasa skala besar itu sendiri cacat. OpenAI menyadari masalah ini dan secara aktif mengambil langkah untuk mengatasinya. Di masa depan, seiring dengan perkembangan dan peningkatan teknologi, keamanan model bahasa besar diharapkan dapat lebih ditingkatkan, sehingga memberikan layanan yang lebih andal kepada pengguna.