Sebuah studi baru dari Tow Center for Digital Journalism di Universitas Columbia mengungkapkan masalah serius dengan kutipan sumber berita ChatGPT. Peneliti menguji 200 kutipan berita dari 20 penerbit dan menemukan bahwa hingga 76,5% kutipan ChatGPT mengandung kesalahan atau kesalahan parsial, dan jarang mengakui informasi yang hilang. Studi ini telah menimbulkan kekhawatiran tentang keandalan layanan pencarian kecerdasan buatan dan menimbulkan pertanyaan tentang keamanan aplikasi kecerdasan buatan di bidang penyebaran berita. Kesimpulannya memiliki implikasi peringatan yang penting bagi media berita dan perusahaan kecerdasan buatan.
Penelitian baru dari Tow Center for Digital Journalism di Universitas Columbia membunyikan alarm bagi layanan pencarian kecerdasan buatan. Penelitian menunjukkan bahwa ChatGPT memiliki masalah akurasi yang serius ketika mengutip sumber berita, bahkan untuk penerbit yang bekerja secara langsung dengan OpenAI. Tim peneliti melakukan tes komprehensif terhadap 200 kutipan berita dari 20 penerbit berbeda, dan hasilnya mengejutkan: Dalam 153 kasus, ChatGPT memiliki informasi sumber yang salah atau sebagian salah. Yang lebih mengkhawatirkan lagi, sistem tersebut jarang secara proaktif mengakui bahwa informasi tersebut hilang, dan hanya mengakui dalam tujuh kali percobaan bahwa sistem tersebut tidak dapat menemukan sumbernya.
Para peneliti menunjukkan bahwa untuk menjaga pengalaman pengguna, ChatGPT lebih memilih mengarang jawaban daripada mengakui kurangnya informasi. Yang lebih serius adalah sistem ini menyajikan sumber-sumber palsu ini dengan keyakinan yang meresahkan, dan tidak menunjukkan ketidakpastian sama sekali. Bahkan penerbit terkenal seperti New York Post dan The Atlantic, yang memiliki kemitraan langsung dengan OpenAI, pun tidak kebal terhadap masalah ini. Dalam beberapa kasus, ChatGPT bahkan tertaut ke situs web yang menyalin seluruh artikel tanpa izin, bukan sumber aslinya.
Pemimpin Redaksi Tinjauan Teknologi MIT Matt Honan mengomentari hal ini: "Sebagai penerbit, ini jelas bukan situasi yang ingin kami lihat, dan solusi yang tersedia saat ini sangat terbatas."
OpenAI relatif berhati-hati dalam menanggapi temuan yang mengkhawatirkan ini. Perusahaan menekankan bahwa ChatGPT melayani 250 juta pengguna setiap minggunya dan mengatakan pihaknya bekerja sama dengan mitra untuk meningkatkan akurasi kutipan.
Kesimpulan akhir studi ini jelas: saat ini, penerbit tidak memiliki jaminan bahwa ChatGPT Search akan menampilkan konten mereka secara akurat, terlepas dari apakah mereka bermitra dengan OpenAI. Penemuan ini tidak diragukan lagi akan mendorong diskusi lebih lanjut dan peningkatan keandalan informasi kecerdasan buatan.
Temuan ini serius dan menyoroti pentingnya pemikiran kritis dan pengecekan fakta ketika mengandalkan teknologi kecerdasan buatan untuk mendapatkan informasi. Ke depan, pengawasan dan penyempurnaan model kecerdasan buatan perlu lebih diperkuat untuk memastikan informasi yang diberikan akurat dan dapat diandalkan serta menghindari menyesatkan masyarakat.