Fitur ringkasan berita AI baru dari Apple telah menimbulkan kontroversi besar karena seringnya kesalahan informasi. Fitur ini dirancang untuk memberikan informasi berita yang mudah digunakan kepada pengguna, namun fitur ini banyak dikritik karena salah merangkum laporan dari BBC dan New York Times. Organisasi kebebasan pers internasional Reporters Without Borders bahkan secara terbuka meminta Apple untuk segera menarik fitur ini karena dianggap menyebarkan informasi palsu, merusak kredibilitas media, dan mengancam hak publik untuk memperoleh informasi yang dapat dipercaya. Insiden ini juga menyoroti tantangan dan risiko yang dihadapi oleh teknologi AI yang sedang berkembang di bidang komunikasi berita, serta kesulitan yang dihadapi organisasi media dalam menghadapi teknologi yang berkembang pesat.
Fitur kecerdasan buatan yang baru-baru ini diluncurkan oleh Apple telah menarik perhatian dan kontroversi luas. Fitur ini dirancang untuk memberikan ringkasan berita kepada pengguna, tetapi telah dikritik karena informasi yang salah. Organisasi kebebasan pers internasional Reporters Without Borders secara terbuka meminta Apple untuk segera menarik fitur tersebut setelah mereka salah merangkum laporan BBC dalam pemberitahuan kepada pengguna.
Secara khusus, sistem AI Apple secara keliru menyatakan bahwa Luigi Manchione, tersangka yang diduga membunuh CEO UnitedHealthcare, telah melakukan bunuh diri. Namun, BBC tidak menyebutkan hal ini dalam laporan aslinya. BBC menyatakan telah menghubungi Apple mengenai masalah ini dan berharap dapat menyelesaikan masalah tersebut secepatnya, namun belum memastikan apakah Apple telah menanggapi hal tersebut.
Vincent Bertier, direktur teknologi dan berita di Reporters Without Borders, mengatakan bahwa Apple harus bertanggung jawab atas insiden tersebut dan menarik fitur ini pada waktu yang tepat. Ia mencontohkan, kecerdasan buatan hanyalah mesin probabilitas dan tidak bisa begitu saja menilai fakta melalui seleksi acak. Ia menegaskan, misinformasi yang dihasilkan secara otomatis tidak hanya merusak kredibilitas media, tetapi juga mengancam hak masyarakat untuk memperoleh informasi yang dapat dipercaya.
Selain itu, organisasi tersebut juga menyatakan keprihatinannya terhadap risiko yang ditimbulkan oleh munculnya alat kecerdasan buatan terhadap media, dan percaya bahwa teknologi AI saat ini masih belum matang dan tidak boleh digunakan untuk menyebarkan informasi publik.
Sebagai tanggapan, BBC mengatakan bahwa sangat penting untuk memastikan bahwa masyarakat mempercayai informasi dan berita yang dipublikasikan, dan bahwa semua konten, termasuk pemberitahuan push, harus benar dan dapat dipercaya.
Apple meluncurkan alat AI generatif di Amerika Serikat pada bulan Juni tahun ini, menggembar-gemborkan kemampuannya untuk meringkas konten tertentu dalam paragraf, poin-poin, atau tabel yang ringkas. Fitur ini dirancang untuk membantu pengguna memperoleh informasi berita dengan lebih nyaman. Pengguna dapat memilih untuk menerima pemberitahuan push terpusat tersebut di perangkat iPhone, iPad, dan Mac. Namun, sejak fitur tersebut diluncurkan secara resmi pada akhir Oktober, pengguna menemukan bahwa fitur tersebut juga salah dalam merangkum laporan New York Times yang mengklaim bahwa Perdana Menteri Israel Benjamin Netanyahu telah ditangkap, padahal sebenarnya hanya Pengadilan Kriminal Internasional yang mengeluarkan surat perintah penangkapan. dia.
Tantangan dalam insiden ini adalah organisasi berita tidak memiliki kendali atas konten ringkasan Apple AI. Meskipun beberapa penerbit telah memilih untuk menggunakan AI untuk membantu penulisan artikel, hal ini merupakan kebijaksanaan mereka. Namun ringkasan Apple AI diterbitkan atas nama organisasi penerbitan, yang tidak hanya menyebarkan potensi misinformasi tetapi juga membahayakan kredibilitas media.
Apple tidak menanggapi insiden tersebut, dan kontroversi mengenai kemampuan AI juga mencerminkan tantangan yang dihadapi industri penerbitan berita dalam lingkungan teknologi yang berubah dengan cepat. Sejak peluncuran ChatGPT, beberapa raksasa teknologi telah meluncurkan model bahasa berskala besar mereka sendiri, dan banyak model dituduh menggunakan konten berhak cipta, termasuk laporan berita, selama pelatihan. Meskipun beberapa organisasi media telah mengambil tindakan hukum, organisasi lain, seperti Axel Springer, telah memilih untuk mencapai perjanjian lisensi dengan pengembang terkait.
Highlight:
Fitur AI baru Apple telah banyak dikritik karena kesalahan positifnya.
Reporters Without Borders meminta Apple untuk menarik fitur ini, menekankan bahwa teknologi AI tidak boleh digunakan untuk merangkum berita.
BBC mengatakan sangat penting untuk memastikan kredibilitas informasi tersebut dan pihaknya telah menghubungi Apple mengenai masalah ini.
Insiden ini memicu diskusi luas mengenai masalah etika dan keamanan teknologi kecerdasan buatan yang digunakan dalam bidang komunikasi berita. Hal ini juga memperingatkan perusahaan-perusahaan teknologi agar mereka berhati-hati ketika mengembangkan dan menerapkan teknologi AI untuk menghindari penyebaran informasi palsu dan menjaga kepentingan publik. Respons Apple terhadap insiden ini dan bagaimana mereka meningkatkan kemampuan AI-nya di masa depan akan diawasi dengan ketat.