Pesatnya perkembangan AI generatif tidak hanya membawa kemudahan, namun juga menimbulkan masalah penyebaran informasi palsu. Untuk mengatasi masalah ini, Microsoft telah meluncurkan alat baru yang disebut Koreksi, yang dirancang untuk memperbaiki kesalahan informasi dalam konten yang dihasilkan AI. Editor Downcodes akan membawa Anda untuk memiliki pemahaman mendalam tentang prinsip, aplikasi, dan tantangan alat ini.
Saat ini, dengan pesatnya perkembangan kecerdasan buatan, meskipun AI generatif telah membawa banyak kemudahan, informasi palsu yang dihasilkannya juga menjadi masalah yang tidak dapat diabaikan. Menanggapi tantangan ini, raksasa teknologi Microsoft baru-baru ini meluncurkan alat baru bernama Koreksi, yang dirancang untuk mengoreksi informasi palsu dalam konten yang dihasilkan AI.
Koreksi saat ini sedang dalam pratinjau sebagai bagian dari API Keamanan Konten Azure AI Microsoft. Alat ini secara otomatis menandai teks yang berpotensi salah, seperti ringkasan pendapatan kuartalan perusahaan yang salah mengutip, dan membandingkannya dengan sumber yang kredibel untuk memperbaiki kesalahan tersebut. Khususnya, teknologi ini berfungsi di semua model AI generasi teks, termasuk Llama Meta dan GPT-4 OpenAI.
Juru bicara Microsoft mengatakan bahwa Koreksi memastikan bahwa konten yang dihasilkan konsisten dengan dokumen nyata dengan menggabungkan model bahasa kecil dengan model bahasa besar. Mereka berharap fitur baru ini akan membantu pengembang di bidang seperti medis meningkatkan akurasi respons.
Namun, para ahli berhati-hati. Os Keyes, seorang mahasiswa doktoral di Universitas Washington, percaya bahwa mencoba menghilangkan ilusi yang dihasilkan oleh AI adalah seperti mencoba menghilangkan hidrogen dari air, yang merupakan bagian mendasar dari cara kerja teknologi. Faktanya, model pembuatan teks menghasilkan informasi yang salah karena sebenarnya tidak mengetahui apa pun dan hanya menebak-nebak berdasarkan set pelatihan. Sebuah studi menemukan bahwa ChatGPT OpenAI memiliki tingkat kesalahan hingga 50% saat menjawab pertanyaan medis.
Solusi Microsoft adalah mengidentifikasi dan memperbaiki informasi palsu ini melalui sepasang metamodel pengeditan yang direferensikan silang. Model klasifikasi mencari kemungkinan kesalahan, fragmen teks fiktif atau tidak relevan, dan jika terdeteksi, model bahasa kedua diperkenalkan untuk mencoba memperbaikinya berdasarkan dokumen spesifik yang mendasarinya.
Meskipun Microsoft mengklaim bahwa Koreksi dapat secara signifikan meningkatkan keandalan dan kepercayaan konten yang dihasilkan AI, para ahli masih meragukannya. Mike Cook, peneliti di Queen Mary University, menunjukkan bahwa meskipun Koreksi berfungsi seperti yang diiklankan, hal ini dapat memperburuk masalah kepercayaan dan kemampuan menjelaskan dalam AI. Layanan ini mungkin membuai pengguna dalam rasa aman yang salah, sehingga membuat mereka percaya bahwa model tersebut lebih akurat daripada yang sebenarnya.
Perlu disebutkan bahwa Microsoft juga memiliki perhitungan bisnis tersembunyi saat meluncurkan Koreksi. Meskipun fitur ini gratis, terdapat batas penggunaan bulanan untuk kemampuan deteksi dokumen dasar yang diperlukan untuk mendeteksi disinformasi, dan penggunaan tambahan apa pun akan dikenakan biaya.
Microsoft jelas berada di bawah tekanan untuk membuktikan nilai investasi AI-nya. Perusahaan ini menghabiskan hampir $19 miliar untuk belanja modal dan peralatan terkait AI pada kuartal kedua tahun ini, namun sejauh ini hanya menghasilkan sedikit pendapatan dari AI. Baru-baru ini, beberapa analis Wall Street menurunkan peringkat saham Microsoft, mempertanyakan kelayakan strategi AI jangka panjangnya.
Potensi risiko akurasi dan disinformasi telah menjadi salah satu kekhawatiran terbesar bagi dunia usaha ketika menguji coba alat AI. Cook menyimpulkan bahwa jika ini adalah siklus hidup produk yang normal, AI generatif masih harus berada dalam tahap penelitian dan pengembangan akademis untuk terus meningkatkan dan memahami kekuatan dan kelemahannya. Namun, kami telah menerapkannya di berbagai industri.
Alat Koreksi Microsoft tidak diragukan lagi merupakan upaya untuk memecahkan masalah disinformasi AI, namun apakah alat tersebut benar-benar dapat memecahkan krisis kepercayaan terhadap AI generatif masih harus dilihat. Meskipun teknologi AI berkembang pesat, bagaimana menyeimbangkan inovasi dan risiko akan menjadi isu penting yang dihadapi seluruh industri.
Secara keseluruhan, kemunculan alat Koreksi Microsoft menandai meningkatnya perhatian industri terhadap masalah informasi palsu AI, namun hal ini juga memicu pemikiran mendalam tentang kredibilitas dan model bisnis AI. Di masa depan, bagaimana memanfaatkan teknologi AI dengan lebih baik sambil mengendalikan risikonya secara efektif akan menjadi tantangan besar yang dihadapi semua orang.