Editor Downcodes mengetahui bahwa Microsoft baru-baru ini mengajukan permohonan paten yang bertujuan untuk memecahkan masalah informasi palsu yang dihasilkan oleh kecerdasan buatan. Permohonan paten bertajuk "Menggunakan Pengetahuan Eksternal dan Umpan Balik untuk Berinteraksi dengan Model Bahasa" telah diajukan ke Kantor Paten dan Merek Dagang Amerika Serikat (USPTO) tahun lalu dan dipublikasikan pada tanggal 31 Oktober. Paten tersebut mengusulkan "Response Augmentation System" (RAS), yang bertujuan untuk meningkatkan akurasi dan keandalan jawaban model AI serta mengurangi terjadinya "halusinasi" AI. Teknologi ini tidak memerlukan penyesuaian rumit terhadap model yang ada, dan secara efektif meningkatkan kualitas jawaban AI dengan menggabungkan sumber informasi eksternal dan umpan balik pengguna, sehingga mengurangi timbulnya informasi palsu.
Baru-baru ini, Microsoft mengajukan permohonan paten yang bertujuan untuk mengurangi atau menghilangkan informasi palsu yang dihasilkan oleh kecerdasan buatan melalui metode teknis. Paten tersebut, bertajuk "Berinteraksi dengan Model Bahasa Menggunakan Pengetahuan dan Umpan Balik Eksternal," telah diserahkan ke Kantor Paten dan Merek Dagang Amerika Serikat (USPTO) tahun lalu dan dipublikasikan pada 31 Oktober.
Inti dari proposal ini adalah untuk menyediakan model AI dengan “sistem augmentasi respons” (RAS) yang dapat secara otomatis mengekstrak lebih banyak informasi berdasarkan pertanyaan pengguna dan memeriksa “validitas” jawaban mereka.
Secara khusus, sistem peningkatan respons mampu mengidentifikasi apakah informasi dari "sumber luar" dapat menjawab pertanyaan pengguna dengan lebih baik. Jika jawaban AI tidak menyertakan informasi ini, sistem akan menilainya tidak cukup berguna. Selain itu, RAS juga dapat menanyakan kepada pengguna jika terdapat kekurangan pada jawaban mereka, dan pengguna juga dapat memberikan umpan balik mengenai hal tersebut. Keuntungan pendekatan ini adalah tidak mengharuskan pengembang atau perusahaan melakukan penyesuaian mendetail terhadap model yang sudah ada.
Saat ini website USPTO belum menampilkan nomor paten atas permohonan tersebut, artinya paten tersebut masih dalam tahap peninjauan. Kami menghubungi Microsoft untuk mempelajari lebih lanjut, termasuk apakah paten tersebut terkait dengan alat yang diumumkan sebelumnya oleh Microsoft untuk mengurangi ilusi AI - Alat Keamanan Konten Azure AI. Alat ini menyediakan verifikasi berbasis AI untuk chatbot AI perusahaan. Alat ini dapat memeriksa fakta di latar belakang untuk menentukan apakah jawaban AI "tidak berdasar" atau "berdasar" dan hanya memberikan jawaban yang didukung oleh data aktual sebelum memberikan jawaban kepada pengguna. menjawab.
Masalah ilusi AI adalah salah satu tantangan terbesar yang dihadapi AI generatif, yang berdampak serius pada kredibilitas chatbot AI. Dalam hal ini, sistem AI Google dan Twitter telah melakukan kesalahan besar, seperti menyarankan agar pengguna menempelkan pizza atau memakan batu, dan bahkan menyebarkan disinformasi pemilu. CEO Apple Tim Cook pun mengakui bahwa teknologi pintar Apple juga tidak mampu menghindari masalah halusinasi. Baru-baru ini, alat transkripsi audio “Whisper” OpenAI juga ditemukan sering mengalami halusinasi, sehingga menarik perhatian pada penggunaannya di rumah sakit AS.
Meskipun terdapat masalah halusinasi AI yang menonjol, raksasa teknologi masih memiliki permintaan yang kuat terhadap pusat data AI, dan perusahaan-perusahaan termasuk Google, Microsoft, dan Meta sedang mempertimbangkan energi nuklir sebagai solusi potensial untuk memenuhi kebutuhan konsumsi energi AI yang tinggi.
Langkah Microsoft ini dimaksudkan untuk meningkatkan keandalan model AI dan mengurangi penyebaran informasi palsu, yang sangat penting bagi pengembangan dan penerapan teknologi AI. Di masa depan, kami berharap paten ini berhasil lolos peninjauan dan akhirnya digunakan dalam produk sebenarnya untuk memberikan pengalaman AI yang lebih aman dan andal kepada pengguna.