Microsoft baru -baru ini mengajukan aplikasi paten untuk menyelesaikan masalah kecerdasan buatan menghasilkan informasi palsu (halusinasi AI). Aplikasi paten, yang disebut "memasuki pengetahuan eksternal dan umpan balik untuk berinteraksi dengan model bahasa", bertujuan untuk meningkatkan keakuratan dan keandalan model AI melalui mekanisme yang disebut "sistem augmentasi respons" (RAS). Sistem ini dapat secara otomatis mendapatkan lebih banyak informasi dari sumber eksternal, memverifikasi jawaban yang dihasilkan oleh AI, dan meminta pengguna untuk kekurangan potensial, secara efektif mengurangi informasi palsu yang dihasilkan oleh AI. Pengungkapan aplikasi paten ini menandai langkah maju yang penting dalam perjuangan Microsoft melawan masalah halusinasi AI dan mencerminkan kebutuhan mendesak industri untuk menyelesaikan masalah ini.
Baru -baru ini, Microsoft mengajukan aplikasi paten yang bertujuan mengurangi atau menghilangkan informasi palsu yang dihasilkan oleh kecerdasan buatan melalui pendekatan teknis. Paten, berjudul "Menggunakan Pengetahuan Eksternal dan Umpan Balik untuk Berinteraksi Dengan Model Bahasa", diserahkan ke Kantor Paten dan Merek Dagang AS (USPTO) tahun lalu dan diterbitkan pada 31 Oktober. Inti dari proposal ini adalah untuk menyediakan "sistem peningkatan respons" (RAS) untuk model AI, yang memungkinkannya untuk secara otomatis mengekstrak lebih banyak informasi berdasarkan kueri pengguna dan memeriksa "validitas" jawabannya.
Secara khusus, sistem peningkatan respons dapat mengidentifikasi apakah ada informasi dari "sumber eksternal" yang dapat menjawab pertanyaan pengguna dengan lebih baik. Jika jawaban AI tidak berisi informasi ini, sistem akan menentukannya tidak efektif. Selain itu, RAS juga dapat meminta pengguna apakah ada kekurangan dalam jawaban mereka, dan pengguna juga dapat memberikan umpan balik tentang hal ini. Keuntungan dari solusi ini adalah bahwa pengembang atau perusahaan tidak perlu melakukan penyesuaian terperinci untuk model yang ada.
Saat ini, situs web USPTO belum menunjukkan nomor paten untuk aplikasi, yang berarti bahwa paten masih sedang ditinjau. Kami menghubungi Microsoft untuk informasi lebih lanjut, termasuk apakah paten terkait dengan alat keamanan konten AIure AI, alat yang diumumkan sebelumnya untuk mengurangi ilusi AI. Alat ini menyediakan verifikasi yang digerakkan AI untuk chatbots AI perusahaan, yang dapat melakukan verifikasi fakta di latar belakang untuk menentukan apakah jawaban AI "tidak berdasar" atau "didirikan" sebelum memberikan jawaban kepada pengguna, hanya memberikan dukungan data aktual.
Masalah halusinasi AI adalah salah satu tantangan terbesar yang dihadapi AI generatif, yang secara serius mempengaruhi kredibilitas chatbot AI. Dalam hal ini, sistem AI Google dan Twitter telah menghasilkan kesalahan luar biasa, seperti menyarankan pengguna untuk menerapkan lem pada pizza atau makan batu, dan bahkan menyebarkan disinformasi pemilihan. CEO Apple Tim Cook juga mengakui bahwa teknologi pintar Apple tidak dapat menghindari halusinasi. Baru -baru ini, alat transkripsi audio "Whisper" Openai juga telah ditemukan memiliki halusinasi yang sering, yang telah menarik perhatian pada penggunaannya di rumah sakit Amerika.
Terlepas dari masalah ilusi AI yang menonjol, raksasa teknologi masih memiliki permintaan yang kuat untuk pusat data AI, dan perusahaan termasuk Google, Microsoft dan Meta sedang mempertimbangkan tenaga nuklir sebagai solusi potensial untuk memenuhi kebutuhan energi tinggi AI.
Poin -Poin Kunci:
Microsoft telah mengajukan paten baru untuk mengurangi informasi palsu yang dihasilkan oleh AI.
Inti dari paten ini adalah untuk memperkenalkan sistem peningkatan respons untuk model AI untuk secara otomatis mengekstrak lebih banyak informasi.
Terlepas dari masalah halusinasi AI yang serius, permintaan untuk pusat data AI dari perusahaan teknologi tetap kuat.
Pengungkapan aplikasi paten Microsoft menunjukkan bahwa perusahaan teknologi akan terus menginvestasikan lebih banyak upaya dalam menangani masalah halusinasi AI. Di masa depan, sistem AI yang lebih andal dan dapat dipercaya diharapkan muncul, yang akan sangat meningkatkan nilai aplikasi dan pengalaman pengguna teknologi AI.