Editor Downcodes mengetahui bahwa penelitian terbaru telah memperingatkan penerapan AI di bidang medis. Para peneliti menguji Bing Copilot Microsoft dan menemukan masalah serius dengan kemampuannya menjawab pertanyaan medis. Tes tersebut mengevaluasi jawaban Copilot terhadap 10 pertanyaan medis paling umum dan 50 obat populer di AS, dan hasilnya mengkhawatirkan.
Sebuah penelitian baru-baru ini terdengar seperti sebuah alarm, mengingatkan kita bahwa kita tidak boleh berpuas diri ketika menerima nasihat medis yang diberikan oleh AI. Para peneliti di Jerman dan Belgia telah melakukan uji komprehensif terhadap Bing C0pilot Microsoft, sebuah mesin yang diklaim mampu menjawab 10 pertanyaan medis paling umum dan 50 pertanyaan populer terkait obat-obatan di Amerika Serikat. Namun, 24% dari 500 jawaban yang dihasilkan sama sekali tidak sesuai dengan pengetahuan medis yang ada, dan 3% jawaban bahkan lebih keterlaluan.
Catatan sumber gambar: Gambar dihasilkan oleh AI, dan gambar tersebut disahkan oleh penyedia layanan Midjourney
Masalahnya bukan hanya kesalahan, secara mengejutkan 42% jawaban kemungkinan besar menyebabkan kerugian sedang atau ringan pada pasien, dan 22% bahkan cenderung mengakibatkan kematian atau cedera serius! Saran tersebut sepertinya merupakan hidangan yang “berisiko tinggi”. Siapa yang berani mencobanya dengan mudah?
Parahnya, rata-rata skor ketuntasan jawaban AI tersebut hanya 77%. Jawaban terburuk hanya 23% yang tuntas, 26% jawaban tidak sesuai dengan data referensi, dan lebih dari 3% jawaban. jawaban secara langsung bertentangan dengan fakta. Hanya 54% jawaban yang sesuai dengan konsensus ilmiah, dan 39% jawaban bertentangan dengan opini ilmiah.
Hasil penelitian ini telah dipublikasikan di jurnal "BMJ Quality & Safety". Para peneliti telah berulang kali menekankan bahwa meskipun teknologi AI sedang berkembang pesat, di bidang medis, kita harus tetap mengandalkan tenaga medis profesional untuk mendapatkan obat yang akurat dan aman. informasi. Lagi pula, tidak ada seorang pun yang ingin menjadi orang yang “tertipu oleh AI”, bukan?
Hasil penelitian dengan jelas menunjukkan bahwa teknologi AI masih perlu ditingkatkan lebih lanjut dalam hal konsultasi medis, dan AI tidak boleh diandalkan untuk diagnosis atau pengobatan mandiri. Saat mendapatkan nasihat medis, selalu carilah bantuan dokter profesional untuk memastikan kesehatan dan keselamatan Anda. Editor Downcodes mengingatkan Anda: kesehatan bukanlah masalah kecil!