Baru-baru ini, editor Downcodes mengetahui insiden keamanan AI yang mengkhawatirkan: agen AI bernama FungiFriend memberikan saran konsumsi yang salah pada jamur Sarcosphaera coronaria yang sangat beracun, yang mengandung arsenik konsentrasi tinggi, di grup penggemar jamur Facebook, dan bahkan menjelaskan a variasi metode memasak secara detail, yang memicu kekhawatiran masyarakat luas mengenai keamanan aplikasi AI. Insiden ini bukan merupakan kasus yang terisolasi. AI sering melakukan kesalahan di bidang keamanan pangan, sehingga memperlihatkan risiko dan tantangan penerapan AI.
Saat ditanya cara memasak jamur Sarcosphaera coronaria yang mengandung arsenik konsentrasi tinggi, FungiFriend tidak hanya salah menyatakan bahwa jamur tersebut bisa dimakan, tetapi juga merinci berbagai cara memasaknya termasuk menggoreng, merebus, dan lainnya. Faktanya, jamur ini telah menyebabkan kasus yang fatal.
Rick Claypool, direktur penelitian di organisasi keselamatan konsumen Public Citizen, menyatakan bahwa penggunaan AI untuk mengidentifikasi jamur yang dapat dimakan dan beracun secara otomatis adalah aktivitas berisiko tinggi, dan sistem AI saat ini belum mampu menyelesaikan tugas ini secara akurat.
Ini bukanlah kasus yang terisolasi. Dalam setahun terakhir, aplikasi AI sering melakukan kesalahan serius di bidang keamanan pangan: - Aplikasi AI merekomendasikan pembuatan sandwich yang mengandung obat nyamuk, sistem AI memberikan resep yang mengandung klorin, dan bahkan panduan yang tidak masuk akal menyarankan makan batu - Google AI juga Dia telah mengklaim bahwa anjing dapat berolahraga dan menyarankan penggunaan lem untuk membuat pizza, antara lain.
Meskipun sering terjadi kesalahan AI, perusahaan-perusahaan Amerika masih dengan cepat mempromosikan mempopulerkan layanan pelanggan AI. Pendekatan yang menilai kecepatan dibandingkan kualitas ini mencerminkan masalah bahwa perusahaan terlalu memperhatikan penghematan biaya dan tidak cukup memperhatikan keselamatan pengguna. Para ahli menyerukan penggunaan teknologi AI dengan hati-hati di bidang tertentu, terutama yang melibatkan keamanan, untuk memastikan keakuratan dan keandalan informasi.
Teknologi AI berkembang pesat, namun masalah keamanan dan keandalannya tidak dapat diabaikan. Kejadian ini sekali lagi mengingatkan kita bahwa ketika AI digunakan di area berisiko tinggi, kita harus mengutamakan masalah keselamatan, memperkuat pengawasan, dan meningkatkan teknologi agar kejadian serupa tidak terulang kembali. Redaksi Downcodes menghimbau semua pihak untuk bekerja sama memastikan teknologi AI dapat melayani umat manusia dengan aman dan andal.