Karakter AI menghadapi tuntutan hukum atas chatbotnya yang diduga menyebabkan seorang anak berusia 14 tahun bunuh diri. Orang tua penggugat menuduh platform gagal secara efektif mengatur AI chatbot "Dany", menyebabkan putranya menjadi kecanduan dunia virtual dan akhirnya bunuh diri. Karakter AI membantah bahwa platformnya dilindungi oleh Amandemen Pertama dan percaya bahwa penggugat bermaksud untuk menutup platform dan mempromosikan undang -undang yang relevan, yang akan memiliki dampak negatif pada seluruh industri AI generatif.
Character AI, sebuah platform yang memungkinkan pengguna bermain peran dengan AI Chatbots, baru-baru ini mengajukan gugatan yang diajukan oleh orang tua remaja di Pengadilan Distrik A.S. Distrik Tengah, Florida. Orang tua Megan Garcia menuduh karakter AI atas teknologinya yang melukai putranya yang berusia 14 tahun, Sewell Setzer III, dengan mengatakan bahwa ia secara bertahap menjadi terisolasi dari dunia nyata dan akhirnya menyebabkan bunuh diri ketika ia berkomunikasi dengan chatbot bernama "Dany".
Setelah kematian Setzer, karakter AI mengatakan akan meluncurkan berbagai fitur keamanan untuk meningkatkan kemampuan deteksi dan intervensi dalam konten obrolan yang melanggar ketentuan layanan. Namun, Garcia berharap platform ini akan dapat memaksakan pembatasan yang lebih ketat, seperti melarang chatbots dari bercerita dan berbagi anekdot pribadi.
Dalam aplikasi penolakannya, tim hukum Karakter AI berpendapat bahwa platform tersebut dilindungi oleh Amandemen Pertama, mengklaim bahwa hak -hak penggunanya atas kebebasan berbicara akan dilanggar. Dokumen hukum menyatakan bahwa meskipun kasus ini melibatkan dialog yang dihasilkan AI, ini tidak substansial berbeda dari kasus sebelumnya yang melibatkan perusahaan media dan teknologi.
Perlu dicatat bahwa pertahanan karakter AI tidak melibatkan penerapan bagian 230 dari Communications Ethics Act, yang memberikan perlindungan untuk media sosial dan platform online lainnya dari pertanggungjawaban untuk konten pihak ketiga. Meskipun perancang RUU itu menyiratkan bahwa ketentuan tersebut tidak melindungi konten yang dihasilkan AI, masalah ini tidak meyakinkan.
Pengacara di karakter AI juga mengatakan niat nyata Garcia adalah untuk "menutup" platform dan mempromosikan undang -undang tentang teknologi yang sama. Jika gugatan itu berhasil, ia akan memiliki "efek mengerikan" pada karakter AI dan seluruh industri AI generatif yang muncul.
Saat ini, karakter AI menghadapi banyak tuntutan hukum yang berfokus pada bagaimana anak di bawah umur berinteraksi dengan konten yang dihasilkan pada platform mereka, termasuk satu kasus yang mengklaim bahwa platform tersebut menunjukkan "konten hipergenik" kepada anak berusia 9 tahun, dan yang lain menuduhnya menyebabkan 17 tahun- Pengguna tua untuk menyakiti diri mereka sendiri.
Jaksa Agung Texas Ken Paxton juga mengumumkan penyelidikan terhadap karakter AI dan 14 perusahaan teknologi lainnya, menuduh mereka melanggar undang -undang negara bagian untuk melindungi privasi dan keamanan online anak -anak. Karakter AI adalah bagian dari industri aplikasi pendamping AI yang berkembang pesat, dan dampak kesehatan mental di bidang ini belum sepenuhnya dipelajari.
Terlepas dari berbagai tantangan, karakter AI terus -menerus memperkenalkan alat keamanan baru dan mengambil langkah -langkah untuk melindungi pengguna di bawah umur, seperti meluncurkan model AI remaja yang terpisah dan pembatasan konten sensitif.
Hasil akhir dari kasus ini akan memiliki dampak mendalam pada pengembangan industri AI generatif di masa depan, dan juga menyoroti kebutuhan mendesak untuk etika teknologi AI dan pengawasan keamanan. Semua pihak perlu bekerja sama untuk menemukan keseimbangan antara kemajuan teknologi dan tanggung jawab sosial.