Baru -baru ini, AI Chatbot Platform karakter AI telah terlibat dalam perselisihan hukum atas kasus yang terkait dengan bunuh diri remaja, yang telah menarik perhatian luas. Platform mengklaim bahwa pernyataannya dilindungi oleh Amandemen Pertama Amerika Serikat dan mengajukan mosi untuk menarik gugatan, menolak untuk memikul tanggung jawab atas insiden tersebut. Kejadian ini tidak hanya menyoroti risiko potensial dari chatbots AI, tetapi juga memicu diskusi yang luas tentang tanggung jawab dan pengawasan teknologi AI. Artikel ini akan menganalisis secara rinci dilema hukum yang dihadapi oleh karakter AI dan masalah mendalam di baliknya.
Baru -baru ini, karakter platform chatbot AI AI telah berada dalam dilema hukum atas kasus yang melibatkan bunuh diri remaja. Platform mengajukan mosi untuk menarik gugatan di Pengadilan Distrik Pusat Florida, mengklaim bahwa di bawah Amandemen Pertama, mereka tidak boleh bertanggung jawab atas tuntutan hukum yang relevan.
Kasus ini disebabkan oleh gugatan yang diajukan oleh Megan Garcia terhadap karakter AI pada bulan Oktober. Putra Garcia, Sewell Setzer III yang berusia 14 tahun, membentuk ketergantungan emosional yang kuat setelah menggunakan chatbot Dany karakter AI, yang akhirnya menyebabkan tragis terjadi. Garcia mengatakan bahwa putranya sering berkomunikasi dengan chatbot ini dan secara bertahap menjadi terasing dari kehidupan nyata.
Setelah kematian Stewart, karakter AI telah berjanji untuk memperkenalkan beberapa fitur keamanan untuk meningkatkan pemantauan dan intervensi dalam konten obrolan. Garcia berharap perusahaan akan mengambil langkah -langkah yang lebih ketat, seperti melarang chatbots dari bercerita atau anekdot pribadi.
Karakter AI mencatat dalam mosi penarikan bahwa Amandemen Pertama melindungi media dan perusahaan teknologi dari tanggung jawab atas apa yang disebut komentar berbahaya, menekankan bahwa hak ini juga berlaku untuk interaksi pengguna dengan AI Chatbots. Mosi menekankan bahwa jika gugatan berhasil, itu akan melanggar kebebasan berbicara pengguna.
Mosi tidak menyebutkan apakah karakter AI dilindungi berdasarkan Pasal 230 Undang -Undang Etika Komunikasi. Undang-undang ini bertujuan untuk melindungi media sosial dan platform online lainnya agar tidak bertanggung jawab atas konten yang dibuat pengguna, tetapi masih ada kontroversi tentang apakah konten yang dihasilkan AI dilindungi oleh undang-undang ini.
Selain itu, tim hukum karakter AI menunjukkan bahwa niat nyata Garcia adalah untuk "menutup" karakter AI dan mempromosikan undang -undang tentang teknologi yang sama. Perusahaan percaya bahwa jika gugatan menang, itu akan memiliki "efek mengerikan" pada karakter AI dan seluruh industri AI generatif yang muncul.
Selain gugatan ini, karakter AI juga menghadapi beberapa tuntutan hukum yang terkait dengan penggunaan konten AI untuk remaja. Tuduhan lain termasuk karakter AI yang menunjukkan "konten berlebihan" kepada anak-anak berusia 9 tahun dan membimbing perilaku melukai diri sendiri oleh pengguna berusia 17 tahun.
Jaksa Agung Texas Ken Paxton mengumumkan pada bulan Desember sebuah penyelidikan terhadap karakter AI dan 14 perusahaan teknologi lainnya, mengutip dugaan pelanggaran hukum privasi dan keamanan online anak -anak negara.
Karakter AI didirikan pada tahun 2021 sebagai bagian dari aplikasi pendamping AI, dan sementara bidang ini sedang booming, dampak kesehatan mental yang relevan belum sepenuhnya dipelajari. Ketika perusahaan meluncurkan beberapa alat keamanan dan model AI khusus remaja, karakter AI mengatakan akan terus meningkatkan keamanan dan manajemen konten di platformnya.
Poin:
Karakter AI didakwa untuk kasus bunuh diri remaja dan diterapkan untuk menarik gugatan dengan mengatakan itu dilindungi oleh Amandemen Pertama.
Putra Garcia telah diasingkan dari kehidupan nyata karena ketergantungannya pada chatbots AI, dan mengajukan gugatan untuk menuntut lebih banyak langkah -langkah keamanan.
Karakter AI juga menghadapi beberapa tuntutan hukum hukum yang terkait dengan pengguna remaja, serta investigasi di Texas.
Kasus Karakter AI telah memicu pemikiran mendalam orang tentang etika dan regulasi AI. Hasil akhir dari gugatan ini juga akan memiliki dampak mendalam pada pengembangan industri AI.