Baru-baru ini, Character.AI, platform obrolan AI yang didukung oleh Google, mengalami kerusakan serius sehingga menimbulkan kekhawatiran luas di kalangan pengguna. Kesalahan tersebut menyebabkan keluaran chatbot menjadi kacau, tercampur dalam berbagai bahasa, dan berisi kata-kata yang membingungkan dan bahkan menjurus ke arah seksual seperti "dildo". Banyak pengguna membagikan tangkapan layar di Reddit yang menunjukkan kata-kata acak dan tidak masuk akal yang dihasilkan AI seperti "Ohio", "matematika", dan kata Slavia "obec". Kegagalan ini bukan pertama kalinya Character.AI mengalami masalah. Pada bulan Desember tahun lalu, platform tersebut mengalami pelanggaran keamanan yang serius, membocorkan catatan obrolan pengguna dan informasi pribadi. Pemadaman ini sekali lagi menimbulkan kekhawatiran tentang keamanan datanya, terutama karena banyak pengguna melakukan percakapan pribadi di platform tersebut.
Seorang pengguna mengatakan percakapan normal menjadi tidak berarti setelah berjam-jam, penuh dengan kata-kata acak dan campuran berbagai bahasa. Tangkapan layar menunjukkan bahwa teks yang dihasilkan AI secara bertahap berubah menjadi omong kosong yang tidak berarti, dengan kata kunci yang berulang seperti "koboi", "arsitektur", "perbedaan", dan "gubernur". Meskipun Character.AI belum merespons kegagalan ini, insiden ini sekali lagi menyoroti masalah stabilitas dan keamanan model bahasa besar, dan juga mengingatkan pengembang akan perlunya memperkuat pengawasan dan pemeliharaan model AI untuk menjamin keamanan data pengguna. dan perilaku normal percakapan.
Highlight:
Kesalahan tersebut menyebabkan percakapan chatbot Character.AI menjadi membingungkan, dengan pengguna melaporkan omong kosong yang tercampur dalam berbagai bahasa.
Beberapa pengguna membagikan tangkapan layar percakapan aneh, sering menyebut kata-kata seperti "dildo", sehingga menimbulkan kebingungan.
Character.AI pernah mengalami pelanggaran keamanan sebelumnya, dan kegagalan ini sekali lagi menimbulkan kekhawatiran tentang keamanan data.
Kegagalan Character.AI ini tidak hanya memengaruhi pengalaman pengguna, namun juga mengungkap potensi risiko dan tantangan model bahasa besar. Di masa depan, platform serupa perlu memperkuat perbaikan teknis dan langkah-langkah keamanan untuk menghindari insiden serupa terjadi lagi dan menjaga keamanan data pengguna serta pengalaman pengguna yang baik. Semoga Character.AI dapat mengatasi masalah tersebut secepatnya dan memberikan penjelasan detail penyebab kegagalan tersebut.