Air Canada baru-baru ini memicu gugatan class action atas sistem layanan pelanggan AI-nya, yang merupakan contoh umum risiko penerapan AI. Sistem ini tidak hanya gagal menyelesaikan permasalahan penumpang secara efektif, namun malah menimbulkan kesalahpahaman dan ketidakpuasan di kalangan penumpang, yang akhirnya memicu tuntutan hukum dan menimbulkan kerugian besar pada nilai pasar perusahaan, hingga US$100 miliar. Kejadian ini menyoroti banyaknya tantangan yang dihadapi oleh sistem layanan pelanggan AI dalam penerapan praktisnya, dan patut untuk direnungkan.
Layanan pelanggan AI di situs web Air Canada menyesatkan penumpang, memicu tuntutan hukum tidak hanya karena layanan pelanggan AI tidak mampu menyelesaikan masalah, tetapi juga menyebabkan nilai pasar perusahaan turun sebesar US$100 miliar. Masalah dengan layanan pelanggan AI termasuk menyesatkan pengguna dan tidak mampu menyelesaikan masalah yang kompleks. Ada juga risiko kebocoran data pengguna. Ke depan, layanan pelanggan AI perlu memperkuat pengawasan dan peningkatan teknologi untuk meningkatkan kualitas layanan.
Kejadian ini mengingatkan kita bahwa penerapan teknologi AI perlu dilakukan secara hati-hati, potensi risikonya harus dipertimbangkan sepenuhnya, dan langkah-langkah efektif harus diambil untuk menghindari risiko serta memastikan bahwa teknologi AI dapat melayani umat manusia dengan aman dan andal. Kedepannya, penelitian dan pengembangan serta penerapan AI customer service perlu lebih memperhatikan pengalaman pengguna dan keamanan data untuk menghindari kejadian serupa terulang kembali.