Air Canada a récemment déclenché un recours collectif concernant son système de service client basé sur l'IA, ce qui constitue un cas typique des risques liés à l'application de l'IA. Ce système non seulement n'a pas réussi à résoudre efficacement les problèmes des passagers, mais a au contraire conduit à des malentendus et à un mécontentement parmi les passagers, déclenchant finalement des poursuites judiciaires et causant d'énormes pertes de valeur marchande de l'entreprise, pouvant atteindre 100 milliards de dollars. Cet incident met en évidence les nombreux défis auxquels sont confrontés les systèmes de service client IA dans des applications pratiques et mérite réflexion.
Le service client d'AI sur le site Web d'Air Canada a induit les passagers en erreur, déclenchant un procès ; non seulement le service client d'IA n'a pas été en mesure de résoudre le problème, mais il a également fait chuter la valeur marchande de l'entreprise de 100 milliards de dollars américains. Les problèmes liés au service client de l’IA incluent le fait d’induire les utilisateurs en erreur et l’incapacité de résoudre des problèmes complexes. Il existe également un risque de fuite des données des utilisateurs. À l’avenir, le service client de l’IA devra renforcer la supervision et les améliorations technologiques pour améliorer la qualité du service.
Cet incident nous rappelle que l'application de la technologie de l'IA doit être prudente, que ses risques potentiels doivent être pleinement pris en compte et que des mesures efficaces doivent être prises pour éviter les risques et garantir que la technologie de l'IA puisse servir l'humanité de manière sûre et fiable. À l’avenir, la recherche, le développement et l’application du service client IA devront accorder davantage d’attention à l’expérience utilisateur et à la sécurité des données afin d’éviter que des incidents similaires ne se reproduisent.