Air Canada недавно возбудила коллективный иск по поводу своей системы обслуживания клиентов с использованием ИИ, что стало типичным случаем рисков, связанных с применением ИИ. Эта система не только не смогла эффективно решить проблемы пассажиров, но вместо этого привела к недопониманию и недовольству пассажиров, что в конечном итоге привело к судебным искам и вызвало огромные потери рыночной стоимости компании, до 100 миллиардов долларов США. Этот инцидент подчеркивает множество проблем, с которыми сталкиваются ИИ-системы обслуживания клиентов в практических приложениях, и заслуживает размышления.
Служба поддержки клиентов AI на веб-сайте Air Canada ввела пассажиров в заблуждение, вызвав судебный процесс; служба поддержки клиентов AI не только не смогла решить проблему, но и привела к падению рыночной стоимости компании на 100 миллиардов долларов США. Проблемы со службой поддержки клиентов с использованием ИИ включают в себя введение пользователей в заблуждение и неспособность решать сложные проблемы. Также существует риск утечки пользовательских данных. В будущем служба поддержки клиентов с использованием ИИ должна будет усилить контроль и технологические усовершенствования для улучшения качества обслуживания.
Этот инцидент напоминает нам о том, что применение технологии ИИ должно быть осторожным, его потенциальные риски должны быть полностью учтены, а также необходимо принять эффективные меры, чтобы избежать рисков и гарантировать, что технология ИИ может служить человечеству безопасно и надежно. В будущем исследования, разработки и применение ИИ-обслуживания клиентов должны уделять больше внимания пользовательскому опыту и безопасности данных, чтобы избежать повторения подобных инцидентов.