В предстоящей заявке ServiceTitan на IPO редко подробно описываются потенциальные риски, связанные с большими языковыми моделями (LLM). Этот документ не только указывает на то, что больше предупреждений о рисках ИИ может появиться в будущих документах IPO, но также отражает то, что, хотя компании внедряют технологию ИИ, им приходится сталкиваться и решать множество проблем, которые она порождает. Это предупреждение о рисках, состоящее из 1150 слов, охватывает многие аспекты, такие как безопасность данных, права интеллектуальной собственности, этика и подбор кадров, и отражает осторожное отношение компании и осведомленность о рисках в отношении применения технологий искусственного интеллекта.
Когда ServiceTitan подает заявку на первичное публичное размещение акций (IPO) в Комиссии по ценным бумагам и биржам США, компания особо упоминает потенциальные риски, связанные с моделями большого языка (LLM), в разделе факторов риска. Подобные предупреждения могут стать новым стандартом в будущих документах IPO: использование технологий искусственного интеллекта также сопряжено с рисками.
В заявочных документах ServiceTitan есть предупреждение о рисках объемом 1150 слов, подробно описывающее возможные негативные последствия использования генеративного ИИ. Компания предупредила, что LLM могут предоставлять «ложную» информацию и проявлять «дискриминационное» поведение. Кроме того, использование этих моделей может повлечь за собой нарушение авторских прав или прав интеллектуальной собственности других лиц, а при использовании данных, если невозможно получить достаточные данные, это может повлиять на разработку и предоставление продуктов ИИ.
ServiceTitan также обеспокоен тем, что сотрудники или подрядчики могут по ошибке передать личные данные клиентов сторонним системам, что приведет к нарушению безопасности. Компания заявила, что в будущем может столкнуться с проблемами, связанными с социальными и этическими проблемами, а также с потенциальными экономическими потерями из-за мер регулирования.
Кроме того, ServiceTitan также выразил обеспокоенность по поводу набора необходимых экспертов по искусственному интеллекту, полагая, что даже если нужный талант удастся найти, стоимость будет очень высокой. Что еще более важно, сторонние сервисы, на которые полагается компания, включая Microsoft и OpenAI, будут представлять угрозу для ее бизнеса, если возникнут проблемы или они будут недоступны.
Стоит отметить, что продукты искусственного интеллекта ServiceTitan, такие как Titan Intelligence, доступны уже некоторое время, и компания постоянно расширяет применение своих агентов искусственного интеллекта для повышения эффективности продаж и обслуживания клиентов. В связи с широким применением технологий искусственного интеллекта, особенно агентов искусственного интеллекта на основе LLM, в области маркетинга и управления взаимоотношениями с клиентами, для ServiceTitan особенно важно выпустить предупреждение на этом фоне.
Хотя ожидается, что проблемы с надежностью LLM в коммерческих приложениях со временем будут решены, нынешнее распространение технологий искусственного интеллекта несет с собой потенциальные проблемы и решения, о чем ServiceTitan прямо заявил в своей юридической документации.
Выделять:
ServiceTitan в своей заявке на IPO упомянул, что использование технологии искусственного интеллекта может принести ложную информацию и создать угрозу безопасности.
Компании обеспокоены тем, что не смогут нанять высококвалифицированных специалистов в области ИИ, а зависимость от сопутствующих услуг увеличивает риски.
Широкое внедрение LLM все еще находится в зачаточном состоянии, и могут существовать как потенциальные проблемы, так и решения.
Случай с ServiceTitan напоминает нам, что применение технологии искусственного интеллекта сопряжено с рисками. Хотя предприятия наслаждаются удобством, предоставляемым искусственным интеллектом, они также должны обращать внимание на потенциальные риски и проблемы и активно реагировать на них. Это предоставляет ценную информацию для других компаний, занимающихся применением ИИ и оценкой рисков.