ServiceTitan готовится к IPO, и в его заявочных документах редко подробно перечисляются потенциальные риски, связанные с моделями больших языков (LLM). Это может указывать на новый стандарт раскрытия рисков ИИ в будущих документах IPO. Редактор Downcodes предоставит углубленную интерпретацию рисков ИИ, упомянутых ServiceTitan в документах заявки на IPO.
Поскольку ServiceTitan подает заявку на первичное публичное размещение акций (IPO) в Комиссии по ценным бумагам и биржам США, компания особо упоминает потенциальные риски, связанные с моделями большого языка (LLM), в разделе факторов риска. Подобные предупреждения могут стать новым стандартом в будущих документах IPO: использование технологий искусственного интеллекта также сопряжено с рисками.
В заявочных документах ServiceTitan есть предупреждение о рисках объемом 1150 слов, подробно описывающее возможные негативные последствия использования генеративного ИИ. Компания предупредила, что LLM могут предоставлять «ложную» информацию и проявлять «дискриминационное» поведение. Кроме того, использование этих моделей может повлечь за собой нарушение авторских прав или прав интеллектуальной собственности других лиц, а при использовании данных, если невозможно получить достаточные данные, это может повлиять на разработку и предоставление продуктов ИИ.
ServiceTitan также обеспокоен тем, что сотрудники или подрядчики могут по ошибке передать личные данные клиентов сторонним системам, что приведет к нарушению безопасности. Компания заявила, что в будущем может столкнуться с проблемами, связанными с социальными и этическими проблемами, а также с потенциальными экономическими потерями из-за мер регулирования.
Кроме того, ServiceTitan также выразил обеспокоенность по поводу набора необходимых экспертов по искусственному интеллекту, полагая, что даже если нужный талант удастся найти, стоимость будет очень высокой. Что еще более важно, сторонние сервисы, на которые полагается компания, включая Microsoft и OpenAI, будут представлять угрозу для ее бизнеса, если возникнут проблемы или они будут недоступны.
Стоит отметить, что продукты искусственного интеллекта ServiceTitan, такие как Titan Intelligence, доступны уже некоторое время, и компания постоянно расширяет применение своих агентов искусственного интеллекта для повышения эффективности продаж и обслуживания клиентов. В связи с широким применением технологий искусственного интеллекта, особенно агентов искусственного интеллекта на основе LLM, в области маркетинга и управления взаимоотношениями с клиентами, для ServiceTitan особенно важно выпустить предупреждение на этом фоне.
Хотя ожидается, что проблемы с надежностью LLM в коммерческих приложениях со временем будут решены, нынешнее распространение технологий искусственного интеллекта несет с собой потенциальные проблемы и решения, о чем ServiceTitan прямо заявил в своей юридической документации.
Случай с ServiceTitan стал сигналом тревоги для предприятий, применяющих технологию искусственного интеллекта, напомнив нам о необходимости обращать внимание на потенциальные риски, связанные с технологией искусственного интеллекта, и активно искать соответствующие решения. Сегодня, в условиях быстрого развития технологий искусственного интеллекта, оценка и управление рисками имеют решающее значение. Только таким образом можно обеспечить здоровое развитие и безопасное применение технологий искусственного интеллекта.