Anpropic выпустила новую функцию под названием «Цитаты» для своего семейства моделей Claude AI для повышения прозрачности и отслеживания ответов, сгенерированных AI. «Цитаты» могут автоматически предоставить источник ответов на ИИ, включая точные предложения и пункты цитаты, тем самым улучшая доверие к ответам и уменьшая феномен «иллюзии» моделей ИИ. Эта новая функция была запущена на API API API и Google Vertex, предоставляя разработчикам более надежные инструменты искусственного интеллекта.
Чтобы повысить прозрачность и прослеживаемость своей модели ИИ, в четверг Anpropic объявила о новой функции, цитировании. Эта функция предназначена для того, чтобы помочь разработчикам предоставить точные ссылки из исходных документов, включая предложения и абзацы, в ответах, полученных через серию Claude AI. Эта инновационная функция была немедленно доступна на API API API и Google Vertex AI после первого запуска.
Функция цитат: повысить прозрачность и точность документа
Согласно Anpropic, функция цитат может автоматически предоставлять разработчикам источник ответов, сгенерированных моделями ИИ, ссылаясь на точные предложения и абзацы в исходном документе. Эта функция особенно подходит для краткого изложения документов, систем вопросов и ответов и приложений поддержки клиентов, и может повысить достоверность и прозрачность ваших ответов. Вводя исходную литературу, разработчики могут иметь более четкое понимание процесса рассуждений моделей ИИ и уменьшить явления «иллюзии» (то есть необоснованную или дезинформацию, генерируемую ИИ).
Область применения и цены
Несмотря на то, что функция запуска цитат привлекло широкое внимание, в настоящее время она ограничена моделями Anpropic Claude3.5sonnet и Claude3.5haiku. Кроме того, эта функция не является бесплатной, и Anpropic взимает соответствующую плату в зависимости от длины и количества исходного документа. Например, исходный документ, состоящий из 100 страниц, стоит около 0,30 долл. США при использовании Claude3.5sonnet и 0,08 долл. США при использовании Claude3.5haiku. Это может быть вариантом, который стоит инвестировать для разработчиков, которые хотят уменьшить ошибки генерации ИИ и неточного содержания.
Цитаты: эффективный инструмент для борьбы с галлюцинациями и ошибками ИИ
Запуск цитат, несомненно, повысил конкурентоспособность Anpropic в области контента, сгенерированного AI, особенно в решении проблемы «иллюзии» моделей ИИ. Иллюзия ИИ всегда была одной из проблем, с которыми сталкиваются разработчики и пользователи, а функция цитат предоставляет больше гарантий для надежности контента, сгенерированного AI, гарантируя, что разработчики могут четко увидеть источник контента, сгенерированного AI. Таким образом, Anpropic не только улучшает прозрачность продукта, но и предоставляет разработчикам больше инструментов, чтобы обеспечить более точное и проверяемое сгенерированное содержание.
Суммировать
Благодаря непрерывному развитию технологии ИИ, прозрачность и прослеживаемость становятся все более ценными пользователями и разработчиками. Цитаты, выпущенные антропным, реагируют на этот спрос, и предоставляет разработчикам более высокий уровень контроля и способность обеспечить правильность содержания ИИ. В будущем эта функция может стать стандартной конфигурацией в инструментах разработки искусственного интеллекта, подталкивая всю отрасль развиваться в более надежном направлении.
В целом, функция цитирования Anpropic является важным шагом к повышению прозрачности и надежности моделей искусственного интеллекта, помогая уменьшить иллюзии ИИ и предоставить разработчикам более надежные инструменты. Это поможет способствовать здоровому развитию технологии ИИ.