7 августа 2024 года OpenAI объявила о внедрении в свой API революционной функциональной структуры вывода, которая значительно повысила надежность и точность приложений API. Эта новая функция гарантирует, что выходные данные, сгенерированные моделью, полностью соответствуют схеме JSON, предоставленной разработчиком, устраняя ограничения предыдущих схем JSON, которые не могли гарантировать, что выходные данные полностью соответствуют определенной схеме. Кроме того, OpenAI также объявила, что цена новой модели снижена: входная цена снижена вдвое, а выходная цена снижена на одну треть, что, несомненно, является хорошей новостью для разработчиков. Редактор Downcodes подробно расскажет об этой технологической новинке.
7 августа 2024 года OpenAI сегодня объявила о внедрении в свой API революционного функционально-структурированного вывода. Эта новая функция гарантирует, что выходные данные, генерируемые моделью, полностью соответствуют схеме JSON, предоставленной разработчиком, что значительно повышает надежность API и точность приложения. В отличие от предыдущей схемы JSON, текущий структурированный вывод может не только определять схему JSON (то есть, как выглядит структура вывода JSON), но также гарантировать, что выходной JSON на 100 % правильный. При этом OpenAI сообщила, что цена новой модели снижена. Входная цена составляет лишь половину первоначальной цены, а выходная цена также на 1/3 дешевле.
В прошлом году OpenAI представила JSON Schema как мощный инструмент для разработчиков, создающих приложения. Однако, хотя схема JSON повышает вероятность создания действительных выходных данных JSON, она не гарантирует, что выходные данные соответствуют определенной схеме. Введение структурированного вывода призвано устранить это ограничение, ограничивая выходные данные модели в соответствии с заданным шаблоном, обеспечивая точность и согласованность выходных данных.
В оценке отслеживания сложных шаблонов JSON, проводимой OpenAI, новая модель gpt-4o-2024-08-06 достигла превосходного результата в 100 % по структурированному выводу, тогда как старая модель gpt-4-0613 набрала менее 40 %. Этот значительный прогресс не только демонстрирует технологический скачок OpenAI, но также повышает эффективность работы и снижает уровень ошибок для разработчиков.
API OpenAI представляет две формы структурированного вывода:
1. Вызов функции: структурированный вывод можно использовать, установив его в определении функции. Эта функция доступна для всех моделей с поддержкой инструментов, включая модели «Все» и выше. Если включен структурированный вывод, выходные данные модели будут соответствовать предоставленному определению инструмента.
Настройки запроса API
Ответ API
2. Новая опция параметра response_format . Разработчики могут отвечать на запросы пользователей структурированным образом, предоставляя схему JSON json_schema в качестве новой опции параметра.
Безопасность всегда является главным приоритетом OpenAI. Новая функция структурированного вывода учитывает существующие политики безопасности, позволяя моделям при необходимости отклонять небезопасные запросы. Кроме того, пакеты OpenAI Python и Node SDK были обновлены для поддержки структурированного вывода, что упрощает процесс разработки.
Структурированный вывод может использоваться для широкого спектра приложений, включая динамическое создание пользовательских интерфейсов на основе намерений пользователя, отделение окончательных ответов от подтверждающих рассуждений и извлечение структурированных данных из неструктурированных данных. Эти варианты использования демонстрируют практичность и гибкость структурированного вывода в различных сценариях.
OpenAI обеспечивает 100% соответствие выходных данных модели и схемы JSON за счет использования технологии ограниченного декодирования. Этот подход гарантирует, что на каждом этапе модель может выбирать только действительные токены за счет динамического ограничения декодирования, тем самым уменьшая вероятность ошибок.
Функция структурированного вывода OpenAI не только предоставляет разработчикам более надежный и точный инструмент, но также способствует дальнейшему развитию технологий искусственного интеллекта в обработке данных и разработке приложений. С официальным запуском этой функции мы с нетерпением ждем запуска новых инновационных приложений.
В целом, функция структурированного вывода OpenAI — это важное технологическое достижение, которое значительно повысит надежность и эффективность приложений ИИ и сделает разработку более удобной для разработчиков. Редактор Downcodes считает, что эта технология будет играть все более важную роль в разработке приложений искусственного интеллекта в будущем.