Редактор Downcodes поможет вам понять новейшую функцию OpenAI API — структурированный вывод! Эта интересная новая функция предназначена для того, чтобы результаты, генерируемые моделью, строго соответствовали схеме JSON, предоставленной разработчиком, что значительно повышает надежность вывода API. Раньше разработчикам часто приходилось использовать дополнительные инструменты, чтобы гарантировать соответствие вывода ожидаемому формату. Теперь функция структурированного вывода напрямую решает эту проблему на уровне модели, делая разработку более эффективной и удобной. Это обновление не только повышает надежность модели при создании действительных выходных данных JSON, но также упрощает создание надежных приложений на основе API OpenAI.
OpenAI приветствует новую замечательную функцию — Структурированные выходные данные, которая позволяет выходным данным, генерируемым моделью, строго следовать схеме JSON, предоставленной разработчиком.
На прошлогоднем Дне разработчиков (DevDay) OpenAI впервые представила схему JSON, которая обеспечивает разработчикам важную основу для создания надежных приложений. Хотя схемы JSON повышают надежность модели при создании действительных выходных данных JSON, они не гарантируют, что ответы модели соответствуют определенной схеме. Сегодняшняя функция структурированного вывода предназначена для решения этой проблемы.
Поскольку ИИ становится все более широко используемым в приложениях, генерация структурированных данных из неструктурированных входных данных становится основным вариантом использования. Разработчики используют API OpenAI для создания мощных помощников, которые могут получать данные посредством вызовов функций, отвечать на вопросы и извлекать структурированные данные для ввода данных. В прошлом разработчикам часто приходилось использовать инструменты с открытым исходным кодом, повторять запросы и т. д., чтобы гарантировать, что выходные данные модели соответствуют формату, требуемому системой. Теперь функция структурированного вывода значительно повышает надежность вывода, ограничивая модель OpenAI в соответствии с шаблоном, предоставленным разработчиком.
Оценка структурированного вывода сложной схемы JSON: 100 %.
Стоит отметить, что при оценке сложной схемы JSON новая модель gpt-4o-2024-08-06 получила высший балл в 100% по структурированному выводу, в то время как предыдущая модель gpt-4-0613 набрала менее 40%. Это означает, что новая модель лучше генерирует выходные данные, соответствующие определенному шаблону.
Как использовать структурированный вывод
Использовать структурированный вывод очень просто. OpenAI представила две формы API: одна — вызов функции через инструмент, а другая — новый вариант формата ответа. Разработчики могут предоставить схему JSON через параметр json_schema. Когда строгий режим включен, выходные данные модели будут строго соответствовать предоставленному режиму.
1. Вызов функции. Структурированный вывод с помощью tools можно получить, установив strict: true в определении функции. Эта функция доступна на всех моделях, поддерживающих этот инструмент, включая все модели gpt-4-0613 и gpt-3.5-turbo-0613 и более поздних версий. Если включен структурированный вывод, выходные данные модели будут соответствовать предоставленному определению инструмента.
2. Новая опция для параметра 2.response_format . Теперь разработчики могут предоставлять схему JSON через json_schema , которая является новой опцией для параметра response_format . Это полезно, когда модель не вызывает инструмент, а структурированно отвечает пользователю. Эта функция доступна для наших последних моделей GPT-4o: gpt-4o-2024-08-06 и gpt-4o-mini-2024-07-18 выпущенных сегодня. Если для параметра response_format указано strict: true , выходные данные модели будут соответствовать предоставленной схеме.
Безопасность является главным приоритетом для OpenAI, новые функции будут работать в соответствии с существующими политиками безопасности, а модели по-прежнему могут отклонять небезопасные запросы. В то же время, чтобы упростить процесс разработки, мы добавили значение строки отклонения, чтобы помочь разработчикам программно определить, генерирует ли модель информацию об отклонении.
Встроенная поддержка SDK
SDK OpenAI для Python и Node также были обновлены для поддержки встроенных функций структурированного вывода. Разработчикам нужно только предоставить объекты Pydantic или Zod, а SDK OpenAI автоматически выполнит преобразование типов данных и анализ ответов JSON.
Сегодняшняя пресс-конференция позволяет всем увидеть, что структурированный вывод сделает работу разработчиков более удобной и поможет им легче создавать отличные приложения.
Официальный блог: https://openai.com/index/introducing-structured-outputs-in-the-api/
Выделять:
Функция структурированного вывода доступна в режиме онлайн, а выходные данные модели более надежны и соответствуют схеме JSON, предоставленной разработчиком.
Новая модель gpt-4o-2024-08-06 достигла идеального результата в 100 % при оценке сложных схем JSON.
Пакеты SDK Python и Node были обновлены для поддержки структурированного вывода, что упрощает рабочий процесс разработчика.
В целом функция структурированного вывода OpenAI обеспечивает большое удобство для разработчиков и повышает надежность и эффективность использования API. Благодаря более точному управлению схемой JSON разработчики могут легче создавать мощные приложения искусственного интеллекта. Редактор Downcodes рекомендует вам посетить официальный блог, чтобы узнать больше подробностей и испытать эту интересную новую функцию!