El editor de Downcodes lo llevará a comprender la última función de la API OpenAI: ¡salida estructurada! Esta nueva e interesante característica está diseñada para hacer que los resultados generados por el modelo sigan estrictamente el esquema JSON proporcionado por el desarrollador, mejorando significativamente la confiabilidad de la salida de la API. En el pasado, los desarrolladores a menudo necesitaban utilizar herramientas adicionales para garantizar que la salida se ajustara al formato esperado. Ahora, la función de salida estructurada resuelve directamente este problema a nivel de modelo, lo que hace que el desarrollo sea más eficiente y conveniente. Esta actualización no solo mejora la confiabilidad del modelo al generar resultados JSON válidos, sino que también facilita la creación de aplicaciones confiables basadas en la API OpenAI.
OpenAI da la bienvenida a una característica nueva e interesante: Salidas estructuradas, que está diseñada para permitir que la salida generada por el modelo siga estrictamente el esquema JSON proporcionado por el desarrollador.
En el Día del Desarrollador (DevDay) del año pasado, OpenAI lanzó el esquema JSON por primera vez, que proporciona una base importante para que los desarrolladores creen aplicaciones confiables. Si bien los esquemas JSON mejoran la confiabilidad del modelo al producir resultados JSON válidos, no garantizan que las respuestas del modelo se ajusten a un esquema específico. La función de salida estructurada actual está diseñada para resolver este problema.
A medida que la IA se utiliza más ampliamente en las aplicaciones, la generación de datos estructurados a partir de entradas no estructuradas se ha convertido en un caso de uso fundamental. Los desarrolladores utilizan la API de OpenAI para crear asistentes potentes que pueden obtener datos mediante llamadas a funciones, responder preguntas y extraer datos estructurados para la entrada de datos. En el pasado, los desarrolladores a menudo necesitaban utilizar herramientas de código abierto, solicitudes repetidas, etc. para garantizar que la salida del modelo se ajuste al formato requerido por el sistema. Ahora, la función de salida estructurada mejora en gran medida la confiabilidad de la salida al restringir el modelo OpenAI para que coincida con el patrón proporcionado por el desarrollador.
Puntuación de salida estructurada de esquema JSON complejo 100%
Vale la pena mencionar que en la evaluación del esquema JSON complejo, el nuevo modelo gpt-4o-2024-08-06 recibió una puntuación perfecta del 100% en salida estructurada, mientras que el anterior gpt-4-0613 obtuvo menos del 40%. Esto significa que el nuevo modelo es mejor a la hora de generar resultados que se ajusten a un patrón específico.
Cómo utilizar resultados estructurados
Usar resultados estructurados es muy simple. OpenAI ha introducido dos formas para la API: una es una llamada de función a través de la herramienta y la otra es una nueva opción para el formato de respuesta. Los desarrolladores pueden proporcionar un esquema JSON a través del parámetro json_schema. Cuando el modo estricto está habilitado, la salida del modelo se ajustará estrictamente al modo proporcionado.
1. Llamada a función: la salida estructurada a través tools se puede obtener estableciendo strict: true en la definición de función. Esta función está disponible en todos los modelos que admiten la herramienta, incluidos todos los modelos gpt-4-0613 y gpt-3.5-turbo-0613 y superiores. Cuando la salida estructurada está habilitada, la salida del modelo coincidirá con la definición de herramienta proporcionada.
2. Nueva opción para el parámetro 2.response_format : los desarrolladores ahora pueden proporcionar un esquema JSON a través de json_schema , que es una nueva opción para el parámetro response_format . Esto es útil cuando el modelo no llama a una herramienta, sino que responde al usuario de forma estructurada. Esta función está disponible para nuestros últimos modelos GPT-4o: gpt-4o-2024-08-06 y gpt-4o-mini-2024-07-18 lanzados hoy. Cuando se proporciona response_format con strict: true , la salida del modelo coincidirá con el esquema proporcionado.
La seguridad es una de las principales prioridades de OpenAI, las nuevas funciones funcionarán según las políticas de seguridad existentes y los modelos aún pueden rechazar solicitudes no seguras. Al mismo tiempo, para simplificar el proceso de desarrollo, agregamos un valor de cadena de rechazo para ayudar a los desarrolladores a detectar mediante programación si el modelo genera información de rechazo.
Soporte nativo de SDK
Los SDK de Python y Node de OpenAI también se han actualizado para admitir la funcionalidad nativa para resultados estructurados. Los desarrolladores solo necesitan proporcionar objetos Pydantic o Zod, y el SDK de OpenAI manejará automáticamente la conversión de tipos de datos y el análisis de las respuestas JSON.
La conferencia de prensa de hoy permite a todos ver que la salida estructurada brindará más comodidad al trabajo de los desarrolladores y les ayudará a crear aplicaciones excelentes con mayor facilidad.
Blog oficial: https://openai.com/index/introtaining-structured-outputs-in-the-api/
Destacar:
La función de salida estructurada está en línea y la salida del modelo es más confiable y sigue el esquema JSON proporcionado por el desarrollador.
El nuevo modelo gpt-4o-2024-08-06 logró una puntuación perfecta del 100% en la evaluación de esquemas JSON complejos.
Los SDK de Python y Node se han actualizado para admitir resultados estructurados, lo que simplifica el flujo de trabajo del desarrollador.
Con todo, la función de salida estructurada de OpenAI brinda una gran comodidad a los desarrolladores y mejora la confiabilidad y eficiencia del uso de API. Con un control de esquema JSON más preciso, los desarrolladores pueden crear más fácilmente potentes aplicaciones de IA. ¡El editor de Downcodes recomienda que visites el blog oficial para conocer más detalles y experimentar esta nueva e interesante característica!