El 7 de agosto de 2024, OpenAI anunció la introducción de una innovadora salida estructurada por funciones en su API, que mejoró significativamente la confiabilidad y precisión de la aplicación de la API. Esta nueva característica garantiza que la salida generada por el modelo se ajuste completamente al esquema JSON proporcionado por el desarrollador, resolviendo la limitación de los esquemas JSON anteriores que no podían garantizar que la salida se ajustara completamente a un esquema específico. Además, OpenAI también anunció que el precio del nuevo modelo se ha reducido, con el precio de entrada reducido a la mitad y el precio de salida reducido en un tercio, lo que sin duda es una gran noticia para los desarrolladores. El editor de Downcodes explicará en detalle esta innovación tecnológica.
El 7 de agosto de 2024, OpenAI anunció hoy la introducción de una innovadora salida estructurada por funciones en su API. Esta nueva característica garantiza que la salida generada por el modelo se ajuste completamente al esquema JSON proporcionado por el desarrollador, lo que mejora significativamente la confiabilidad de la API y la precisión de la aplicación. A diferencia del esquema JSON anterior, la salida estructurada actual no solo puede definir el esquema de JSON (es decir, cómo se ve la estructura de la salida JSON), sino también garantizar que la salida JSON sea 100% correcta. Al mismo tiempo, OpenAI anunció que el precio del nuevo modelo se ha reducido. El precio de entrada es solo la mitad del precio original y la salida también es 1/3 más barata.
El año pasado, OpenAI presentó JSON Schema como una poderosa herramienta para los desarrolladores que crean aplicaciones. Sin embargo, si bien el esquema JSON mejora la probabilidad de producir una salida JSON válida, no garantiza que la salida se ajuste a un esquema específico. La introducción de salida estructurada es precisamente para resolver esta limitación, restringiendo la salida del modelo para que coincida con el patrón preestablecido, asegurando la precisión y coherencia de los datos de salida.
En la evaluación de seguimiento de patrones JSON complejos de OpenAI, el nuevo modelo gpt-4o-2024-08-06 logró una puntuación excelente del 100 % en salida estructurada, mientras que el antiguo modelo gpt-4-0613 obtuvo una puntuación inferior al 40 %. Este importante progreso no sólo demuestra el salto tecnológico de OpenAI, sino que también aporta una mayor eficiencia en el trabajo y menos tasas de error para los desarrolladores.
La API de OpenAI introduce dos formas de salida estructurada:
1. Llamada a función: la salida estructurada se puede utilizar configurándola en la definición de función. Esta función está disponible para todos los modelos habilitados para herramientas, incluidos Todos los modelos y superiores. Cuando la salida estructurada está habilitada, la salida del modelo coincidirá con la definición de herramienta proporcionada.
Configuración de solicitud de API
Respuesta API
2. Nueva opción del parámetro respuesta_formato : los desarrolladores pueden responder a las solicitudes de los usuarios de manera estructurada proporcionando el esquema JSON json_schema como una nueva opción de parámetro.
La seguridad es siempre la principal prioridad de OpenAI. La nueva función de salida estructurada respeta las políticas de seguridad existentes, lo que permite a los modelos rechazar solicitudes inseguras cuando sea necesario. Además, los SDK de Python y Node de OpenAI se han actualizado para admitir de forma nativa resultados estructurados, simplificando el proceso de desarrollo.
La salida estructurada se puede utilizar para una amplia gama de aplicaciones, incluida la generación dinámica de interfaces de usuario basadas en la intención del usuario, la separación de las respuestas finales del razonamiento de apoyo y la extracción de datos estructurados a partir de datos no estructurados. Estos casos de uso demuestran la practicidad y flexibilidad de la producción estructurada en diferentes escenarios.
OpenAI logra una coincidencia del 100 % entre la salida del modelo y el esquema JSON mediante el uso de tecnología de decodificación restringida. Este enfoque garantiza que en cada paso, el modelo solo pueda seleccionar tokens válidos restringiendo dinámicamente la decodificación, reduciendo así la posibilidad de errores.
La función de salida estructurada de OpenAI no solo proporciona a los desarrolladores una herramienta más confiable y precisa, sino que también promueve aún más el avance de la tecnología de inteligencia artificial en el procesamiento de datos y el desarrollo de aplicaciones. Con el lanzamiento oficial de esta función, esperamos ver el lanzamiento de más aplicaciones innovadoras.
Considerándolo todo, la función de salida estructurada de OpenAI es un avance tecnológico importante que mejorará significativamente la confiabilidad y eficiencia de las aplicaciones de IA y brindará una experiencia de desarrollo más conveniente a los desarrolladores. El editor de Downcodes cree que esta tecnología desempeñará un papel cada vez más importante en el desarrollo de aplicaciones de IA en el futuro.