O editor de Downcodes levará você a entender a função mais recente da API OpenAI - saída estruturada! Este novo recurso interessante foi projetado para fazer com que os resultados gerados pelo modelo sigam estritamente o esquema JSON fornecido pelo desenvolvedor, melhorando significativamente a confiabilidade da saída da API. No passado, os desenvolvedores muitas vezes precisavam usar ferramentas adicionais para garantir que a saída estivesse em conformidade com o formato esperado. Agora, a função de saída estruturada resolve esse problema diretamente no nível do modelo, tornando o desenvolvimento mais eficiente e conveniente. Esta atualização não apenas melhora a confiabilidade do modelo na geração de saída JSON válida, mas também facilita a construção de aplicativos confiáveis baseados na API OpenAI.
OpenAI dá as boas-vindas a um novo recurso interessante - Saídas Estruturadas, que foi projetado para permitir que a saída gerada pelo modelo siga estritamente o esquema JSON fornecido pelo desenvolvedor.
No Developer Day (DevDay) do ano passado, a OpenAI lançou pela primeira vez o esquema JSON, que fornece uma base importante para os desenvolvedores criarem aplicativos confiáveis. Embora os esquemas JSON melhorem a confiabilidade do modelo na produção de saída JSON válida, eles não garantem que as respostas do modelo estejam em conformidade com um esquema específico. A função de saída estruturada de hoje foi projetada para resolver esse problema.
À medida que a IA se torna mais amplamente utilizada em aplicações, a geração de dados estruturados a partir de entradas não estruturadas tornou-se um caso de uso central. Os desenvolvedores usam a API OpenAI para criar assistentes poderosos que podem obter dados por meio de chamadas de função, responder perguntas e extrair dados estruturados para entrada de dados. No passado, os desenvolvedores muitas vezes precisavam usar ferramentas de código aberto, solicitações repetidas, etc. para garantir que a saída do modelo estivesse em conformidade com o formato exigido pelo sistema. Agora, a função de saída estruturada melhora muito a confiabilidade da saída, restringindo o modelo OpenAI para corresponder ao padrão fornecido pelo desenvolvedor.
Pontuação de saída estruturada de esquema JSON complexo 100%
Vale ressaltar que na avaliação de esquema JSON complexo, o novo modelo gpt-4o-2024-08-06 recebeu pontuação perfeita de 100% na saída estruturada, enquanto o gpt-4-0613 anterior obteve pontuação inferior a 40%. Isto significa que o novo modelo é melhor na geração de resultados que se ajustam a um padrão específico.
Como usar saída estruturada
Usar saída estruturada é muito simples. OpenAI introduziu dois formulários para a API: um é uma chamada de função por meio da ferramenta e o outro é uma nova opção para formato de resposta. Os desenvolvedores podem fornecer o esquema JSON por meio do parâmetro json_schema. Quando o modo estrito estiver habilitado, a saída do modelo estará estritamente em conformidade com o modo fornecido.
1. Chamada de função: a saída estruturada por meio tools pode ser obtida definindo strict: true na definição da função. Este recurso está disponível em todos os modelos que suportam a ferramenta, incluindo todos os modelos gpt-4-0613 e gpt-3.5-turbo-0613 e superiores. Quando a saída estruturada estiver habilitada, a saída do modelo corresponderá à definição da ferramenta fornecida.
2. Nova opção para o parâmetro 2.response_format : Os desenvolvedores agora podem fornecer o esquema JSON por meio de json_schema , que é uma nova opção para o parâmetro response_format . Isso é útil quando o modelo não está chamando uma ferramenta, mas respondendo ao usuário de forma estruturada. Este recurso está disponível para nossos modelos GPT-4o mais recentes: gpt-4o-2024-08-06 e gpt-4o-mini-2024-07-18 lançados hoje. Quando response_format for fornecido com strict: true , a saída do modelo corresponderá ao esquema fornecido.
A segurança é uma prioridade máxima para OpenAI, novos recursos funcionarão de acordo com as políticas de segurança existentes e os modelos ainda podem rejeitar solicitações inseguras. Ao mesmo tempo, para simplificar o processo de desenvolvimento, adicionamos um valor de string de rejeição para ajudar os desenvolvedores a detectar programaticamente se o modelo gera informações de rejeição.
Suporte nativo ao SDK
Os SDKs Python e Node da OpenAI também foram atualizados para oferecer suporte à funcionalidade nativa para saída estruturada. Os desenvolvedores só precisam fornecer objetos Pydantic ou Zod, e o SDK da OpenAI tratará automaticamente a conversão de tipo de dados e a análise de respostas JSON.
A coletiva de imprensa de hoje permite que todos vejam que resultados estruturados trarão mais comodidade ao trabalho dos desenvolvedores e os ajudarão a criar aplicativos excelentes com mais facilidade.
Blog oficial: https://openai.com/index/introduzindo-estruturada-outputs-in-the-api/
Destaque:
A função de saída estruturada está online e a saída do modelo é mais confiável e segue o esquema JSON fornecido pelo desenvolvedor.
O novo modelo gpt-4o-2024-08-06 alcançou pontuação perfeita de 100% na avaliação de esquemas JSON complexos.
Os SDKs Python e Node foram atualizados para oferecer suporte a saída estruturada, simplificando o fluxo de trabalho do desenvolvedor.
Resumindo, a função de saída estruturada do OpenAI traz grande conveniência aos desenvolvedores e melhora a confiabilidade e eficiência do uso da API. Com um controle de esquema JSON mais preciso, os desenvolvedores podem criar aplicativos de IA poderosos com mais facilidade. O editor do Downcodes recomenda que você visite o blog oficial para saber mais detalhes e experimentar esse novo recurso interessante!