Em 7 de agosto de 2024, a OpenAI anunciou a introdução de uma saída estruturada de recursos inovadora em sua API, que melhorou significativamente a confiabilidade e a precisão do aplicativo da API. Esse novo recurso garante que a saída gerada pelo modelo esteja totalmente em conformidade com o esquema JSON fornecido pelo desenvolvedor, resolvendo a limitação dos esquemas JSON anteriores que não podiam garantir que a saída estivesse totalmente em conformidade com um esquema específico. Além disso, a OpenAI também anunciou que o preço do novo modelo foi reduzido, com o preço de entrada reduzido pela metade e o preço de saída reduzido em um terço, o que é sem dúvida uma ótima notícia para os desenvolvedores. O editor do Downcodes explicará detalhadamente esta inovação tecnológica.
Em 7 de agosto de 2024, a OpenAI anunciou hoje a introdução de uma saída estruturada de recursos inovadora em sua API. Este novo recurso garante que a saída gerada pelo modelo esteja totalmente em conformidade com o esquema JSON fornecido pelo desenvolvedor, melhorando significativamente a confiabilidade da API e a precisão da aplicação. Ao contrário do esquema JSON anterior, a saída estruturada atual pode não apenas definir o esquema JSON (ou seja, a aparência da estrutura da saída JSON), mas também garantir que a saída JSON esteja 100% correta. Ao mesmo tempo, a OpenAI anunciou que o preço do novo modelo foi reduzido. O preço de entrada é apenas metade do preço original e a saída também é 1/3 mais barata.
No ano passado, a OpenAI introduziu o JSON Schema como uma ferramenta poderosa para desenvolvedores que criam aplicativos. No entanto, embora o esquema JSON melhore a probabilidade de produzir uma saída JSON válida, ele não garante que a saída esteja em conformidade com um esquema específico. A introdução de resultados estruturados visa precisamente resolver esta limitação, restringindo a saída do modelo para corresponder ao padrão predefinido, garantindo a precisão e consistência dos dados de saída.
Na avaliação de rastreamento de padrões JSON complexos da OpenAI, o novo modelo gpt-4o-2024-08-06 obteve uma excelente pontuação de 100% na saída estruturada, enquanto o modelo antigo gpt-4-0613 obteve menos de 40%. Este progresso significativo não só demonstra o salto tecnológico da OpenAI, mas também traz maior eficiência de trabalho e menos taxas de erros aos desenvolvedores.
A API da OpenAI apresenta duas formas de saída estruturada:
1. Chamada de função: a saída estruturada pode ser usada configurando-a na definição da função. Este recurso está disponível para todos os modelos habilitados para ferramentas, incluindo Todos os modelos e superiores. Quando a saída estruturada estiver habilitada, a saída do modelo corresponderá à definição da ferramenta fornecida.
Configurações de solicitação de API
Resposta da API
2. Nova opção de parâmetro response_format : Os desenvolvedores podem responder às solicitações dos usuários de maneira estruturada, fornecendo o esquema JSON json_schema como uma nova opção de parâmetro.
A segurança é sempre a principal prioridade da OpenAI. O novo recurso de saída estruturada respeita as políticas de segurança existentes, permitindo que os modelos rejeitem solicitações inseguras quando necessário. Além disso, os SDKs Python e Node da OpenAI foram atualizados para oferecer suporte nativo à saída estruturada, simplificando o processo de desenvolvimento.
A saída estruturada pode ser usada para uma ampla variedade de aplicações, incluindo a geração dinâmica de interfaces de usuário com base na intenção do usuário, a separação das respostas finais do raciocínio de apoio e a extração de dados estruturados de dados não estruturados. Esses casos de uso demonstram a praticidade e a flexibilidade da produção estruturada em diferentes cenários.
OpenAI atinge 100% de correspondência entre a saída do modelo e o esquema JSON usando tecnologia de decodificação restrita. Essa abordagem garante que, em cada etapa, o modelo só possa selecionar tokens válidos, restringindo dinamicamente a decodificação, reduzindo assim a possibilidade de erros.
A função de saída estruturada da OpenAI não apenas fornece aos desenvolvedores uma ferramenta mais confiável e precisa, mas também promove ainda mais o avanço da tecnologia de inteligência artificial no processamento de dados e no desenvolvimento de aplicativos. Com o lançamento oficial deste recurso, esperamos ver mais aplicativos inovadores sendo lançados.
Em suma, a função de saída estruturada do OpenAI é um importante avanço tecnológico que melhorará significativamente a confiabilidade e a eficiência dos aplicativos de IA e proporcionará uma experiência de desenvolvimento mais conveniente aos desenvolvedores. O editor do Downcodes acredita que esta tecnologia desempenhará um papel cada vez mais importante no desenvolvimento de aplicações de IA no futuro.