다운코드 편집기를 사용하면 OpenAI API의 최신 기능인 구조화된 출력을 이해할 수 있습니다! 이 흥미로운 새 기능은 모델에서 생성된 결과가 개발자가 제공한 JSON 스키마를 엄격하게 따르도록 설계되어 API 출력의 안정성을 크게 향상시킵니다. 과거에는 개발자가 출력이 예상 형식을 준수하는지 확인하기 위해 추가 도구를 사용해야 하는 경우가 많았습니다. 이제는 구조화된 출력 기능이 모델 수준에서 이 문제를 직접 해결하여 개발을 더욱 효율적이고 편리하게 만듭니다. 이 업데이트는 유효한 JSON 출력을 생성하는 모델의 안정성을 향상할 뿐만 아니라 OpenAI API를 기반으로 신뢰할 수 있는 애플리케이션을 보다 쉽게 구축할 수 있게 해줍니다.
OpenAI는 모델에서 생성된 출력이 개발자가 제공한 JSON 스키마를 엄격하게 따를 수 있도록 설계된 구조화된 출력이라는 흥미로운 새 기능을 환영합니다.
작년 개발자 데이(DevDay)에서 OpenAI는 개발자가 안정적인 애플리케이션을 구축하는 데 중요한 기반을 제공하는 JSON 스키마를 처음으로 출시했습니다. JSON 스키마는 유효한 JSON 출력을 생성할 때 모델의 신뢰성을 향상시키지만 모델의 응답이 특정 스키마를 준수하는지 보장하지는 않습니다. 오늘날의 구조화된 출력 기능은 이러한 문제를 해결하기 위해 설계되었습니다.
AI가 애플리케이션에서 더욱 광범위하게 사용됨에 따라 구조화되지 않은 입력에서 구조화된 데이터를 생성하는 것이 핵심 사용 사례가 되었습니다. 개발자는 OpenAI API를 사용하여 함수 호출을 통해 데이터를 얻고, 질문에 답하고, 데이터 입력을 위해 구조화된 데이터를 추출할 수 있는 강력한 도우미를 구축합니다. 과거에는 개발자가 모델의 출력이 시스템에서 요구하는 형식을 준수하는지 확인하기 위해 오픈 소스 도구, 반복적인 요청 등을 사용해야 하는 경우가 많았습니다. 이제 구조화된 출력 기능은 개발자가 제공한 패턴과 일치하도록 OpenAI 모델을 제한하여 출력의 신뢰성을 크게 향상시킵니다.
복잡한 JSON 스키마 구조화된 출력 점수 100%
복잡한 JSON 스키마 평가에서 새로운 모델 gpt-4o-2024-08-06은 구조화된 출력에서 완벽한 100% 점수를 받은 반면, 이전 gpt-4-0613은 40% 미만의 점수를 받았다는 점을 언급할 가치가 있습니다. 이는 새 모델이 특정 패턴에 맞는 출력을 생성하는 데 더 뛰어나다는 것을 의미합니다.
구조화된 출력을 사용하는 방법
구조화된 출력을 사용하는 것은 매우 간단합니다. OpenAI는 API에 두 가지 형식을 도입했습니다. 하나는 도구를 통한 함수 호출이고 다른 하나는 응답 형식을 위한 새로운 옵션입니다. 엄격 모드가 활성화되면 모델의 출력은 제공된 모드를 엄격하게 준수합니다.
1. 함수 호출: 함수 정의에서 strict: true 설정하면 tools 통한 구조화된 출력을 얻을 수 있습니다. 이 기능은 모든 모델 gpt-4-0613 및 gpt-3.5-turbo-0613 이상을 포함하여 도구를 지원하는 모든 모델에서 사용할 수 있습니다. 구조화된 출력이 활성화되면 모델 출력이 제공된 도구 정의와 일치합니다.
2. 2.response_format 매개변수에 대한 새로운 옵션: 이제 개발자는 response_format 매개변수에 대한 새로운 옵션인 json_schema 를 통해 JSON 스키마를 제공할 수 있습니다. 이는 모델이 도구를 호출하지 않고 구조화된 방식으로 사용자에게 응답할 때 유용합니다. 이 기능은 오늘 출시된 최신 GPT-4o 모델인 gpt-4o-2024-08-06 및 gpt-4o-mini-2024-07-18 에서 사용할 수 있습니다. response_format 이 strict: true 와 함께 제공되면 모델 출력이 제공된 스키마와 일치합니다.
보안은 OpenAI의 최우선 순위이며 새로운 기능은 기존 보안 정책에 따라 작동하며 모델은 여전히 안전하지 않은 요청을 거부할 수 있습니다. 동시에 개발 프로세스를 단순화하기 위해 개발자가 모델이 거부 정보를 생성하는지 여부를 프로그래밍 방식으로 감지할 수 있도록 거부 문자열 값을 추가했습니다.
네이티브 SDK 지원
OpenAI의 Python 및 Node SDK도 구조화된 출력을 위한 기본 기능을 지원하도록 업데이트되었습니다. 개발자는 Pydantic 또는 Zod 개체만 제공하면 되며 OpenAI의 SDK는 자동으로 데이터 유형 변환 및 JSON 응답 구문 분석을 처리합니다.
오늘의 기자 회견을 통해 모든 사람은 구조화된 출력이 개발자의 작업에 더 많은 편의성을 제공하고 뛰어난 애플리케이션을 더 쉽게 만드는 데 도움이 된다는 것을 확인할 수 있었습니다.
공식 블로그: https://openai.com/index/introducing-structured-outputs-in-the-api/
가장 밝은 부분:
구조화된 출력 기능은 온라인이며 모델 출력은 더 안정적이며 개발자가 제공하는 JSON 스키마를 따릅니다.
새로운 모델 gpt-4o-2024-08-06은 복잡한 JSON 스키마 평가에서 100% 만점을 달성했습니다.
Python 및 Node SDK는 구조화된 출력을 지원하도록 업데이트되어 개발자의 워크플로를 단순화합니다.
전체적으로 OpenAI의 구조화된 출력 기능은 개발자에게 큰 편의성을 제공하고 API 사용의 안정성과 효율성을 향상시킵니다. 보다 정확한 JSON 스키마 제어를 통해 개발자는 강력한 AI 애플리케이션을 보다 쉽게 구축할 수 있습니다. Downcodes의 편집자는 공식 블로그를 방문하여 더 자세한 내용을 알아보고 이 흥미로운 새 기능을 경험해 볼 것을 권장합니다!