Microsoft AI 연구팀이 출시한 최신 오픈 소스 도구인 PromptWizard는 LLM(대형 언어 모델) 프롬프트 단어 최적화를 위한 새로운 솔루션을 제공합니다. 기존 프롬프트 단어 최적화 방법은 시간이 많이 걸리고 확장이 어렵습니다. PromptWizard는 피드백 메커니즘을 도입하고 중요하고 포괄적인 반복 최적화 전략을 채택하여 모델 성능과 효율성을 크게 향상시킵니다. LLM을 사용하여 생성 단계에서 여러 프롬프트 단어 변형을 생성 및 평가하고 테스트 추론 단계에서 지속적인 성능 개선을 보장하며 궁극적으로 여러 데이터 세트에서 우수한 결과를 달성하고 리소스 소비를 크게 줄입니다.
최근 Microsoft AI 연구팀은 LLM(대형 언어 모델)의 프롬프트 디자인을 효율적으로 최적화하도록 설계된 피드백 기반 AI 프레임워크인 오픈 소스 도구인 PromptWizard를 출시했습니다. 힌트의 품질은 모델 출력의 품질에 매우 중요합니다. 그러나 고품질 힌트를 생성하려면 특히 복잡하거나 도메인별 작업에서 많은 시간과 인적 자원이 필요한 경우가 많습니다.
기존의 프롬프트 최적화 방법은 대부분 수동 경험에 의존하는데, 이는 시간이 많이 걸릴 뿐만 아니라 확장도 어렵습니다. 기존 최적화 기술은 연속형과 이산형의 두 가지 유형으로 구분됩니다. 소프트 프롬프트와 같은 연속 기술에는 광범위한 컴퓨팅 리소스가 필요한 반면 PromptBreeder 및 EvoPrompt와 같은 개별 방법은 여러 프롬프트 변형을 생성하여 평가됩니다. 이러한 방법은 어떤 경우에는 잘 수행되지만 효과적인 피드백 메커니즘이 부족하여 종종 다음과 같은 결과가 발생합니다. 불만족스럽다.
PromptWizard는 피드백 메커니즘을 도입하고 중요하고 포괄적인 접근 방식을 사용하여 프롬프트 지침과 예제를 반복적으로 최적화함으로써 작업 성능을 크게 향상시킵니다. 워크플로우는 주로 생성 단계와 테스트 추론 단계의 두 단계로 나뉩니다. 생성 단계에서 시스템은 대규모 언어 모델을 활용하여 기본 단서의 여러 변형을 생성하고 이를 평가하여 성과가 뛰어난 후보를 찾습니다. 동시에 프레임워크에 내장된 비평 메커니즘은 각 프롬프트의 장점과 단점을 분석하고 후속 최적화를 안내하기 위한 피드백을 제공합니다. 여러 차례의 최적화를 거친 후 시스템은 프롬프트의 다양성과 품질을 향상시킬 수 있습니다.
테스트 추론 단계에서는 최적화된 힌트와 예제가 새로운 작업에 적용되어 지속적인 성능 향상을 보장합니다. 이 접근 방식을 통해 PromptWizard는 45개 작업에 대한 광범위한 실험을 수행하고 감독되지 않은 설정과 감독된 설정 모두에서 탁월한 결과를 얻습니다. 예를 들어 GSM8K 데이터 세트에서는 90%의 비지도 정확도를 달성하고 SVAMP에서는 82.3%의 정확도를 달성합니다. 또한 PromptBreeder와 같은 개별 방법에 비해 PromptWizard는 API 호출 및 토큰 사용량을 최대 60배까지 줄여 리소스가 제한된 환경에서 효율성을 입증합니다.
PromptWizard의 성공은 혁신적인 시퀀스 최적화, 안내된 비평 및 전문가 역할의 통합에 있으며 이를 통해 특정 작업에 효과적으로 적응하고 우수한 해석성을 가질 수 있습니다. 이러한 진전은 자연어 처리 워크플로에서 자동화 프레임워크의 중요성을 예고하며 고급 AI 기술의 보다 효과적이고 경제적인 적용을 촉진할 것으로 예상됩니다.
블로그: https://www.microsoft.com/en-us/research/blog/promptwizard-the-future-of-prompt-optimization-through-feedback-driven-self-evolving-prompts/
프로젝트 코드: https://github.com/microsoft/PromptWizard?tab=readme-ov-file
논문: https://www.microsoft.com/en-us/research/publication/promptwizard-task-aware-agent-driven-prompt-optimization-framework/
하이라이트:
PromptWizard는 대규모 언어 모델에 대한 프롬프트를 최적화하고 모델 성능을 향상시키는 데 사용되는 새로운 AI 프레임워크입니다.
이 프레임워크는 비평 메커니즘과 피드백 루프를 결합하여 여러 프롬프트 변형을 효율적으로 생성하고 평가합니다.
PromptWizard는 여러 작업에서 뛰어난 정확성을 보여주며 리소스 소비와 비용을 크게 줄여줍니다.
전체적으로 PromptWizard는 혁신적인 피드백 기반 메커니즘과 효율적인 최적화 전략을 통해 대규모 언어 모델 프롬프트 단어 최적화를 위한 강력한 도구를 제공합니다. 그 효율성과 정확성은 실제 응용 프로그램에서 상당한 이점을 제공하여 AI에 대한 강력한 도구를 제공합니다. 기술 개발. 관심 있는 독자는 제공된 링크를 방문하여 자세한 내용을 확인할 수 있습니다.