Prfustolab은 LLM 프롬프트 카탈로그, 평가, 테스트 및 개선을위한 크로스 플랫폼 데스크톱 응용 프로그램입니다. 대화식 프롬프트 개발을위한 놀이터와 체계적인 프롬프트 테스트를위한 테스트 세트 관리자를 제공합니다.
프롬프트 카탈로그 : 세 가지 별개의 프롬프트 범주를 사용하여 프롬프트를 원활하게 정의하고 구성합니다. 이 중앙 집중식 허브는 프롬프트가 항상 접근 가능하고 쉽게 재사용 할 수 있도록 잘 구조화되도록합니다.
LLM Playground : 두 가지 동적 옵션으로 실험을 시작하십시오. 입증 된 3 가지 프롬프트 패턴 중 하나를 사용하여 주어진 프롬프트에 대한 카탈로그에서 선택된 프롬프트를 제출하거나 주어진 프롬프트를 요청하십시오. 선호하는 LLM 모델을 선택하고 세 가지 중요한 LLM 제어 매개 변수를 조정하여 경험을 추가로 사용자 정의하십시오. 프롬프트에서 {{variable}} 구문을 지원하면 대화식 변수 테이블을 통해 신속한 변형을 빠르게 테스트 할 수 있습니다.
프롬프트 테스트 세트 관리자 : 생성 AI 애플리케이션에서 복잡한 시스템 프롬프트 테스트를 단순화합니다. 테스트 케이스를 정의하고 관리하여 시스템 프롬프트가 다양한 사용자 프롬프트에서 LLM 응답을 효과적으로 안내합니다.
평가 놀이터 : 신속한 조정의 영향을 쉽게 평가합니다. 이 강력한 도구를 사용하면 다양한 사용자 시나리오에서 시스템에 대한 수정이 LLM 응답을 향상 시키거나 방해하는지 여부를 평가하여 정밀하게 최적화 할 수있는 자신감을줍니다.
Promptolab을 사용하면 신속한 디자인의 복잡성을 탐색하는 것이 더 직관적이거나 흥미 진진한 적이 없습니다. 프롬프트의 성능을 최적화 할 준비가 되셨습니까?
pip install llm
pip install litellm (NOTE: not needed because it is already defined inside requirements.txt)
저장소 복제 :
git clone https://github.com/crjaensch/PromptoLab.git
cd PromptoLab
가상 환경 생성 및 활성화 :
python3 -m venv venv
source venv/bin/activate # On Windows: venvScriptsactivate
종속성 설치 :
python3 -m pip install -r requirements.txt
Promptolab은 QT의 기본 구성 시스템 (QSettings)을 사용하여 LLM 백엔드 환경 설정을 지속합니다. 설정은 각 플랫폼마다 최적화 된 스토리지 위치와 함께 응용 프로그램 실행간에 자동으로 저장 및 복원됩니다.
응용 프로그램의 인터페이스를 통해 선호하는 LLM 백엔드 및 API 설정을 구성 할 수 있습니다. 다음 옵션을 사용할 수 있습니다.
LLM 백엔드 : llm
명령 줄 도구 또는 Litellm 라이브러리 중에서 선택하십시오.
API 구성 : Litellm을 사용할 때 선호하는 LLM 모델에 API 키를 제공합니다.
로컬로 설치된 LLM (예 : Ollama)은 Litellm을 위해 지원됩니다.
가상 환경이 활성화되었는지 확인하십시오.
source venv/bin/activate # On Windows: venvScriptsactivate
응용 프로그램 실행 :
# If inside PromptoLab, then move to the parent directory
cd ..
python3 -m PromptoLab
다음은 Promptolab의 주요 기능에 대한 빠른 시각적 개요입니다.
프로젝트는 사용합니다.
llm
도구litellm
라이브러리venv
이 프로젝트는 MIT 라이센스에 따라 라이센스가 부여됩니다. 전체 라이센스 텍스트는 저장소의 라이센스 파일을 참조하십시오.