피들러 감사관
v0.0.5
대규모 언어 모델 감사가 쉬워졌습니다!
언어 모델을 통해 기업은 혁신적인 애플리케이션을 구축하고 출시하여 생산성을 향상하고 고객 만족도를 높일 수 있습니다. 그러나 LLM은 환각을 일으키고, 사용자에게 해를 끼칠 수 있는 적대적인 반응을 생성하고, 메시지가 표시되거나 표시되지 않을 때 교육을 받은 개인 정보를 노출할 수도 있는 것으로 알려져 있습니다. ML 및 소프트웨어 애플리케이션 팀에서는 LLM 및 NLP 모델을 출시하기 전에 이러한 위험과 약점을 최소화하는 것이 그 어느 때보다 중요합니다. 따라서 제작 전에 언어 모델을 철저하게 감사하는 프로세스를 포함시키는 것이 중요합니다. Fiddler Auditor를 사용하면 LLM 및 NLP 모델을 테스트하고, 모델의 약점을 식별하고, 프로덕션에 배포하기 전에 잠재적인 적대적 결과를 완화할 수 있습니다.
Fiddler 감사자는 다음을 지원합니다.
text-davinci-003에 대해 Fiddler Auditor가 생성한 예제 보고서입니다.Auditor는 PyPI에서 사용할 수 있으며 Python 3.8 이상에서 테스트합니다. 가상 Python 환경을 생성하고 다음 명령을 사용하여 설치하는 것이 좋습니다.
pip install fiddler-auditor다음 명령을 사용하여 이 저장소를 복제한 후 소스에서 설치할 수 있습니다.
pip install . 우리는 진화하는 언어 모델을 지원하기 위해 이 라이브러리를 지속적으로 업데이트하고 있습니다.
단계별 지침을 보려면 기여 가이드를 따르세요.
