인공 지능 기술의 빠른 발전으로 인해 AI "Illusion"의 문제가 점점 두드러지고 있으며, 기업에 큰 명성과 경제적 손실을 가져옵니다. AI 시스템은 고객 서비스, 재무 및 의료 분야에서 잘못된 정보와 불안한 행동을 가지고 있으며, 이는 신뢰성과 신뢰성에 심각한 영향을 미칩니다. 이 문제를 해결하기 위해 점점 더 많은 회사들이 AI 보안에주의를 기울이고 효과적인 솔루션을 적극적으로 추구하기 시작했습니다.
인공 지능의 빠른 발전으로 인해 AI "Illusion"현상은 점점 더 빈번 해지고 있으며, 이는 많은 회사들에게 상당한 문제를 일으켰습니다. 고객 서비스 챗봇은 존재하지 않는 제품을 자신있게 설명하고, 금융 AI는 시장 데이터를 제조하며, 의료 로봇은 위험한 의학적 조언을 제공합니다. 이러한 문제는 더 이상 흥미로운 것이 아니라 회사의 명성과 이익에 영향을 미치는 주요 숨겨진 위험입니다.
이러한 도전을 해결하기 위해 샌프란시스코에 기반을 둔 스타트 업 Patronus AI는 AI 시스템이 실시간으로 실패하지 않도록 설계된 세계 최초의 셀프 서비스 플랫폼을 출시했다고 발표했습니다. 이 플랫폼은 AI 시스템의 "철자 검사기"와 같습니다. 문제가 발생하기 전에 캡처 할 수 있습니다.
Patronus AI의 CEO 인 Anand Kannappan은 인터뷰에서 많은 회사들이 환각, 보안 위반 및 예측할 수없는 행동을 포함한 생산 환경에서 AI 실패에 직면하고 있다고 말했다. 회사 연구에 따르면 GPT-4와 같은 주요 AI 모델은 프롬프트 될 때 저작권이있는 컨텐츠를 반복 할 확률이 44%이며, 고급 모델조차도 기본 보안 테스트에서 안전하지 않은 확률로 20% 이상입니다.
기업이 AI 시스템의 보안을 향상시키기 위해 Patronus AI는 다양한 혁신적인 기능을 제공합니다. 그중에서도 가장 두드러진 "평가자"기능을 통해 기업은 간단한 영어로 맞춤형 평가 규칙을 작성할 수 있습니다. 이러한 유연성을 통해 금융 서비스 회사가 규정 준수에 집중할 수있는 반면 의료 기관은 환자의 개인 정보 및 의료 정확도에 집중할 수있는 반면, 금융 서비스 회사와 같은 요구에 따라 모든 생계의 회사가 조정할 수 있습니다.
플랫폼의 핵심에는 Lynx라는 획기적인 환각 탐지 모델이 있으며, 이는 의학적 부정확성을 식별하는 데 GPT-4보다 8.3% 더 정확합니다. 또한 플랫폼에는 실시간 모니터링을위한 두 가지 운영 모드가 있고 다른 하나는 심층 분석을위한 두 가지 운영 모드가 있습니다. 이 회사는 기존의 오류 확인 외에도 CopyrightCatcher 및 FinanceBench와 같은 특수 도구를 개발하여 기업에 포괄적 인 AI 실패 보호를 제공했습니다.
이러한 보안 도구를 더 많은 비즈니스에 저렴하게 만들기 위해 Patronus AI는 1,000 API 전화 당 $ 10부터 시작하는 가격 책정 모델을 채택합니다. 얼리 어답터에는 이미 HP, Angellist 및 Pearson과 같은 대기업이 포함되어 있으며 AI 보안 투자에 중요합니다.
오늘날 AI의 빠른 개발로 Patronus AI와 같은 플랫폼은 비즈니스가 위험을 줄이는 데 도움이 될뿐만 아니라 다가오는 법률 및 규정을 준수하는 데 도움이 될 수 있습니다. AI 시스템의 지속적인 진화로 인해 이러한 "환상"을 정확하게 포착하고 수정하는 방법은 기업이 직면 한 중요한 도전이 될 것입니다.
제품 포털 : https://www.patronus.ai/
핵심 사항 :
Patronus AI는 AI 환각을 실시간으로 감지하고 방지하기 위해 세계 최초의 셀프 서비스 API를 시작합니다.
이 플랫폼을 통해 비즈니스는 간단한 영어로 맞춤형 평가 규칙을 작성하여 유연한 솔루션을 제공 할 수 있습니다.
CAN-EAT 모델을 채택하면 더 많은 비즈니스가 AI 보안 도구를 제공 할 수 있습니다.
Patronus AI의 출현은 AI 환각 문제를 해결하기위한 효과적인 솔루션을 제공합니다 AI 기술 개발.