Microsoft는 최근 허위 정보를 생성하는 인공 지능의 문제를 해결하기위한 특허 출원 (AI 환각)을 제출했습니다. "언어 모델과 상호 작용하기 위해 외부 지식 및 피드백 입력"이라는 특허 애플리케이션은 "RAS (Response Augmentation System)"라는 메커니즘을 통해 AI 모델의 정확성과 신뢰성을 향상시키는 것을 목표로합니다. 이 시스템은 외부 소스에서 자동으로 더 많은 정보를 얻고 AI에서 생성 된 답변을 확인하고 잠재적 인 단점을 사용자에게 신뢰하여 AI가 생성 한 잘못된 정보를 효과적으로 줄일 수 있습니다. 이 특허 출원의 공개는 AI 환각 문제에 대한 Microsoft의 싸움에서 중요한 진전을 보이며이 문제를 해결해야 할 업계의 긴급한 필요성을 반영합니다.
최근 Microsoft는 기술적 인 접근 방식을 통해 인공 지능에 의해 생성 된 허위 정보를 줄이거 나 제거하기위한 특허 출원을 제출했습니다. "외부 지식 및 피드백 사용을 사용하여 언어 모델과 상호 작용하기"라는 특허는 작년에 미국 특허 및 상표 사무소 (USPTO)에 제출되었으며 10 월 31 일에 출판되었습니다. 이 제안의 핵심은 AI 모델에 "RAS (Response Enhancement System)"(RAS)를 제공하여 사용자 쿼리를 기반으로 더 많은 정보를 자동으로 추출하고 해당 답변의 "유효성"을 확인할 수 있도록하는 것입니다.
구체적으로, 응답 향상 시스템은 사용자의 질문에 더 잘 대답 할 수있는 "외부 소스"의 정보가 있는지 여부를 식별 할 수 있습니다. AI의 답변 에이 정보 가이 정보를 포함하지 않으면 시스템은 비효율적 인 것으로 결정합니다. 또한 RAS는 사용자에게 답변에 결점이 있는지 여부를 사용자에게 유도 할 수 있으며 사용자는 이에 대한 피드백을 제공 할 수도 있습니다. 이 솔루션의 장점은 개발자 나 회사가 기존 모델을 자세히 조정할 필요가 없다는 것입니다.
현재 USPTO 웹 사이트는 신청서의 특허 번호를 보여주지 않았으므로 특허가 아직 검토 중입니다. 우리는 특허가 AI 환상을 줄이기위한 이전에 발표 된 도구 인 Azure AI Content Security Tool과 관련이 있는지를 포함하여 Microsoft에 문의했습니다. 이 도구는 Enterprise AI Chatbots에 대한 AI 중심 검증을 제공합니다.이 도구는 AI의 답변이 "근거가없는"또는 "설립"인지 확인할 수 있습니다.
AI 환각 문제는 생성 AI가 직면 한 가장 큰 과제 중 하나이며, 이는 AI 챗봇의 신뢰성에 심각한 영향을 미칩니다. 이와 관련하여 Google과 Twitter의 AI 시스템은 사용자에게 피자 또는 식사를 먹는 데 접착제를 적용하고 선거 정보를 전파하도록 제안하는 것과 같은 놀라운 실수를 저질렀습니다. Apple CEO Tim Cook은 또한 Apple의 스마트 기술이 환각을 피할 수 없다고 인정했습니다. 최근 OpenAi의 "Whisper"오디오 전사 도구는 빈번한 환각이있는 것으로 밝혀졌으며, 이는 미국 병원에서의 사용에 관심을 끌었습니다.
저명한 AI 환상 문제에도 불구하고 기술 거대 기업은 여전히 AI 데이터 센터에 대한 수요가 강하고 Google, Microsoft 및 Meta를 포함한 회사는 원자력을 AI의 고 에너지 요구를 충족시키는 잠재적 솔루션으로 고려하고 있습니다.
핵심 사항 :
Microsoft는 AI가 생성 한 허위 정보를 줄이기 위해 새로운 특허를 제출했습니다.
이 특허의 핵심은 AI 모델이 더 많은 정보를 자동으로 추출 할 수있는 응답 향상 시스템을 도입하는 것입니다.
심각한 AI 환각 문제에도 불구하고 기술 회사의 AI 데이터 센터에 대한 수요는 여전히 강력합니다.
Microsoft의 특허 응용 프로그램 공개는 기술 회사가 AI 환각 문제를 다루는 데 더 많은 노력을 기울일 것임을 나타냅니다. 앞으로보다 신뢰할 수 있고 신뢰할 수있는 AI 시스템이 나타날 것으로 예상되며, 이는 AI 기술의 응용 가치와 사용자 경험을 크게 향상시킬 것입니다.