다운코드 편집자는 마이크로소프트가 최근 인공지능이 생성하는 허위 정보 문제를 해결하기 위한 특허 출원을 제출했다는 사실을 알게 됐다. '언어 모델과 상호작용하기 위한 외부 지식 및 피드백 사용'이라는 제목의 특허 출원서는 지난해 미국 특허청(USPTO)에 제출돼 지난 10월 31일 공개됐다. 해당 특허는 AI 모델 답변의 정확성과 신뢰성을 높이고 AI '환각' 발생을 줄이는 것을 목표로 하는 '반응 증강 시스템(RAS)'을 제안하고 있다. 이 기술은 기존 모델에 대한 복잡한 조정이 필요하지 않으며, 외부 정보 소스와 사용자 피드백을 결합하여 AI 답변의 품질을 효과적으로 향상시켜 허위 정보 생성을 줄입니다.
최근 마이크로소프트는 인공지능이 생성하는 허위정보를 기술적 방법을 통해 줄이거나 제거하는 것을 목표로 하는 특허출원을 제출했다. 이 특허는 '외부 지식과 피드백을 이용한 언어 모델 상호작용'이라는 제목으로 지난해 미국 특허청(USPTO)에 제출돼 지난 10월 31일 공개됐다.
이 제안의 핵심은 사용자 쿼리를 기반으로 더 많은 정보를 자동으로 추출하고 답변의 '타당성'을 확인할 수 있는 '응답 증강 시스템(RAS)'을 AI 모델에 제공하는 것입니다.
특히, 응답 향상 시스템은 "외부 소스"의 정보가 사용자의 질문에 더 나은 답변을 제공할 수 있는지 여부를 식별할 수 있습니다. AI의 답변에 이 정보가 포함되어 있지 않으면 시스템은 해당 정보가 충분히 유용하지 않다고 판단합니다. 또한 RAS는 답변에 부족한 부분이 있는 경우 사용자에게 메시지를 표시할 수도 있으며 사용자는 이에 대한 피드백을 제공할 수도 있습니다. 이 접근 방식의 장점은 개발자나 회사가 기존 모델을 세부적으로 조정할 필요가 없다는 것입니다.
현재 USPTO 웹사이트에는 해당 출원에 대한 특허 번호가 아직 표시되지 않습니다. 이는 특허가 아직 검토 중임을 의미합니다. 우리는 특허가 Microsoft가 이전에 발표한 AI 환상을 줄이기 위한 도구인 Azure AI 콘텐츠 보안 도구와 관련이 있는지 여부를 포함하여 자세한 내용을 알아보기 위해 Microsoft에 연락했습니다. 이 도구는 기업용 AI 챗봇에 대한 AI 기반 검증을 제공하며, AI의 답변이 '근거 없음'인지 '근거 있음'인지를 백그라운드에서 확인하고 사용자에게 답변을 제공하기 전에 실제 데이터가 뒷받침하는 답변만 제공할 수 있습니다. 답변.
AI 환상의 문제는 생성적 AI가 직면한 가장 큰 과제 중 하나이며, 이는 AI 챗봇의 신뢰성에 심각한 영향을 미칩니다. 이런 점에서 구글과 트위터 AI 시스템 모두 사용자에게 피자에 접착제를 바르거나 돌을 먹도록 권유하고 심지어 선거 허위정보를 퍼뜨리는 등 눈에 띄는 오류를 범했다. 애플 CEO 팀 쿡도 애플의 스마트 기술도 환각 문제를 피할 수 없다고 인정했다. 최근에는 오픈AI의 '위스퍼(Whisper)' 오디오 전사 도구도 환각을 자주 경험하는 것으로 밝혀져 미국 병원에서의 활용이 주목받고 있다.
AI 환각이라는 두드러진 문제에도 불구하고 거대 기술 기업들은 여전히 AI 데이터 센터에 대한 수요가 높으며 Google, Microsoft, Meta 등의 기업은 원자력을 AI의 높은 에너지 소비 요구 사항을 충족할 수 있는 잠재적인 솔루션으로 고려하고 있습니다.
마이크로소프트의 이번 움직임은 AI 모델의 신뢰성을 높이고 허위 정보의 확산을 줄이기 위한 것으로, 이는 AI 기술의 개발과 적용에 있어 큰 의미를 갖는다. 앞으로는 이 특허가 성공적으로 검토를 통과하고 최종적으로 실제 제품에 사용되어 사용자에게 더욱 안전하고 신뢰할 수 있는 AI 경험을 제공할 수 있기를 기대합니다.