2024년 미국 대선 이후 허위정보가 인터넷을 통해 급속도로 퍼지며 여론에 심각한 영향을 미쳤다. 생성 인공 지능 기술의 발전과 딥페이크 및 "환각" 사실을 생성하는 능력은 이 문제를 더욱 악화시킵니다. 이러한 문제를 해결하기 위해 노르웨이의 스타트업 Factiverse가 등장했습니다. 이 회사는 실시간 사실 확인에 AI 기술을 사용하여 기업이 위험을 줄이고 정보의 신뢰성을 향상시킬 수 있도록 최선을 다하고 있습니다. Downcodes의 편집자는 Factiveverse와 그 기술적 이점을 자세히 설명합니다.
2024년 미국 대통령 선거의 여파로 온라인에 퍼지는 거짓 정보의 놀라운 속도는 후보자는 물론 공중 보건, 기후 변화, 이민과 같은 주제에 대한 미국인의 견해에 심각한 영향을 미쳤습니다. 딥페이크를 생성하는 능력과 사실을 “환각”시키는 경향이 결합된 생성 인공지능의 발전은 이 문제를 더욱 악화시킬 수 있습니다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
이 문제를 해결하기 위해 노르웨이 스타트업 Factiveverse가 등장했습니다. 이 회사는 10월 TechCrunch Disrupt Battlefield200 대회에 참가하여 보안, 개인 정보 보호 및 소셜 네트워킹 부문에서 최우수 프레젠테이션을 수상했습니다. Factiveverse는 텍스트, 비디오 및 오디오 콘텐츠의 실시간 사실 확인을 가능하게 하는 비즈니스용 도구를 개발했습니다. 회사의 목표는 기업이 연구 시간을 절약하고 평판 위험과 법적 책임을 줄일 수 있도록 돕는 것입니다.
2020년에 설립된 Factiveverse는 아직 초기 단계에 있으며 약 145만 달러를 모금했습니다. 그럼에도 불구하고 Factiveverse는 이미 노르웨이 최대 은행 중 하나를 포함하여 여러 미디어 및 금융 파트너와 협력하기 시작했습니다. 팩티브버스의 CEO이자 공동 창업자인 마리아 아멜리(Maria Amélie)는 많은 언론 매체에서 활용했던 미국 대선 토론회에 대한 실시간 팩트체크 서비스까지 제공했다고 밝혔다.
Amelie는 Factiverse가 LLM(대형 언어 모델)이 아니라 정보 검색을 기반으로 구축된 모델임을 강조했습니다. 전직 기술 저널리스트이자 출판 작가인 Amélie는 공동 창립자이자 CTO인 Veena Sethi와 협력하여 광범위한 사실 조사 경험을 제공합니다. 그들의 AI 모델은 생성적 AI가 사용하는 "정크 푸드 데이터"가 아닌 전 세계의 신뢰할 수 있는 소스와 사실 확인 기관의 고품질 데이터로 훈련되었습니다.
이 모델은 머신러닝과 자연어 처리 기술을 활용해 정보 속 주장을 실시간으로 파악하고, 학술 논문은 물론 구글, 빙 등 검색 엔진을 포함한 웹 전반에서 이를 검색한다. Amelie는 “가장 흥미로운 부분은 단순히 검색 엔진에 첫 번째 결과를 표시하는 것이 아니라 콘텐츠의 권위성을 보장하기 위해 가장 신뢰할 수 있는 소스를 제안한다는 것입니다.”라고 말했습니다.
현재 Factiveverse는 114개 언어로 사실 확인 가치가 있는 주장을 식별하는 능력에서 GPT-4, Mistral7-b 및 GPT-3보다 뛰어난 성능을 발휘한다고 주장합니다. Amelie는 Factiverse의 성공률이 약 80%이며 향후 목표는 전 세계적으로 더 많은 고객을 유치하고 정확성을 높이는 것이라고 언급했습니다.
아멜리는 마침내 "최고가 되기에 충분한 자금이 있지만 미국에서 가장 빠르게 성장하는 회사가 되는 것이 우리의 목표"라고 말했다. 그녀는 또한 Factiveverse가 2025년에 새로운 자금 조달을 실시할 계획이며 Attract를 기대한다고 언급했습니다. 믿음과 신뢰를 바탕으로 투자하고자 하는 고객과 투자자.
Factiveverse의 등장은 정보화 시대에 급증하는 허위 정보에 대처할 수 있는 새로운 솔루션을 제시하며, 그 기술적 장점과 발전 전망에 주목할 만합니다. 앞으로 Factiveverse가 글로벌 규모로 더 큰 역할을 수행하고 보다 진정성 있고 신뢰할 수 있는 정보 환경을 구축하는 데 기여할 것으로 기대합니다. Downcodes의 편집자는 계속해서 개발 동향에 주의를 기울일 것입니다.