히타치 제작소(Hitachi Manufacturing Co., Ltd.)는 제너레이티브 AI(Generative AI)로 생성된 물품을 효과적으로 식별할 수 있는 새로운 기술을 개발했습니다. 이 기술은 기사에 포함된 단어의 사용 패턴을 분석하여 그 출처를 결정하는 중요한 응용 가치를 가지고 있습니다. 생성적 AI 기술이 급속히 발전하는 가운데, AI가 생성한 콘텐츠와 인공적으로 생성된 콘텐츠를 어떻게 구별하고, 이로 인해 발생하는 위험을 효과적으로 방지할 수 있는지가 전 세계적으로 관심의 초점이 되었습니다. 이 기술은 기업과 기관이 저작권 침해 등 법적 위험을 피할 수 있을 뿐만 아니라, 허위 정보의 확산을 효과적으로 방지하고 정보 보안을 유지하는 데 도움이 될 수 있습니다.
최근 히타치제작소(Hitachi Manufacturing Co., Ltd.)는 제품이 생성 AI에 의해 생성되었는지 여부를 판단할 수 있는 강력한 자체 기술을 개발했습니다.
이 기술은 단순하지 않고 기사에 나오는 단어의 사용 패턴을 기반으로 합니다. 왜 그런 기술을 개발해야 할까요? 미래에 큰 도움이 될 것이기 때문입니다! 저작권 침해 등의 위험을 방지하기 위해
이제 생성적 AI를 둘러싸고 유럽연합, 미국, 일본은 법과 규정을 점진적으로 개선하고 관련 논의를 계속하고 있습니다. 그들은 대규모 언어 모델(LLM)을 개발하는 회사가 비디오, 이미지 및 기사가 생성 AI에서 파생되었음을 나타내야 한다고 믿습니다.
히타치가 새롭게 개발한 이 기술은 AI 개발 기업의 LLM 기반 기사 작성 기술에 탑재될 예정이다. 또한 동의어가 많아도 특정 단어를 사용해야 한다는 규칙을 설정합니다. 이 규칙에 따라 기사에 다수의 단어가 사용되면 AI가 작성한 것으로 판단됩니다. 히타치는 복수의 단어 선택 규칙을 조합해 판단의 정확성을 크게 높이는 기술도 개발했다고 들었습니다.
제너레이티브 AI라고 하면 사실과 맞지 않는 콘텐츠, 이른바 '환상'을 만들어낸다는 골치 아픈 문제가 있다. 하지만 제너레이티브 AI로 작성된 기사임을 사전에 식별할 수 있다면 허위 정보가 유포될 위험을 줄일 수 있습니다!
하이라이트:
히타치의 기술은 생성 AI가 제기하는 과제에 대한 새로운 솔루션을 제공하며, 허위 정보의 확산을 방지하고 지적 재산권을 보호하는 히타치의 역할은 기대할만한 가치가 있습니다. 기술이 지속적으로 향상됨에 따라 잠재적인 위험을 피하면서 AI를 더 잘 활용하는 데 도움이 되는 유사한 기술이 미래에 더 많이 등장할 것이라고 믿습니다.