OpenAI는 생물학적 위협 인텔리전스 분야에서 대규모 언어 모델의 적용 가능성을 적극적으로 탐색하고 있습니다. 그들은 잠재적인 생물 무기 위협을 식별하고 이를 OpenAI의 위험 예방 프레임워크에 통합하도록 설계된 GPT-4 조기 경보 시스템을 개발했습니다. 이 시스템은 기존 정보 수집 방법을 대체하기 위한 것이 아니라 정보 수집의 효율성을 높이고 인간 전문가의 판단을 지원하기 위한 것입니다. 최근 100명의 참가자를 대상으로 한 연구에서는 보조 정보 획득에 있어 GPT-4의 효율성을 사전 평가한 결과, GPT-4를 인터넷과 결합하면 정확도와 완성도가 약간 향상될 수 있지만 효과는 제한적이라는 점을 연구에서도 지적했습니다. 정보만을 평가하는 것 획득에는 그 자체의 한계가 있습니다.
미국의 인공지능 연구 회사인 OpenAI는 최근 대규모 언어 모델이 인터넷에 비해 생물학적 위협에 대한 정보 획득 효율성을 향상시킬 수 있는지 탐구하기 위해 GPT-4에 대한 조기 경보 시스템 개발에 착수했습니다. 이 시스템은 OpenAI의 예방 프레임워크를 통합하면서 추가 조사가 필요한 생물학적 무기의 잠재적 존재를 알리는 "트리거" 역할을 하도록 설계되었습니다. 관련 연구에서 100명의 참가자를 대상으로 인터넷과 결합된 GPT-4를 사용하면 생물학적 위험 작업의 정확성과 완성도가 약간 향상되었지만 그 효과는 크지 않은 것으로 나타났습니다. 이 연구는 실제 적용이 아닌 정보 획득만을 평가하는 것의 한계를 강조하고 새로운 생물 무기 개발에 대한 GPT-4의 잠재적 기여를 탐구하지 않습니다. 동시에 OpenAI는 더 많은 애플리케이션 옵션을 제공하기 위해 여러 가지 새로운 모델 출시를 발표했습니다.
OpenAI의 이번 연구 결과는 제한적이지만 인공지능 기술의 책임감 있는 적용을 강조하고 생물보안 분야의 대규모 언어 모델에 대한 향후 연구에 귀중한 경험을 제공합니다. 추가 연구에서는 실제 응용 분야에서 GPT-4의 성능과 잠재적 위험에 초점을 맞추고 보다 완전한 보안 메커니즘을 개발해야 합니다.