OpenAI активно изучает потенциал применения больших языковых моделей в области разведки биологических угроз. Они разработали систему раннего предупреждения GPT-4, которая предназначена для выявления потенциальных угроз биологического оружия и включения их в систему предотвращения рисков OpenAI. Эта система не предназначена для замены существующих методов сбора разведывательной информации, но призвана повысить эффективность сбора информации и помочь экспертам в вынесении суждений. Недавнее исследование с участием 100 участников предварительно оценило эффективность GPT-4 при получении вспомогательной информации. Результаты показали, что GPT-4 в сочетании с Интернетом может немного повысить точность и полноту, но эффект ограничен, и в исследовании также указано, что. только оценка информации. Сбор информации имеет свои ограничения.
OpenAI, американская исследовательская компания в области искусственного интеллекта, недавно приступила к разработке системы раннего предупреждения для GPT-4, чтобы выяснить, могут ли крупномасштабные языковые модели повысить эффективность получения информации о биологических угрозах по сравнению с Интернетом. Система спроектирована так, чтобы служить «триггером», сигнализирующим о потенциальном наличии биологического оружия, требующего дальнейшего расследования, и при этом включает в себя систему предотвращения OpenAI. В аналогичном исследовании 100 участников показали, что использование GPT-4 в сочетании с Интернетом привело к небольшому улучшению точности и полноты задач по биологической опасности, но эффект не был значительным. В исследовании подчеркиваются ограничения только оценки получения информации, а не практического применения, и не исследуется потенциальный вклад GPT-4 в разработку нового биологического оружия. В то же время OpenAI объявила о выпуске нескольких новых моделей, предоставляющих больше возможностей применения.
Хотя результаты этого исследования OpenAI ограничены, оно демонстрирует его акцент на ответственном применении технологий искусственного интеллекта и предоставляет ценный опыт для будущих исследований крупномасштабных языковых моделей в области биобезопасности. Дальнейшие исследования должны быть сосредоточены на производительности и потенциальных рисках GPT-4 в практическом применении, а также на разработке более полного механизма безопасности.