OpenAI正積極探索大型語言模型在生物威脅情報領域的應用潛力。他們開發了GPT-4早期預警系統,旨在識別潛在的生物武器威脅,並將其納入OpenAI的風險預防框架。該系統並非旨在取代現有的情報收集方法,而是希望提升資訊取得效率,輔助人類專家進行判斷。近期一項涉及100名參與者的研究初步評估了GPT-4輔助資訊取得的效能,結果顯示GPT-4與互聯網結合能夠略微提升準確性和完整性,但效果有限,且研究也指出僅評估信息獲取本身的限制。
美國人工智慧研究公司OpenAI最近著手研發GPT-4的早期預警系統,以探討大型語言模型是否能提高獲取關於生物威脅資訊的效率,相較於網路。該系統旨在作為一種“觸發器”,提示潛在存在生物武器的可能性,需要進一步調查,同時納入OpenAI的預防框架。在相關研究中,100名參與者顯示使用GPT-4與網路結合在生物危害任務的準確性和完整性上略有改善,但效果並不顯著。該研究強調了僅評估資訊獲取而非實際應用的限制,未探討GPT-4在新型生物武器開發中的潛在貢獻。同時,OpenAI宣布了多項新模型的發布,以提供更多應用選擇。
OpenAI的這項研究雖然結果有限,但展現了對人工智慧技術負責任應用的重視,也為未來大型語言模型在生物安全領域的研究提供了寶貴的經驗。 進一步的研究需要關注GPT-4在實際應用上的效能以及潛在風險,並制定更完善的安全機制。