OpenAI聯合創辦人伊利亞·蘇茨克維爾在NeurIPS 2024大會上發表演講,指出人工智慧預訓練時代即將結束,並預測人工智慧超級智慧的興起。他認為現有AI模型對數據的依賴如同對化石燃料的依賴,數據總量增長速度已無法滿足模型需求的擴張,因此必須探索新的方法來擴展機器智慧。
OpenAI 聯合創始人 Ilya Sutskever 最近表示,人工智慧研究人員必須找到新的方法來擴展機器智能,以克服現有限制。
蘇茨克維爾在加拿大溫哥華舉行的2024年神經資訊處理系統(NeurIPS) 大會上發表了一場演講,他認為人工智慧預訓練的時代即將結束,並預測了人工智慧超級智慧的興起。
蘇茨克維爾認為,透過更好的硬體、軟體和機器學習演算法來提高運算能力,其速度已經超過了可用於AI 模型訓練的資料總量。這位AI 研究人員將數據比作化石燃料,終將有耗盡的一天。蘇茨克維爾表示:
「數據不會成長,因為我們只有一個網路。你甚至可以說,數據是AI 的化石燃料。它以某種方式被創造出來,現在我們使用它,並且我們已經達到了數據峰值,未來不會再有更多的數據了——我們必須處理我們擁有的數據。
這位OpenAI 聯合創始人預測,智能體AI、合成數據和推理時間計算將是人工智慧的下一個演變方向,並最終促成人工智慧超級智慧的誕生。
AI 智能體或將顛覆現有模式
AI 智能體的能力超越了目前的聊天機器人模型,它們能夠在沒有人為幹預的情況下做出決策。隨著AI 迷因幣和Truth Terminal 等大型語言模型(LLM) 的興起,AI 智能體已成為加密貨幣領域的熱門話題。
Truth Terminal 在開始推廣一種名為Goatseus Maximus (GOAT) 的迷因幣後迅速走紅。該模因幣最終達到了10億美元的市值,吸引了散戶投資者和創投家的注意。
谷歌DeepMind 人工智慧實驗室發布了Gemini2.0——一種將為AI 智能體提供動力的人工智慧模型。
據谷歌稱,使用Gemini2.0框架構建的智能體將能夠協助完成複雜的任務,例如在網站之間進行協調和邏輯推理。
能夠獨立行動和推理的AI 智能體的進步將為AI 克服數據幻覺奠定基礎。
AI 幻覺的出現是由於不正確的資料集,以及AI 預訓練越來越依賴使用舊的LLM 來訓練新的LLM,這會隨著時間的推移降低效能。
資料瓶頸與AI 未來
蘇茨克維爾的觀點強調了AI 發展面臨的巨大挑戰:隨著AI 模型規模的不斷擴大,對數據的需求也日益增長。然而,現實是,可用資料量成長的速度遠遠趕不上模型對資料需求的成長。這迫使研究人員必須探索新的方法,來克服資料瓶頸。
AI 智能體、合成資料和推理時間計算,或許將成為AI 未來發展的新方向。這些技術將有望幫助AI 模型減少對大量資料的依賴,並提高其推理和決策能力。而AI 超級智慧的出現,則預示著AI 技術可能將迎來一個全新的時代,它或將徹底改變我們現有的生活方式和工作模式。
然而,AI 超級智慧的出現,也引發了人們對AI 倫理和安全的擔憂。如何在享受AI 技術帶來的便利的同時,確保AI 技術的可控性和安全性,將是我們需要認真思考的問題。
總而言之,蘇茨克維爾的演講為人工智慧未來的發展方向指明了新的路徑,同時也提醒我們關注AI超級智慧帶來的倫理和安全挑戰,需要謹慎前行,積極探索解決方案。