今年的諾獎將物理和化學兩個領域的獎項都頒給了AI成果，這究竟代表著怎樣的意義，又會產生怎樣的影響？ Demis Hassabis在這次專訪中提出了自己的見解。
10月，DeepMind聯合創始人兼CEO Demis Hassabis憑藉AlphaFold成為了諾貝爾化學獎的三位共同獲獎者之一。
作為一種人工智慧軟體，AlphaFold解決了一個生物學界50年前提出的問題：預測每種已知蛋白質的結構。
事實上，AlphaFold這個極具開創性的模型，也只是DeepMind成果的一部分。成立15年來，DeepMind已躋身為全球最重要的AI實驗室之一。
儘管被Google收購、與Google Brain合併後加入了一些商業考量，但他們目前仍專注於科學和工程中最複雜和基本的問題，最終設計出能夠模仿，甚至取代人類認知能力的強大AI。
在獲得諾獎後不到24小時，Demis Hassabis就接受了《金融時報》記者Madhumita Murgia的採訪，討論了DeepMind下一步將要解決的重大難題、AI對科學進步的作用，以及他本人對agi之路的前景預測。
Demis Hassabis在GoogleDeepMind倫敦總部
AI4Science的下一個挑戰
AlphaFold 3的相關進展，就一定程度上彰顯了DeepMind在生物學領域下一步的前進方向——理解生物體內的相互作用，最終對整個通路進行建模，甚至可以構建出一個虛擬細胞。
此外，透過DeepMind子公司Isomorphic的努力，他們也在進軍藥物發現領域──設計全新的化合物、找到結合位置，並預測出這些物質的特性、吸收性、毒性等等。
目前，Isomorphic還與禮來、諾華等公司合作開展了6個藥物研發計劃，預計未來幾年內在臨床上有所進展，希望能大幅縮減藥物發現所需時間，從而幫助治癒一些疾病。
除了生物學領域，Hassabis也表示對材料設計領域的工作感到十分興奮。
去年，他們在Nature上發表的一篇論文提出了名為GNoME的AI工具，實現了AlphaFold 1等級的材料設計，共發現了220萬個新晶體；下一步，就需要努力達到AlphaFold 2等級。
論文地址： https://www.nature.com/articles/s41586-023-06735-9
在數學方面，AlphaProof和AlphaGeometry已經在今年達到了IMO銀牌的水準，接下來的幾年，DeepMind將嘗試借助AI的力量真正解決一個重要的數學猜想。
對於能源和氣候領域，去年在Science上發表的Graphcast模型能在1分鐘內以前所未有的精準度預測未來10天的天氣。
論文網址：https://www.science.org/stoken/author-tokens/ST-1550/full
這其中的技術，或許可以幫助氣候建模，這對於應對氣候變遷、優化電網等領域都非常重要。
可以看出，DeepMind的未來藍圖中，重點更放在應用和工程實踐層面，旨在將技術進一步轉化為能夠影響現實世界的工作，而非純粹的基礎研究。
對此，Hassabis表示，「蛋白質折疊」是一個「可遇不可求」的「挑戰」，不能要求每個問題都有如此含金量。
「蛋白質折疊」這個問題如此核心且重要，相當於生物學領域的費馬大定理，但可惜的是，沒有太多問題足夠重要、探索時間足夠長，能夠被稱之為「挑戰」。
諾獎將成為AI的分水嶺
今年的諾貝爾物理和化學獎項接連頒給AI學者，這很有趣，但誰也說不出評獎委員會為什麼會做出這樣的決定。
對此，Hassabis如何理解？
他表示，這很像是委員會特意發表的一種「聲明」，也將成為AI的分水嶺時刻，標誌著它的技術成熟度得到了足夠的認可，能夠協助科學發現。
AlphaFold就是最好的例子，而Hinton和Hopfield的獎項則是針對更基礎、更底層的演算法工作。
Hassabis表示，希望10年後回顧當下時，AlphaFold將預示著所有這些不同領域的科學發現的新黃金時代。
這也帶來了一個有趣的問題：有了AlphaFold這樣的工具，科學家不再需要花費過多的時間和精力來進行預測，這是否意味著我們應該開拓新的領域？甚至改變學習科學概念的方式？
需要注意的是，AI系統是一類獨特的新工具，它們具有一些內在的功能，因而不適用於傳統意義上對工具的分類。
雖然AlphaFold等工具目前只能做到預測，但從某種意義上來說，預測也是「理解」的一部分。如果你能預測，那就可以帶來理解。
甚至，如果預測的輸出夠重要，例如蛋白質的結構，那麼它本身就是有價值的。
從更宏大的觀點來看，科學中包含了許多層次的「抽象」。
例如，整個化學領域就是建立在物理學的基礎上。你不需要理解量子力學等全部的物理原理，也可以談論原子化合物，在化學自身的抽象層去理解它。
對生物學領域而言，我們可以研究生命，但仍然不知道生命是如何演化或出現的，甚至無法正確定義「生命」這個概念。
類似的，人工智慧也像一個抽象層，建構程式和網路的人們在一定的物理層面上理解這一點，但隨後產生的預測結果就像是一種突然湧現的屬性，我們可以在科學的層面上自行分析這些預測。
AGI迫近，理解很重要
無論是自然科學，或是人工智慧系統，「理解」都很重要。
人工智慧是一門工程學科，這意味著你必須先建造一個系統，之後才能研究、理解這個物件；而自然科學中的現像不需要製造，是天然存在的。
雖然AI系統是工程化的人造物，但這並不意味著比自然現象更容易研究，甚至可以預期的是，它會像生物神經網路一樣難以理解、分拆和解構。
現在這種情況正在發生，但我們已經取得了一些進展，例如有一個專門的領域叫做「機械解釋」（mechanistic interpretation），就是使用神經科學的觀念和工具來分析AI系統這個「虛擬大腦」。
對於AI的可解釋性，Hassabis非常樂觀，認為未來幾年就會在理解AI系統這方面取得很大進展。
當然，AI也可以學著解釋自己。想像將AlphaFold與語言能力系統結合起來，它就可以一邊預測，一邊解釋自己在做什麼。
目前，許多領先的實驗室正在縮小他們的探索範圍，專注於對Transformers進行擴展。不可否認，這是一個很好的方向，也將成為最終AGI系統的關鍵組成部分，但DeepMind會繼續堅持探索和創新研究。
事實上，對於發明下一代Transformer而言，DeepMind擁有迄今為止最廣泛、最深入的研究平台，這是他們科學遺產的一部分。
這些探索都是必要的，一部分原因是為了看看我們能走多遠，這樣就知道需要探索什麼。
探索新想法，以及將令人興奮的想法發揮到極致，這兩條路都很重要。如果你不了解當前想法的絕對限制，也不會知道需要哪些突破。
LLM的長上下文視窗就是一個很好的例子。 GoogleGemini 1.5 Pro做出的2M token上下文就是一個很酷的創新，目前沒有其他人能夠複製。
谷歌DeepMind倫敦辦公室
理解AI，才會有安全的AGI
Hassabis和許多科技領導者都曾預測，實現AGI還需要5～20年的時間。
如果要用科學方法實現這個目標，就意味著更多的時間、精力和思考，集中在AI的理解和分析工具、基準測試和評估上，需要目前投入的10倍。
這些投入不僅來自科技公司，也應包括AI安全機構，也來自學術界和民間社會。我們需要了解AI系統正在做什麼、它們的局限性，以及如何控制和保護這些系統。
「理解」是科學方法的重要組成部分，卻是純工程中所缺乏的。工程只是旁觀──這個方法有效嗎？如果不起作用就再試一次，充滿了試驗和誤差。
科學則是在一切發生之前就能理解的東西。理想情況下，這種理解意味著更少的錯誤。這對AI和AGI來說很重要，因為在運用一項如此強大的技術時，你希望盡可能少犯錯。
也許幾年後，當我們接近AGI時，就會出現一個社會問題──我們希望這些系統有什麼價值？我們要為它們設定什麼樣的目標？
這與技術問題不同。技術層面關注的是如何讓系統走上正軌，朝著設定的目標前進，但並不能幫助我們決定目標應該是什麼。
為了安全的AGI系統，技術問題和社會問題，這兩件事都需要正確，但Hassabis認為，後者可能更難實現。
目標和價值觀等一系列問題，會更涉及UN和地緣政治，甚至社會科學和哲學，需要與政府、學術界和民間社會各階層進行廣泛的討論。
即使AGI還需要10年才能實現，我們解決這些問題的時間也不是很多，因此這方面的討論應該從現在開始，讓各種來源、各種觀點的聲音呈現在桌面上。