10月25—27日，一場來自全球頂尖智慧的腦力激盪在上海臨港匯聚。從因應當下全球挑戰到未來人工智慧治理、從生命科學前沿到物理科學邊界，在2024世界頂尖科學家論壇上，包括11位諾貝爾獎得主在內的近300名世界頂尖科學家齊聚盛會。他們從不同的專業出發，詮釋了用科技塑造永續未來、用科技提升人類共同福祉的夢想。
「科學或技術本身是中性的，但科技有時會帶來一些讓人始料未及的威脅和挑戰，其中就包括全球氣候暖化、區域紛爭等世界難題。」2004年諾貝爾物理學獎得主、美國加州大學聖塔芭芭拉分校教授大衛‧格羅斯在世界頂尖科學家論壇開幕式主題演講中說，「這就需要全球科學家合作，應對不斷變化的各種世界難題，引導科學向善，青年科學家更需要站出來挑起大樑。
在今年的世界頂尖科學家論壇上，AI相關的議題佔了重要部分。當AI成為新的生產力，我們是否準備好應對AI帶來的「雙面刃」效應？在世界頂尖科學家智慧科學大會上，頂尖專家和業者共同探討如何建構全球AI監管體系。
「過去幾十年甚至上百年來，科學研究一直面臨著一些困境。如今，隨著AI的發展，科學研究將迎來一系列新突破。」中國科學院院士、北京大學智能研究院院長、北京大學國際機器學習研究中心主任鄂維南分析說，在許多科學研究中，AI已成為不可或缺的工具。例如，AlphaFold系列模型擁有預測蛋白質單鏈、複合體及複雜生物分子結構的能力，一舉解決了困擾生物科學多年的基礎問題。
「人工智慧不是一誕生就帶來了威脅，而是機會中伴隨著威脅。」面對AI背後的倫理風險和安全挑戰，中國新一代人工智慧發展戰略研究院執行院長龔克在論壇上表示，如今由政府、國際組織或是知名國際會議發表的治理框架或宣言多達幾百個，可它們是「支離破碎」的，在協調和執行上存在不小的問題。他認為，加速建立全球性AI治理架構是當務之急。
2010年諾貝爾經濟學獎得主、英國倫敦政經學院教授克里斯多福·皮薩里德斯特別關注AI對於未來人類工作的影響。他認為AI廣泛應用的時代也許即將到來，但當前AI的應用仍然非常有限。根據其理論研究與社會調查發現，現在大多數情況ai應用場景較為簡單，主要的應用是影像辨識監控等。 AI技術有可能構成新的人機競爭而降低員工的福祉，他呼籲：“科技在提高生產力的同時，也應該能夠持續提升員工的福祉。”
身為2024世界頂尖科學家協會獎「智慧科學或數學獎」得主，美國康乃爾大學電腦科學與資訊科學講席教授喬恩‧克萊因伯格表示：「電腦科學家不僅需要『確保我們所搭建的演算法、選擇的設計能造福人類'，也需要與經濟學、社會學、行為科學、法學和政策研究等領域專家深入合作，希望我們能全力以赴、創造性地解決這些問題。