智慧時代進入新序章，AI（人工智慧）等新技術與現實世界的各行百業加速融合。問題也隨之而來：AI的奔湧浪潮將帶我們走向何方？我們該以何態度面對科技變革？
9月5日至7日，2024外灘大會在上海舉行。作為一個具有全球影響力的金融科技與前沿科技大會，外灘大會建構了科技與人文的橋樑，成為觀察中國AI產業落地與發展的重要窗口。
黃山景區智能體正式發布，訊飛星火醫療大模型、國盾量子的產品展示，中國科學技術大學網絡空間安全學院是全球Deepfake攻防挑戰賽的表演賽出題方之一…不少“安徽場景” 「安徽元素」也同步亮相，與外灘大會一起展示著科技的人文深度和溫度，讓「科技越向前、越為每個人」不斷走入現實。
更專業的AI
就像蒸汽機改變世界，源自於它開始與船、火車、紡織機融合，AI領域也正在經歷「百模大戰」到「產業應用」的關鍵演進。
數位分身輔助完成工作、腦機輔助深度睡眠、人造肌肉纖維給你溫暖擁抱…在外灘大會，當下AI產業全球性熱潮得到具象化展示。專家預測，5年內產業落地是大模型技術持續演化的關鍵。
俗話說，「專業的事情，交給專業的人去做」。每個人和每個產業的需求都是獨特的，對於賦能千行百業的人工智慧來說，更專業的問題，可能需要更專業的AI來解決。
因此，推動大模型從通用能力走向個人化應用，是AI產業的核心命題之一。
在本屆外灘大會上，黃山景區聯合支付寶以螞蟻百靈大模型為技術底座，首次推出了具有“空間”服務理念的“黃山空間智能體”，黃山景區也因此成為國內首個“全程AI伴遊”景區。
智能體作為生成式人工智慧的產品形態，是當下大模型應用的核心方向，能讓大模型長出「手和腳」。而空間智能體是以「AOI」（Area of Interest）為主要的服務組織和呈現方式，當智能體感知到用戶已進入黃山景區空間範圍內，便會通過AI分析並推送用戶最可能需要的服務。
例如，購買門票後的用戶在出發前，「黃山空間智能體」會告知景區溫度、穿衣推薦，智能推薦路線攻略；當用戶到達景區門口，會自動調取門票二維碼；當識別到用戶開始爬山，會為用戶講解沿途每個景點；當用戶到達景區出口，可一鍵產生旅行的趣味數據。此外，旅途中常用的共享單車、叫車等服務，都可以快速喚起開啟。
「在AI發展浪潮下，文旅行業也正在開啟並經歷一輪前所未有的技術和場景革命。」黃山旅遊發展股份有限公司董事長章德輝介紹，相對於傳統的「一碼遊」「一機遊」模式，「黃山景區智能體」是整合了大模型技術、文旅知識庫、大數據演算法、語音互動並可實現自主學習、自我進化的最新應用產品，「雖然是探索嘗試的一個初階產品，還需持續迭代升級，但這標誌著我們在文旅產業數位轉型方面又邁開了革命性的一步。
「科技人文之問」的啟示
人類歷史上的每一次科技革新，都是「興奮」與「焦慮」同在。
如何應對AI與人類搶飯碗？人類的思考力會因為AI退化嗎？ 「人機共生」時代還有多遠？ AI可能超越工具屬性，獲得意識，甚至建立AI文明嗎？ ……從外灘大會發布的科技人文十問中可以看出，大眾對AI的感情更顯複雜，帶有不少的技術焦慮。
未來向上向前，科技向善向美。無論突破性技術再怎麼變革，以人為本始終是首要原則。
在外灘大會現場，12歲就失去右臂的24歲男青年周鍵，借助人工智能和腦機接口技術，用仿生手彈奏了一首鋼琴曲《大魚》，讓觀眾對技術發展服務人類福祉有了直觀感受。
值得注意的是，新的科技變革帶來新場景、新業務、新市場的同時，也為科技倫理層面帶來了前所未有的風險與挑戰。如何在促進AI技術快速發展的同時，又確保其安全性、可靠性和可控性，讓AI更負責任地造福人類社會？
以AI大模型為例，目前大模型正在各行各業加速落地，特別是對醫療、金融這些嚴謹產業的重塑力度是前所未有的，但這些嚴謹產業也是對倫理規範要求最高、倫理關係最複雜的領域。
訊飛醫療研究院副院長趙景鶴在外灘大會上分享了訊飛星火醫療大模型目前的應用進度以及安全倫理探索。對於大模型在醫療場景應用面臨的問題，他認為，“主要是數據隱私、知識產權和道德責任三大問題，只有讓大模型真正解決這些問題，才能真正輔助醫生、患者、科研等各個場景” 。
「從解法上，不僅需要政府層級進行監管、立法，為大模型的落地進行合法性、合規性的保駕護航；企業還要遵守醫療的本質，採取措施加強資料保護、獲得必要的版權授權、確保模型的公正性和合規性，同時提高透明度以及加強公眾教育。
作為安徽重要的科創企業之一，國盾量子此次也展示了多款與辦公資訊安全相關的產品。 「例如我們這款藍牙耳機，融合了國盾量子自主研發的語音通訊隱私保護技術，可以有效保護用戶在通話、語音訊息留言等過程中的隱私訊息，讓用戶在溝通交流中更加安心。」國盾量子方案技術總監張如通介紹。
在如何確保科技始終造福人類福祉上，一些專家呈現更樂觀的態度。 「我們今天所擔心的許多問題，或許並不是最難解決的，真正的挑戰可能是我們還未曾想像到的未知問題。要實現我們期望的由人工智慧驅動的未來，最好的途徑之一就是積極參與其中。
用AI治理“AI詐騙”
隨著AI技術的快速發展，利用深度學習演算法實現音視頻內容的模擬和偽造的深度偽造技術（Deepfake）也日益成熟，近年來發生的“AI換臉詐騙”等惡性事件就引發人們對技術應用風險的思考。
利用AI技術精準辨識及防範“AI換臉”風險，“用AI打敗AI”，或許是一種有效途徑。不過，AI造的假能被AI辨別出來嗎？
一場聚焦「AI換臉」技術詐欺風險的比賽給出了答案。在外灘大會AI創新賽·全球Deepfake攻防挑戰賽的表演賽上，由中國科學技術大學網路空間安全學院和螞蟻數科天璣實驗室聯合出題，選手們用各自研究的AI模型對被用AI修改過的影像和影片進行檢測和辨識。
在圖像賽道中，肉眼真假難辨的9張圖，選手卻需要用自己的參賽模型給出每張圖片的偽造機率值，並對機率值最高的2張照片與正確答案進行比對。在視訊賽道環節，選手同樣要透過AI模型來辨別影片真偽。
值得注意的是，現場選手比分上，在一些難度一般的賽題上，雙方結果比分接近，偽造識別率幾乎都在80%以上，但是在一些高難度賽題上，模型結果差異懸殊。
現場有人發問：“為什麼肉眼覺得一眼假的畫面，AI卻不能完全答對？而肉眼難以辨別的畫面，AI反而1秒識別？”
對此，新加坡科技研究局前沿人工智慧研究中心首席科學家週天異認為，人類在判斷影像是否偽造會依賴直覺和邏輯，例如其他人的人臉換到電影演員的臉上，人類一眼便知， AI卻不了解背後的故事。但AI不像人類容易受到情緒幹擾，它會一絲不苟地完成指令。從這個角度看，AI在工作效率和穩定性上比人類「高一籌」。
不過，研發檢測演算法，只是遏止深度偽造技術濫用的方式之一。賽事出題人之一姚偉斌坦言，這種方式相對落後。要從根源上防範詐欺行為，應從標準和立法角度，要求給AIGC內容建立通用標識，例如每一張AIGC生成的視頻或圖片都在文件信息裡帶一個簽名或水印，這樣平台管理更有依據。
「對大眾來說，深度偽造現在很有可能並且已經逐漸走入我們的生活當中，甚至是對人的隱私進行洩露。」中國科學技術大學網絡空間安全學院周文柏教授建議，不要輕易在公共場合展現自己的人臉數據，盡可能避免人臉數據的洩露，「隨著合成技術越來越好，對我們的欺騙也會越來越深，但只要我們能夠保持警惕，還是能有很大的機率不受到詐騙的危害。