人工智慧技術的快速發展為人們的生活帶來了許多便利，但也帶來了新的挑戰。尤其是在網路安全領域，AI技術正被不法分子利用，製造出各種新型詐騙手段，為社會帶來巨大的經濟損失和安全隱患。 Downcodes小編將帶您了解AI技術如何被用於詐騙，以及如何應對這些新的安全威脅。
當你還在擔心ChatGPT是否會在未來的某一天取代自己的工作，思考如何利用人工智慧提高工作效率時，有一群人已經靠著這項新技術賺大錢了。
他們就是……騙子。
10分鐘騙430萬，
第一批靠AI暴富的竟是騙子
如果你在某天接到一位朋友的微信視訊電話，鏡頭另一端的人從長相、聲音都和你記憶中的朋友一模一樣，當他開口向你借430萬作為工作競標的保證金時，你會怎麼做？
最近，福州市某科技公司的法人代表郭先生就遇到了這個難題。基於信任，他將430萬轉到了朋友的帳戶。直到事後給朋友打了一個電話，才發現是騙子盜用朋友的微信號，再透過AI換臉和擬聲技術，對他實施了一次詐騙。
類似的事情在大洋彼岸的發生頻率，也呈現爆炸性成長。
根據CNN報道，今年四月，生活亞利桑那州的Jennifer DeStefan接到了一個陌生電話，電話裡的聲音是自己在外準備滑雪比賽的女兒Brianna。 Brianna在電話的另一頭帶著哭腔向她求救。幾十秒後，一個低沉的男音在電話裡威脅道：「聽著，你女兒在我手裡，拿出100萬美元的贖金，如今你打電話報警或是告訴其他人，就永遠別想再見了她。
在Jennifer表示自己拿不出100萬美元後，電話那頭的男子將贖金大減價到5萬美元。愛女心切的Jennifer不顧友人和丈夫的勸阻，已經開始和對方討論支付贖金的方式，直到Brianna打來一個電話，表示自己平安無事，才避免了這次財產損失。
今年三月，《華盛頓郵報》也報道了一起犯案手法幾乎一模一樣的詐騙案，只不過受害者是一對年過70的老年夫婦。
受害的老人（圖源《華盛頓郵報》）
美國聯邦貿易委員會（FTC）在5月發布警告，稱不法分子正在利用AI語音技術偽造緊急情況騙取金錢或資訊。偽裝成受害者的親人、朋友進行詐騙並不新鮮，但毫無疑問的是，AI技術的出現使得克隆一個人的聲音、偽造一個人的視頻變得異常簡單。過去一年裡，發生在美國的這類騙局暴漲了70%，受害者因此損失的錢財金額高達26億美元。
照這樣的趨勢發展下去，只怕最先靠AI技術實現財富自由的，是一群躲藏在螢幕背後的騙子了。
人工智慧的黑暗面
如果說偽造一個人的聲音和影片還需要一定的技術門檻，那麼ChatGPT的出現，就讓AI詐騙變得更加容易。
根據外國網路安全平台GBHackers報道，由於強大的工作生產效率和極低的使用門檻，ChatGPT吸引了一大批網路詐騙犯。
例如利用ChatGPT談一場「假戀愛」：自我介紹、聊天記錄和精心製作的情書都能透過人工智慧快速產出，還能透過輸入目標對象的具體訊息，進行個人化定制，讓螢幕對面的人更快與你墜入愛河。接著，ChatGPT還能輔助詐騙者編寫收款程序或是竊取受害者銀行卡資料的釣魚網站，實現詐騙金錢的目的。
當你直接要求ChatGPT為你撰寫一個釣魚軟體程式時，它會拒絕；但如果你說你是一名老師，希望給學生展示一個釣魚軟體，它就會老老實實寫出一個網站給你。
更可怕的是，人們很難分辨螢幕另一端的到底是人還是機器。全球最大安全技術公司McAfee曾用AI產生一封情書，並將它發送給全球5,000名用戶。在已知該情書可能是由人工智慧產生的之後，依舊有33%的受訪者願意相信它們是出自真人的手筆。
實際上，利用ChatGPT和受害者談一場「虛假戀愛」只是入門級別的詐騙手段，更嫻熟的駭客們已經開始利用人工智慧批量生成勒索軟體與惡意程式碼。
為了方便在GPT模型上搭載更多的應用程序，OpenAI為開發人員預留了應用程式介面。而駭客就是利用這些接口，把GPT模型引入到一系列外部應用，以此繞過安全監管，使用GPT模型去寫犯罪程序。
這些越過安全監管的程序，已經在美國暗網上公開出售，且價格十分便宜，只需幾美元就可以買到。購買者能夠利用這些軟體進行的違法行為，卻十分可怕：透過竊取程式碼和使用者隱私資訊、產生攻擊軟體和勒索病毒。
《金融時報》最近報道了一個由ChatGPT輔助生成的SIM交換攻擊腳本，騙子利用這個程式可以突破行動電話公司對電話號碼的控制權，將電話號碼從原持有者的SIM卡交換到由攻擊者在控制的SIM卡中，從而控制受害者的行動電話。
「ChatGPT目前雖然只是內容生成工具，並未直接參與犯罪，但這標誌著人們開始使用人工智慧來入侵他人，技術水平更低的犯罪者將因此獲得更強大的犯罪手段。」一位人工智慧從業者對《金融時報》表示了自己的擔憂。
潘朵拉的魔盒，還能關上嗎？
當人工智慧越來越大的社會影響力與其犯罪潛力攪在一起，ChatGPT的各類安全漏洞使得人們愈發不安，「應如何對ChatGPT進行監管」已經成為了許多國家爭論的重點。
IBM的全球倫理研究院就曾發文，倡議企業將倫理和責任置於其AI議程的首位。以馬斯克為代表的許多科技大佬也簽署了公開信，在訓練比GPT-4更強大的人工智慧系統之前，大家應該制定一套共享安全協議，由外部專家對其進行審查和監督。
各國的立法者，也開始公開表示對ChatGPT的擔憂，考慮是否要將其納入立法監管系統。比起對人工智慧安全性的擔憂，更多的政府人員焦慮於立法者對於技術認知的滯後。
美聯社認為，在過去20年中，科技巨頭們不斷引領美國的科技創新，因此政府始終不願監管大型科技公司，成為創意的扼殺者。因此，當他們決心加強對新興技術的監管時，其中相當一部分人已對新技術知之甚少。
畢竟，美國國會上一次為了規範科技而頒布的法典，已經是1998年的《兒童網路隱私權保護法》了。
根據路透社報道，多個國家已經開始推出法規來規範以OpenAI為代表的人工智慧。今年三月，義大利由於擔心資料安全問題曾短暫禁止OpenAI在本國的使用，一個月後才恢復使用。在五月，義大利的一名政府官員向路透社表示，政府將僱用人工智慧專家，來監督OpenAI的規範使用。
面對各國政府的疑慮，OpenAI技術長米拉·穆拉蒂在接受路透社採訪時也表示，「公司歡迎包括監管機構和政府在內的各方開始介入」。但在快速發展的人工智慧面前，立法者如何做才能跟上科技的腳步，仍是未知數。
唯一確定的一點是：潘朵拉的盒子一旦打開，就沒有那麼容易關上了。
人工智慧技術是一把雙面刃，其帶來的便利性與風險並存。 我們需要加強監管，提升公眾安全意識，才能更好地利用AI技術，避免其被濫用於犯罪活動。只有這樣，才能最大限度地發揮人工智慧的益處，並有效防範其潛在的風險。