作 者丨耿康祁

(資料圖片)

“人工智能之父”杰弗里·欣頓做了個(gè)末日預(yù)言：

人工智能可能對(duì)人類構(gòu)成巨大威脅，因?yàn)椤昂茈y找到防止壞人用它做壞事的方法”。

不幸的是，掌握人工智能的壞人，越來越多了。

01.高端局來了

4月20日11時(shí)40分左右，福州市某科技公司法人代表郭先生，遭遇了一場(chǎng)高端騙局。

一位好友，突然打了個(gè)微信視頻：

“老郭，我一個(gè)朋友在外地競(jìng)標(biāo)，需要430萬(wàn)保證金。你看看能不能先走你的公司賬戶，幫忙過個(gè)賬？”

好友說錢已打過來，還發(fā)了銀行轉(zhuǎn)賬底單截圖。因?yàn)槭且曨l聊天，郭先生就沒核實(shí)錢是否到賬，直接給對(duì)方賬戶轉(zhuǎn)了430萬(wàn)。

事后，郭先生給好友打了電話，稱“事情辦妥了”，對(duì)方卻十分驚訝，回應(yīng)完全沒有這回事。

9分鐘，430萬(wàn)沒了！坑了郭先生的，是一起典型的AI詐騙。

這個(gè)騙局分三步：

1，不法分子用AI機(jī)器人騷擾電話，獲取目標(biāo)的聲音素材，然后進(jìn)行聲音偽造；

2，盜取目標(biāo)的社交賬號(hào)，尋找受害人；

3，用AI換臉技術(shù)，和受害人視頻通話，博取信任，實(shí)施詐騙。

這個(gè)詐騙手段環(huán)環(huán)相扣、用時(shí)短、難防范。它標(biāo)志著詐騙犯罪的升級(jí)，進(jìn)入了AI智能化、定制化的時(shí)代。

傳統(tǒng)互聯(lián)網(wǎng)“發(fā)個(gè)語(yǔ)音”、“打個(gè)視頻”的防詐手段，在AI詐騙面前基本失效。更可怕的是，掌握AI詐騙的騙子，越來越多了！

公開信息顯示，自2021年以來多個(gè)省份都出現(xiàn)了AI詐騙及不當(dāng)牟利案件。中國(guó)互聯(lián)網(wǎng)協(xié)會(huì) 5月24日稱，利用“AI換臉”“AI換聲”等進(jìn)行詐騙、誹謗的違法行為屢見不鮮。

AI詐騙不只盯著數(shù)百萬(wàn)的“肥肉”，幾千元的“蒼蠅肉”也來者不拒。假扮大學(xué)同學(xué)、親戚、供貨商等視頻借錢案件，層出不窮。

如果覺得從不借錢便不會(huì)中招，就太天真了。

當(dāng)騙子偽裝成領(lǐng)導(dǎo)，以匯款、資金周轉(zhuǎn)等緊急理由，要求下屬立即轉(zhuǎn)賬，很少有人能頂住壓力。更有甚者，騙子直接偽造子女、父母車禍入院等借口，利用親人感情實(shí)施欺詐。

2006年，搞了20多年的中國(guó)臺(tái)灣詐騙集團(tuán)，把目光投向互聯(lián)網(wǎng)普及不久的大陸。他們?cè)跂|南亞等國(guó)家建立詐騙基地，招募員工進(jìn)行人設(shè)、話術(shù)包裝的統(tǒng)一培訓(xùn)。

最終，誘導(dǎo)戀愛或裸聊的“殺豬盤”、非法買彩票、網(wǎng)上賭場(chǎng)、借貸騙局等發(fā)明，開始橫掃內(nèi)地。

電信詐騙，由此成了懸在14億人頭頂?shù)囊话牙?。甚至有人戲稱，從未接到過詐騙電話的，都有可以去買彩票的運(yùn)氣。

不過，大部分人仍對(duì)電信詐騙，沒太大概念。傳統(tǒng)認(rèn)知里，其受騙對(duì)象多是經(jīng)不起誘惑、社會(huì)經(jīng)驗(yàn)少的“冤大頭”，以及一些不常上網(wǎng)的老年人。

比如上世紀(jì)80年代最知名的尼日利亞王子來信，以及最近令人笑掉大牙的“上門槍斃”通知短信。這些夸張劇本，似乎只為篩選那些“缺乏基本辨識(shí)能力”的群體。

但正如微博大V@全民防詐騙所說：“你目前還沒被騙，并不是因?yàn)槟愣嗦斆鳎膊皇且驗(yàn)槟銢]錢，而是適合你的‘劇本‘還在路上?！?/p>

只要給幾張照片和幾秒語(yǔ)音，就能復(fù)刻出“假人”的AI詐騙，以細(xì)思極恐的手段，讓每個(gè)人都可能難逃一劫。

據(jù)湖北網(wǎng)警巡查執(zhí)法公布消息，AI技術(shù)新騙局詐騙成功率竟接近100%，其成功率之高、涉案金額之大、詐騙速度之快令人咋舌。

比如安徽安慶經(jīng)開區(qū)發(fā)生的一起AI詐騙案中，詐騙分子只用一段9秒智能AI換臉視頻佯裝“熟人”，就順利從受害人手上騙走245萬(wàn)元。

更令人毛骨悚然的是，信息泄露、隱私不安全的普遍現(xiàn)實(shí)，為AI詐騙造就了“天然溫床”。

2月15日，一則“幾乎無人幸免，疑似45億條電商或快遞信息泄露”的消息，沖上熱搜。有網(wǎng)友稱，“自己10年前的收貨信息，都被扒出來了?！?/p>

對(duì)此，人們?nèi)滩蛔⊥虏鄣溃骸耙卸鄰?qiáng)的防范意識(shí)，才能想到跟你視頻通話的親友，不是一個(gè)大活人啊？要有多強(qiáng)的隱私意識(shí)，才能保證自己信息不泄露或被竊??？”

AI詐騙的降維打擊，也引發(fā)了社會(huì)的廣泛關(guān)注和部分恐慌情緒?！癆I詐騙在全國(guó)爆發(fā)”的話題，一度登頂熱搜，引爆超2億閱讀。

隨即，公安部門專門進(jìn)行了辟謠，稱AI詐騙案件目前占比仍較低。同時(shí)，承諾已注意到此犯罪新手法，并將加大力度開展技術(shù)反制和防范宣傳。

數(shù)據(jù)顯示，公安機(jī)關(guān)2022年全年破獲電信網(wǎng)絡(luò)詐騙案件46.4萬(wàn)起，緊急攔截涉案資金3180余億元。從詐騙案件量級(jí)及涉案金額來看，其仍然是一塊社會(huì)“頑疾”。

一個(gè)悲觀預(yù)期是，新型AI詐騙的降臨及加速迭代，可能讓“人人警惕，全民反詐”，成為未來社會(huì)不得不面對(duì)的嚴(yán)峻問題之一。

02.全球大爆發(fā)

4月末的一天，美國(guó)一位叫詹妮弗·德斯特凡諾的母親接到一通陌生電話。

“媽媽，救命！”大女兒布里安娜，似乎陷入了大麻煩。

詹妮弗嚇呆了，一個(gè)低沉的男人聲音威脅到：“如果你打電話報(bào)警，就永遠(yuǎn)別想再見到她了！”

掛斷后，身邊朋友勸她報(bào)警。詹妮弗卻急著給贖金，因?yàn)椤芭畠骸钡目奁晫?shí)在太真實(shí)且撕心裂肺。幸運(yùn)的是，女兒正好打來電話，騙局“不攻自破”。

但心有余悸的詹妮弗，仍無比驚訝：“就算隔一棟樓，我也不會(huì)認(rèn)錯(cuò)自己孩子的哭泣聲。”

詹妮弗絕對(duì)想不到，突飛猛進(jìn)的AI技術(shù)，早已比一個(gè)母親更了解自己的孩子。而騙子支付的代價(jià)，可能還不到每月5美元。

2017年，名為“Deepfakes”的社交網(wǎng)站用戶，利用AI技術(shù)發(fā)布了將色情演員換臉成蓋爾·加朵、泰勒·斯威夫特、斯嘉麗·約翰遜等名人的視頻片段，引發(fā)軒然大波。

此后，AI換聲及換臉技術(shù)進(jìn)入大眾視野，并被稱為“深度偽造”（Deepfake）。

2018年，美國(guó)不法分子還主要通過使用非法機(jī)器人呼叫，偽裝成慈善機(jī)構(gòu)或谷歌數(shù)據(jù)服務(wù)代理，進(jìn)行詐騙。

但機(jī)器人語(yǔ)音系統(tǒng)，往往存在卡頓、音色機(jī)械化、多輪對(duì)話“鬼打墻”等問題，“唬人”能力有限。

此后，AI換聲迅猛發(fā)展到克隆級(jí)別。2019年3月，一詐騙犯冒充一家英國(guó)能源公司大老板，強(qiáng)勢(shì)要求公司CEO立即將22萬(wàn)歐元，轉(zhuǎn)到匈牙利的供應(yīng)商銀行賬戶。

這位高管毫不猶豫照做了，因?yàn)榇罄习宓恼Z(yǔ)調(diào)一如平時(shí)，甚至連他“微妙的德國(guó)口音”也毫無破綻。這一事件，被認(rèn)為是全球首例涉及人工智能的詐騙案。

其實(shí)，AI技術(shù)流行的美國(guó)、歐洲等發(fā)達(dá)國(guó)家，AI詐騙也早已一馬當(dāng)先。

過去一年里，美國(guó)AI詐騙同比上漲了50%到75%。美國(guó)聯(lián)邦調(diào)查局年度報(bào)告顯示，2022年美國(guó)網(wǎng)絡(luò)詐騙損失達(dá)103億美元，創(chuàng)五年來新高，面向老年人的AI語(yǔ)音騙局則是重災(zāi)區(qū)。

世界經(jīng)濟(jì)論壇研究與分析主管布魯內(nèi)曼稱，“在過去一年里，26%的小公司和38%的大公司經(jīng)歷過深度偽造欺詐”。她甚至預(yù)測(cè)到2026年，超90%的網(wǎng)絡(luò)攻擊內(nèi)容都將是AI合成。

AI技術(shù)快速升級(jí)，不僅讓換聲、換臉越來越以假亂真。相應(yīng)的，AI詐騙技術(shù)的門檻和成本，卻在不斷降低。

美國(guó)加州大學(xué)伯克利分校教授法里德表示，AI聲音合成一兩年前還需要大量音頻數(shù)據(jù)，現(xiàn)在僅需十幾秒的短視頻或錄音。收集人臉信息則更簡(jiǎn)單，一張照片就可實(shí)現(xiàn)。

相應(yīng)的AI程序使用費(fèi)，卻僅需每月5美元到數(shù)百美元不等?？植赖氖?，任何人都能由此進(jìn)行不法活動(dòng)。

AI詐騙受害對(duì)象從老年人到精英人群，從普通人到明星偶像無所不包，甚至章程規(guī)范的商業(yè)公司、學(xué)校機(jī)構(gòu)，也極易中招。

智能化程度更高的AI技術(shù)，還使得騙局變得花樣更多、更難防范。

通過信息收集及大數(shù)據(jù)分析，AI可以智能篩選出“易騙人群”。比如進(jìn)行金融詐騙時(shí)，經(jīng)常搜集投資信息的人群會(huì)成為潛在目標(biāo)。

甚至，AI還能分析目標(biāo)的社交網(wǎng)絡(luò)，進(jìn)而掌握其個(gè)性化表達(dá)方式、人際關(guān)系、興趣愛好等生活習(xí)慣，實(shí)現(xiàn)“詐騙劇本”定制化。

法里德驚呼：“這很可怕，就像一場(chǎng)完美的風(fēng)暴，具備了釀成大禍的所有條件?！?/strong>

更可怕的是，盡管風(fēng)險(xiǎn)顯而易見，AI語(yǔ)音及視頻合成技術(shù)卻仍在狂奔?？萍季揞^的AI競(jìng)賽，也在持續(xù)加碼。

今年1月，微軟團(tuán)隊(duì)發(fā)布了AI語(yǔ)音合成模型VALL-E。只需3秒指定素材，即可精確地模擬說話者聲音，甚至連環(huán)境背景音也能準(zhǔn)確還原。

AI簽名、AI聲音克隆、AI換臉……這些新技術(shù)，本來是創(chuàng)造美好和便利的象征。

但當(dāng)這類高端技術(shù)變得廉價(jià)且輕易獲取，并被不法分子惡意利用時(shí)，無數(shù)人和機(jī)構(gòu)的財(cái)產(chǎn)、信息及現(xiàn)實(shí)安全卻形同“裸奔”，又會(huì)是多么巨大的風(fēng)險(xiǎn)？

全球大爆發(fā)的AI詐騙，無疑給人類敲響了警鐘。

03.沒有真相的時(shí)代

“現(xiàn)在已經(jīng)到了，大規(guī)模、集中化討論AI風(fēng)險(xiǎn)的關(guān)鍵時(shí)刻”，清華大學(xué)教授沈陽(yáng)如此呼吁。

其實(shí)，對(duì)AI詐騙的警惕與治理方案，早已在路上。

美國(guó)安全中心發(fā)布的《人工智能與國(guó)家安全》，明確將人工智能偽造技術(shù)列為威脅國(guó)家安全的重點(diǎn)技術(shù)。中國(guó)也開始通過政策管理和技術(shù)限制等途徑，來應(yīng)對(duì)其潛在安全風(fēng)險(xiǎn)。

但AI詐騙，似乎是打不死的“小強(qiáng)”。

比如美國(guó)聯(lián)邦貿(mào)易委員會(huì)近年來加強(qiáng)了對(duì)非法機(jī)器人電話的監(jiān)管行動(dòng)，但數(shù)據(jù)顯示，2019年美國(guó)境內(nèi)民眾接到的“機(jī)器人騷擾電話”總數(shù)超過500億個(gè)，即平均每個(gè)美國(guó)人每月至少接到15個(gè)“機(jī)器人騷擾電話”。

一個(gè)怪圈出現(xiàn)了——美國(guó)不斷升級(jí)法案打擊電信詐騙，機(jī)器人來電數(shù)量卻屢創(chuàng)歷史新高。

根本原因，還是法律法規(guī)制定、推廣的護(hù)欄建設(shè)速度，趕不上AI技術(shù)迭代和傳播速度。產(chǎn)業(yè)、大眾對(duì)AI危害的反應(yīng)，也很容易慢半拍。

甚至于，AI騙局已經(jīng)超出“詐騙”范疇，蔓延到人類社會(huì)的各個(gè)角落。

3月份，一組由Midjourney生成的特朗普“被捕照”傳遍全球。一覺醒來，人們看著這位美國(guó)前總統(tǒng)被警察包圍并按倒在地的狼狽狀態(tài)，深感不可思議。

但這，不過是一網(wǎng)站創(chuàng)始人艾略特·希金斯精心制作的“AI假照片”。盡管他的賬號(hào)被查封，人們當(dāng)時(shí)無比真實(shí)的震撼和驚訝，卻因此成為“笑話”。

這更像是，AI騙局對(duì)人類分辨能力和真實(shí)情感的“嘲弄”。很快，人們又經(jīng)歷了更嚴(yán)重的被戲耍。

5月22日，一張五角大樓附近發(fā)生爆炸的照片，廣泛流傳。這張?zhí)摷僬掌某鋈Γ踔翆?dǎo)致標(biāo)普500指數(shù)瞬間從漲轉(zhuǎn)跌。

在國(guó)內(nèi)，假新聞、假圖片案件也甚囂塵上。

5月7日，甘肅省平?jīng)鍪泄簿志W(wǎng)安大隊(duì)成功破獲了一起AI造假案件。不法分子利用ChatGPT，偽造了一條“今晨甘肅一列火車撞上修路工人，導(dǎo)致9人死亡”的虛假新聞，即刻獲得超1.5萬(wàn)次點(diǎn)擊量。

5月24日，科大訊飛受一篇名為《科大訊飛出現(xiàn)重大風(fēng)險(xiǎn)的警示文》的文章影響，股價(jià)也迅速跳水。公司緊急回應(yīng)稱，股價(jià)下跌系某生成式AI寫作虛假“小作文”導(dǎo)致。

人們?cè)絹碓襟@恐地發(fā)現(xiàn)，自己被AI置身于一個(gè)“沒有真相的時(shí)代”。

造假，甚至成為某種普遍且必要的“謀生手段”。一項(xiàng)國(guó)外調(diào)查報(bào)告指出，全是由AI生成的假新聞網(wǎng)站已有49家之多。且這些信息受眾并不少，粉絲大多超10萬(wàn)量級(jí)。

無處不在的造假熱潮，更讓無論是普通人還是明星都難以阻擋。

一邊是，幾十元的“AI換臉教程”大行其道；一邊是，在地鐵上被“AI一鍵脫衣”造謠的女性，無力申訴。偽裝成“楊冪”“迪麗熱巴”“成龍”等明星的直播帶貨，更肆無忌憚。

面對(duì)鋪天蓋地的“AI孫燕姿”合成視頻，佛系的孫燕姿無奈表示，“你跟一個(gè)每幾分鐘就推出一張新專輯的‘人’，還有什么好爭(zhēng)的？”

真相被“捏造”已經(jīng)夠可怕，人們無力分辨則讓現(xiàn)實(shí)變得愈發(fā)混亂。

4月13日索尼世界攝影獎(jiǎng)?lì)C獎(jiǎng)禮，大獎(jiǎng)得主卻沖上舞臺(tái)奪過話筒，悲憤地說這是AI偽作。他的反問發(fā)人深思，“如果索尼世界攝影獎(jiǎng)的評(píng)委都分不清真假照片，其他人還能怎么辦？”

當(dāng)AI騙局從專業(yè)級(jí)走向“平民化”，熟悉的親友、日常的新聞、權(quán)威的知識(shí)、眼見為實(shí)的原則甚至是集體記憶等，原本刻在骨子里的“確信”都在被逐一顛覆。

AI監(jiān)管，由此愈加任重道遠(yuǎn)。畢竟人類不能沒有真相，就像時(shí)鐘不能沒有指針。