文丨智能相對論

作者丨陳選濱

科學(xué)技術(shù)是把雙刃劍，在為我們生活帶來便利的同時，也在引發(fā)一系列的社會問題，比如當前比較熱門的AI人臉識別詐騙、聲紋識別欺騙等。

在今年的凈網(wǎng)2021專項行動中，南通警方就破獲了一起AI人臉識別詐騙案件。據(jù)官方介紹，該犯罪團伙主要利用AI軟件偽造人臉識別認證來解綁用戶賬號，再以低廉的價格將賬號賣給下游的詐騙份子，從而非法牟利。

除了“人臉”之外，“聲音”也同樣可以借助AI技術(shù)進行克隆模仿。國外就有一個犯罪團伙利用人工智能語音生成軟件，成功模仿并冒充一家英國能源公司的德國母公司CEO，來欺騙其多位同事和合作伙伴，非法牟利約173萬人民幣，令人咋舌。

因此，在當前，反AI欺詐基本已經(jīng)成為一個社會性的問題，如何以“魔法打敗魔法”，用技術(shù)手段來解決技術(shù)問題，是市場和行業(yè)共同努力的方向。特別是在AI應(yīng)用越來越普遍的國內(nèi)市場，更多的企業(yè)投身于專業(yè)技術(shù)領(lǐng)域，正在用更領(lǐng)先的技術(shù)能力來壘砌反AI欺詐的圍墻。

比如，前不久，中關(guān)村科金就在FaceForensics＋＋Benchmark（國際知名深度偽造學(xué)術(shù)榜單）通過基于自有億級海量圖片訓(xùn)練的人臉識別算法和獨有的AI技術(shù)將綜合準確率提升至94．1％，成功登頂榜首，將我國的深度偽造防偽能力再提升一個段位，處于國際領(lǐng)先水平。

所謂深度偽造技術(shù)是指通過人工智能技術(shù)將一個人（比如目標公司的CEO）視頻中的頭像幾乎完美嫁接到另一個視頻中的人（比如假的演員）身上。這樣的技術(shù)如果往壞的方向應(yīng)用就很容易構(gòu)成文章開篇所說的欺詐案件，但是如果往好的方向應(yīng)用，那將是反AI欺詐工程的重要技術(shù)支持。

反AI欺詐，便是目前中關(guān)村科金致力于產(chǎn)業(yè)賦能的一個技術(shù)應(yīng)用方向。技術(shù)本身就帶有天然的辯證性，當AI欺詐越來越普遍，反AI欺詐實際也正在逐漸形成一個產(chǎn)業(yè)，只是外界關(guān)注得并不多，而正在與非法份子角力的也多是一些專精企業(yè)，而非巨頭。

AI欺詐與反欺詐角力，引領(lǐng)產(chǎn)業(yè)機遇的卻不是“傳統(tǒng)”AI巨頭？

目前，AI欺詐案件很普遍，方式也是多種多樣，偽造郵件、克隆聲音、電話詐騙、人臉偽造等等層出不窮。

聚焦來看，這些AI詐騙的核心就是利用先進的人工智能技術(shù)來偽造聲音、筆跡、人臉等特征，來獲取受害者的信任從而實現(xiàn)牟利。

這樣的方式相比以往的詐騙，就存在非常明顯的技術(shù)優(yōu)勢——在AI技術(shù)的加持下，偽造的“真實性”更強，不僅是人，甚至連某些終端設(shè)備的攝像頭、傳感器都能騙過，可謂防不勝防。

因此，面對這種情況，簡單的呼吁和提高反詐騙意識是不夠，必須得利用技術(shù)手段來預(yù)防、解決。比如，國外的信息安全服務(wù)商Symantec就計劃用區(qū)塊鏈和IP語音（VoIP）呼叫的方法來辨別來電者的真實性，減少AI偽造詐騙電話。

在國內(nèi)，類似的技術(shù)應(yīng)用與推廣也在開展，中國信通院就在牽頭組織“護臉計劃”成員加速相關(guān)技術(shù)的進步和應(yīng)用落地。其中，成員之一的中關(guān)村科金依托強大的AI算法能力和人臉防偽技術(shù)正在助力銀行、保險、證券、信托、教育等行業(yè)實現(xiàn)智能化安全升級，規(guī)避AI欺詐風(fēng)險。

在這個過程中，反AI欺詐依托較高的技術(shù)門檻以及規(guī)模化的應(yīng)用，正逐步發(fā)展成為一個典型的“專精特新”產(chǎn)業(yè)。

值得一提的是，在這個新產(chǎn)業(yè)，引領(lǐng)發(fā)展的往往并非是傳統(tǒng)意義上AI巨頭，而是一些深耕單一技術(shù)領(lǐng)域的專精企業(yè)。這不難理解，AI欺詐與反AI欺詐之間的拉鋸大多是對應(yīng)某一單一技術(shù)領(lǐng)域的角力，“正義”的一方必然需要更專業(yè)、強大的技術(shù)能力。

因此，進入這一領(lǐng)域的服務(wù)商必須要有過硬的技術(shù)能力，比如中關(guān)村科金，除了人臉識別技術(shù)之外，其聲紋識別能力同樣榮獲了國際權(quán)威聲紋識別賽事VoxSRC2021的Trick1和Trick2兩個賽道雙榜第二名，達到國際領(lǐng)先水平。

憑借人工智能技術(shù)展現(xiàn)出來的技術(shù)實力以及市場潛力，中關(guān)村科金同時也榮獲了2021北京市專精特新“小巨人”企業(yè)稱號。而在反AI欺詐這個賽道內(nèi)，往往就是這樣的小巨人企業(yè)憑借著技術(shù)的專注性做出了優(yōu)勢，引領(lǐng)著產(chǎn)業(yè)的方向。

三個動作，反AI欺詐走向產(chǎn)業(yè)突圍

在中國信通院牽頭組織的“可信AI：人臉識別評估”活動中，順利通過本次評估且系統(tǒng)安全防護能力達到優(yōu)秀級的企業(yè)就有中關(guān)村科金、云從科技等這樣專注AI領(lǐng)域的玩家。

如今，信息安全早已成為一個較為成熟的產(chǎn)業(yè)，反AI欺詐只是其中的一種表現(xiàn)，市場和行業(yè)正在從各個層面來增強整體的防護能力。聚焦中關(guān)村科金這樣的小巨人企業(yè)以及“可信AI：人臉識別評估”類似的權(quán)威測評，我們可以看到較為清晰的三大行動趨勢。

設(shè)置比AI欺詐進攻路線更全面的“防御工事”。

首先，面對AI欺詐等技術(shù)風(fēng)險攻擊，只有做好從技術(shù)到產(chǎn)業(yè)的全面部署才能真正的有效做好防御。

因此，在本次“可信AI：人臉識別評估”活動中，中國信通院就設(shè)置了各種主流的攻擊方式測評，如人臉識別系統(tǒng)抵御電子屏攻擊、打印照片攻擊、挖孔照片攻擊、三維頭模攻擊、手機定制ROM注入攻擊等，全面、客觀地考驗企業(yè)的技術(shù)能力。

這種通過“技術(shù)來評估技術(shù)”的方法對應(yīng)的正是“用技術(shù)手段來解決技術(shù)問題”的產(chǎn)業(yè)思路，一切的核心都在技術(shù)之上。通過這樣的活動將持續(xù)倒逼企業(yè)專注于技術(shù)進步，同時讓市場看到更多像中關(guān)村科金這樣的專精企業(yè)，促成產(chǎn)業(yè)合作將信息安全的“防御工事”推動起來。

從擬真中快速獲取更豐富的防御技巧。

其次，對于企業(yè)而言，做好信息安全更要有先“敵人”一步，先市場一截的意識。那么，參與國內(nèi)外的頂尖賽事和評估活動，很大程度上不僅能得到權(quán)威的背書，還能為技術(shù)應(yīng)用創(chuàng)造一個擬真的場景，以獲取更豐富的防御技巧。

本次FaceForensics＋＋Benchmark榜單就為參賽團隊提出了極為困難的評估活動，其中換表情（NerualTexture、Face2Face）的深度偽造算法由于其微笑的編輯區(qū)域以及逼真的渲染技術(shù)，辨別真?zhèn)坞y度極大。

同樣的，在其他評估活動中也設(shè)置了基于行業(yè)頂級標準的門檻。正是在這種極為嚴苛的測試條件下，越能看到一家企業(yè)應(yīng)對信息安全攻擊以及AI欺詐的技術(shù)能力。

經(jīng)受現(xiàn)實場景的嚴苛考驗，明確技術(shù)應(yīng)用方向。

最后，現(xiàn)實場景的應(yīng)用也是必不可少的。比起擬真訓(xùn)練，現(xiàn)實應(yīng)用更能看到“敵人”的攻擊方式、攻擊意圖以及攻擊思維，從而明確技術(shù)的迭代方向。

目前，社會上就存在一種新的高科技犯罪思路：犯罪分子先是摸清行方的大額轉(zhuǎn)賬業(yè)務(wù)全部流程中可能涉及的填報信息，然后搭建紅包釣魚網(wǎng)站，引誘客戶填報相關(guān)個人敏感信息。緊接著再使用專用的ROM劫持設(shè)備對行方系統(tǒng)進行攝像頭麥克風(fēng)劫持，與客戶進行視頻電話通信，引導(dǎo)客戶進行相關(guān)點點頭、眨眨眼、張張嘴的操作，以此順利通過了行方的知識型個人信息校驗、生物型活體識別與人臉識別，實現(xiàn)非法牟利。

在這種情況下，市場上常規(guī)的動作活體技術(shù)的密碼空間相對狹小，兩輪動作也僅有幾十種可能性，非常容易被窮舉和傳遞誘導(dǎo)，因此很難做好防御。因此，中關(guān)村科金正采用多模態(tài)生物防偽與安全平臺中的數(shù)字活體技術(shù)進行加固，可以將密碼空間上升到幾十萬種，不僅要求在有限的時間內(nèi)將動態(tài)密碼轉(zhuǎn)述給客戶，還要求突破唇語校驗、語音校驗、音畫同步校驗。這樣就大大提高了犯罪分子的攻擊成本，從而保護客戶的財產(chǎn)安全。

因此，從實際應(yīng)用來看，現(xiàn)實場景的嚴苛考驗是非常關(guān)鍵的，只有越深入現(xiàn)實之中，才越能看清目前產(chǎn)業(yè)最需要解決的問題是什么，技術(shù)應(yīng)該怎么賦能。

“魔”“道”較量，AI時代網(wǎng)絡(luò)安全藍海才剛剛開始

回過頭來說，欺詐與反欺詐本身就是一個相互拉鋸的事情，加持了AI技術(shù)也同樣如此。對于這樣一個“魔高一尺道高一丈”的過程，一般很難出現(xiàn)終局，現(xiàn)在也只是開場。

或許，很快又會有新的攻擊方式和技術(shù)手段出現(xiàn)，需要服務(wù)商不斷的應(yīng)對，迭代自家技術(shù)，釋放產(chǎn)業(yè)價值。

我們可以看到的是，技術(shù)的進步必然會帶來更多的價值，一方面是防范安全的價值，另一方面則是應(yīng)用優(yōu)化的價值。

比如，中關(guān)村科金攜手某全國性股份制商業(yè)銀行打造的互聯(lián)網(wǎng)銷售可回溯系統(tǒng)，在保障互聯(lián)網(wǎng)產(chǎn)品銷售安全的同時，實際上也為銀行、客戶等多方帶來了顯而易見的新價值——對于銀行，系統(tǒng)可對有效訂單信息回溯數(shù)據(jù)并進行算法壓縮＋多重算法加密處理，保證回溯資料無損且安全，存儲效率高，成本低；對于客戶，系統(tǒng)采用輕感知采集，無需進行過重操作，只需簡單操作便能看到整個互聯(lián)網(wǎng)產(chǎn)品的銷售過程，保障權(quán)益。據(jù)悉，該系統(tǒng)已合作銀行及保險機構(gòu)近15家，其中超過3家通過了銀保監(jiān)會駐點檢查。

由此可見，技術(shù)確實是一把雙刃劍，但是如果“好”的一面能夠用得好的話，不僅能給我們帶來安全可靠的保障，還能提供更為便捷高效的服務(wù)。

那么，在這場“魔”與“道”的較量中，反AI欺詐也好，信息安全也罷，都不止于“防護”二字，而是更為遠大的目標，即更好地服務(wù)于生活、生產(chǎn)。

＊本文圖片均來源于網(wǎng)絡(luò)