日前，一條AI詐騙成功率接近100%#的話題沖上微博熱搜。一個AI換臉的視頻，讓福建某科技公司的法人代表在10分鐘內就被騙走了430萬。

國外也發(fā)生了一起AI相關詐騙，一封附上谷歌CEO視頻的郵件，讓不少YouTube博主們下載了帶著危險病毒的文件。

【資料圖】

這兩起詐騙事件都有著深度偽造技術deepfake的身影。這是一項誕生了6年之久的換臉大法，如今AIGC技術的大爆發(fā)，更使得制作難以識別的deepfake視頻越來越容易。對人臉識別應用普遍的金融行業(yè)來說，防深偽攻擊也顯得尤為重要。

在金融行業(yè)，由deepfake產生的欺詐主要是身份欺詐，即通過深度偽造的虛假圖像和視頻來冒充他人身份，騙過金融信貸流程中的身份核驗系統(tǒng)，進而實施盜刷和惡意注冊等。目前，金融行業(yè)應對deepfake已有了比較成熟的技術方法和方案，度小滿在deepfake應對方法上就積累了豐富的經驗。

度小滿介紹，近年來利用深偽技術繞過人臉識別流程的趨勢有所增長，對金融機構實名認證系統(tǒng)造成了一定的威脅。而要識別認證內容是否造假，最好的辦法是交給AI去解決，研發(fā)“反deepfake”檢測算法。據了解，度小滿防深偽檢測模型的算法策略就從三個維度入手，有效破解造假視頻。

首先是生成瑕疵。具體而言，由于相關訓練數據的缺失，deepfake模型可能無法正確渲染部分人類面部特征，小到眨眼頻率不正常，大到口型與聲音不吻合等。檢測模型則能將這些“基本肉眼可見”的特征都提取出來，設計特定的分析算子，從而進行分析研判。

其次是固有屬性。由于不同攝像機擁有不同的設備指紋，類似GAN這種模型在生成人臉時也會留下獨特的用于識別生成器的指紋，因此經過對比就能發(fā)現端倪。

第三個細節(jié)是高層語義。它指的是檢測面部動作單元（肌肉群）協調性、面部各區(qū)域朝向一致性、視頻微觀連續(xù)性等方面的問題，由于這些細節(jié)建模困難、難以復制，很容易抓到把柄。

當然，由于單一特征難以適應復雜的deepfake內容，因此檢測模型的整體框架采用的是多特征融合，以此來保證決策的魯棒性。

在數據樣本優(yōu)勢之外，度小滿還融入了自己的獨創(chuàng)點，包括神經網絡搜索調優(yōu)算法、微表情分析和圖卷積（GCN）技術以及基于重建的自監(jiān)督預訓練方法，讓模型實現了從“鑒偽”到“鑒真”的轉變。

也正因此，去年9月度小滿防深偽檢測模型順利通過了信通院人臉識別安全專項評測，獲得活體檢測安全防護能力優(yōu)秀級認證。具體效果上，它可以覆蓋各種深偽形式，包含靜態(tài)人像圖片活化、AI換臉、人臉虛假合成等，達到千分之一誤報率下召回90%以上，也就是99%+的準確率。

隨著新的deepfake工具不斷涌現，金融行業(yè)要應對的深偽攻擊會更多。度小滿認為，未來更多的鑒偽技術應該集中去挖掘語義特征、跨模態(tài)特征等，讓模型利用可解釋性強的高層語義去鑒偽。（柯巖）