从0到1 国内首个金融领域“Deepfake”检测标准来了

　　21世纪经济报道见习记(jì)者(zhě) 郭(guō)聪聪北京报道

　　人工智能技术广泛应用于金融领域(yù)，在提高金融服务效率和质量的同时(shí)，其黑暗(àn)面也日渐显现。由人工智能技(jì)术演化而(ér)来的Deepfake（深度伪造(zào)）技术欺诈日(rì)益猖獗，奇安信集(jí)团发布(bù)的《2024人工智能安全报(bào)告(gào)》中显示，在2023年(nián)，基于AI的(de)深度伪造(zào)欺(qī)诈暴增了3000%。在(zài)这过程中，首当(dāng)其冲(chōng)的就是广泛适用(yòng)“人脸识别”系(xì)统的金融(róng)行业(yè)。

　　为提升金融信息系统的安全性，9月6日北(běi)京(jīng)国家金融科技认证中心联合10多家金融机(jī)构发布的《虚假数字人脸(liǎn)检测金融应(yīng)用技术规范》（下称《应(yīng)用规(guī)范》）正式施行。《应用规范》规定了面(miàn)向金融领(lǐng)域应用的虚假数字人脸(liǎn)检(jiǎn)测服务的技术框架、功(gōng)能(néng)要求、性能要求等，并提出对应的(de)测试评(píng)估方法，为金融机构防御虚假数字人(rén)脸攻击提(tí)供了重要参考，这(zhè)是国内首个面向Deepfake进行安全检测的标准。

　　Deepfake正(zhèng)在冲击银行“人脸识别”系(xì)统从0到1 国内首个金融领域“Deepfake”检测标准来了

　　Deepfake由“Deep learning”和“fake”组成，最早出现在 2017 年。其名称(chēng)最初源于一个(gè)名为“Deepfakes”的用户(hù)在Reddit社交网站上(shàng)，发(fā)布了一系列名(míng)人的深度伪造视(shì)频，并声称这是一个新的合(hé)成(chéng)技术。

　　作为一种新兴的黑(hēi)产攻击手(shǒu)段，Deepfake能够快速学习被仿冒者的样貌(mào)及声音(yīn)，十(shí)分狡猾且(qiě)具迷惑性，在其背(bèi)后支撑(chēng)的是日益精(jīng)进化的人工智能技术。在(zài)金融账户开户、账户登录、移动(dòng)支付、理财保险身份鉴别等各种金(jīn)融应用场(chǎng)景中都需要“人(rén)脸识别”的(de)今天(tiān)，Deepfake对“人脸(liǎn)识别”系统的攻击(jī)给从0到1 国内首个金融领域“Deepfake”检测标准来了金融行业带来了巨大的潜伏风险。

　　就以银(yín)行业为例， Deepfake就成为(wèi)了攻击银行外围防火墙的工具。通常银行网上银行的登录系统往往(wǎng)需要个人信息(xī)、验证(zhèng)码、密码与(yǔ)人脸识别，作为最后一层保障，人脸识别系统正在面临Deepfake的冲击。

　　今年2月，国外某安全(quán)公司就发现了名为“GoldPickaxe”的恶意手机木马软(ruǎn)件。不同于(yú)传统的窃取资金方式，不法(fǎ)分子通过该木马软件窃取手机使(shǐ)用者(zhě)的面部(bù)肖像等生物(wù)识别数据、拦截短信等，继而(ér)伪(wěi)造人脸动态视频，登录用户的银行账号进行转账、消费、修改账号密码等操作。目前，GoldPickaxe木马病毒活跃在越南和泰国，支(zhī)持iOS和Android版本，十分值得警惕。

　　本报记者也曾对国内部分银行的手机银行(xíng)展开了一次Deepfake测试。利用Deepfake技术(shù)，持卡人的(de)肖像特(tè)征被抓取，再通(tōng)过技术(shù)合(hé)成到非持卡人的面庞之上，非持卡人(rén)能够顺畅的(de)以持卡(kǎ)人的面容执行“张嘴、点头、摇头”等指令，不(bù)过并未能突破银(yín)行的防御机(jī)制。但(dàn)实现这一操作，仅拿到持卡(kǎ)人的一张(zhāng)照片就可做(zuò)到。

　　国(guó)内首个(gè)金(jīn)融领(lǐng)域“Deepfake”检(jiǎn)测标准

　　中信银行信(xìn)息技术(shù)管理部创新科学家张然是《应用规(guī)范》的(de)起草者之(zhī)一，在接受本报记者采访(fǎng)时他提到：“《应(yīng)用规范》是(shì)国内金融领域首(shǒu)个(gè)虚假数字人脸检测标(biāo)准，实现了从0 到1的突破，是数字金(jīn)融方向的重要研究成果。该标准目前属于团体标准，但在未来将(jiāng)在此标准的基础上申请国(guó)家标准及国际(jì)标准。”

　　该(gāi)标准的核心特点在于其为金融领域的(de)虚假数字人脸检测提供了(le)系(xì)统化的技术框架、功能要求(qiú)、性能评估方法(fǎ)等(děng)，专门针对通过生成(chéng)式人工智能、深度伪造等技术(shù)制作的虚假(jiǎ)人脸内容进行检测。

　　同时(shí)，《应用规范》注重识别不同类型的虚假人(rén)脸(liǎn)内(nèi)容，包括图像、视频等形(xíng)式，提出了(le)基于深度(dù)学(xué)习、卷积神(shén)经网络等技术的检(jiǎn)测(cè)方法，并强调了对检测准确性、鲁棒性和泛化性的(de)全面评(píng)估（如下图）。

　　张然在介绍《应用规范》的具体(tǐ)应用场景时提到，《应用(yòng)规范》在身份识别、交(jiāo)易验证的(de)场景中(zhōng)均制定了相应评估方法。

身份(fèn)识别。在金融机构(gòu)进(jìn)行开户或身份验证(zhèng)时，虚假(jiǎ)数字人(rén)脸(liǎn)检(jiǎn)测(cè)技术(shù)可以(yǐ)有效识别使用(yòng)虚假数字人脸企图冒用他人身份的行为(wèi)。通过检测虚假面(miàn)部特征，系统可以准确判断(duàn)并拒绝虚假的开户申请。
交易验证。在高(gāo)额交易中，特(tè)别是涉(shè)及(jí)远程身份验证时，该技术可以通(tōng)过实时视频对话或者图(tú)像(xiàng)验证用户身份，防止恶意攻击者使用虚(xū)假人脸视频进行交易验(yàn)证，从而提(tí)高(gāo)金融(róng)交易的安全(quán)性。

　　在谈到《应用规范》对于(yú)银行业的影响时，张然(rán)说：“银行(xíng)业对于《应用规范》的反馈很(hěn)好，工商银行、建设银行、邮储银行等银(yín)行将参与应用(yòng)。”

　　张(zhāng)然表示，该标准的应用(yòng)将持续提(tí)升银行业在(zài)防范虚假身份认证和金融欺诈方面的(de)能力。虚假数字人(rén)脸检测技术可以有(yǒu)效抵御深度伪(wěi)造(zào)等技术的攻击，确保用户身份的真(zhēn)实性，保护银行系(xì)统(tǒng)免受伪造人脸攻击的威胁。此外，通过这种技术的应用，银行可以进一步优化远程服务(wù)和数(shù)字化交易的安(ān)全(quán)性(xìng)，为用户提供更安全的线上金(jīn)融服务体验。

责(zé)任编辑：王馨茹

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修从0到1 国内首个金融领域“Deepfake”检测标准来了