广州大学网络空间先进技术研究院院长鲁辉

文/记者 黎秋玲

图/记者 何 昱

输入一段文字，即可生成逼真视频……今年年初，Sora横空出世引起全球关注。这类技术的普及应用，也使诈骗门槛变得更低、辨别难度加大，一些不法分子利用这类AI技术，“AI换脸”后冒充亲友、上司、公职人员进行诈骗，让人防不胜防。

近期，警方披露多起利用“AI换脸”等技术实施诈骗的案例，“AI换脸”诈骗随之成为焦点。“AI换脸”技术发展到了什么程度？骗子套路有哪些？如何实施诈骗？我们如何防范？针对这些问题，羊城晚报记者进行了采访了解。

案例

“多人视频会议”

只有一个是真人

随着人脸识别技术的广泛应用和人工智能技术的进步，人脸识别验证类犯罪随之而生，不法分子利用即时通讯、网络直播、网络社交、电商平台、金融支付等重点App，实施“AI换脸”诈骗。

香港警方近日就披露了这样的典型案例：一名职员参加总部首席财务官发起的“多人视频会议”，并按要求将2亿港元转账到5个本地银行账户，其后向总部查询方知受骗。警方调查发现，会议中只有他一个“真人”，其他都是“AI换脸”后的诈骗人员。

“现在利用‘AI换脸’诈骗的案件越来越多，我们身边也有很多实际的例子。”广州大学网络空间先进技术研究院院长鲁辉接受羊城晚报记者采访时如是表示。

3月17日，央视《新闻直播间》播出节目《AI造出“老同学” 女子险被诈骗40万》，受害者是内蒙古鄂尔多斯市的李女士，诈骗团伙以“老同学”名义加好友后发来视频对话邀请，再装作信号不好挂断，并在聊天中借钱，收到转账后便将李女士拉黑。

相关主管部门也关注到这一新型犯罪手法。2023年8月10日，公安部相关负责人在新闻发布会上表示，当时已破获“AI换脸”案件79起，抓获犯罪嫌疑人515名……

专家

技术日益成熟

仿真程度极高

“AI换脸”背后的技术原理是什么？

“骗子使用一个换脸视频软件，放到即时通讯聊天视频中，生成仿真度极高的点对点视频。”鲁辉表示，骗子实施“AI换脸”诈骗时，深度伪造你所熟知的人的视频和声音，加之了解你的个人信息，诈骗成功率非常高。

“现在人工智能技术发展越来越快，也有越来越多的技术手段。”鲁辉告诉记者，此前有deepfake(深度伪造技术），是一个开源的人脸识别分析工具，能运用图片一键换脸；今年年初出来的Sora更加智能，可以直接用文本生成不同的人在不同场景里非常逼真的图像、视频。

“目前‘AI换脸’技术基本上是基于深度神经网络技术，该技术已经很成熟。”广州运通链达金服科技有限公司CEO邹均博士还进一步解释说，“AI换脸”技术通常涉及生成对抗网络（GAN）或自编码器等深度学习模型，这些模型能够学习人脸的几何结构和纹理信息，并生成逼真的人脸图像。同样，人的音频特征也能被学习提取，可以生成与目标对象类似的音色，以及匹配说话的嘴型……

“使用门槛越来越低，使得生成式AI更容易被滥用。”鲁辉指出，作为一把双刃剑，AI技术的迭代升级，让人们生活变得便利的同时，也让犯罪分子实施远程视频诈骗变得更为轻松。

调查

“换脸服务”仅需几十元

“AI换脸”App随处可见

AI技术的迅猛发展，让不少人发现了商机。记者调查发现，“AI换脸”技术服务的购买和使用如今也变得越来越容易。

AI视频换人脸、AI人脸识别监控、AI复活亲人视频……昨日，羊城晚报记者在某网络平台搜索“AI视频”几个关键字，随即便跳出上述各类“服务”。有商家告诉记者，现在不仅能P图、抠图，还能将视频换人脸，收费几十元或上百元。一名商家告诉记者，提供一张照片，一段照片本人说话的音频，编辑好要说的话发给他们，1天内就可提供表情和动作惟妙惟肖的视频，任何人都能成为视频中的主人公，收费90元。

记者还在手机应用商店搜索“AI换脸”几个字，即时出现视频换脸秀、AI换脸、换脸秀、视频换脸、一键换脸等App可下载使用，都可以实现换脸的目的。

在鲁辉和邹均看来，上述商家提供的视频换脸服务的效果，可能仿真度还较低，但利用像Sora这类软件制作视频来进行诈骗，肉眼已很难识别，可以说防不胜防。

防范

遇到要钱的

要线下核验

普通民众如何防范“AI换脸”诈骗？

有网友提出，视频通话时，可以让对方在脸部挥手、摸鼻子来鉴别对方是真人还是“AI换脸”后的骗子。对此，鲁辉称，挥手过程可造成面部数据的干扰，使人脸出现一些异常情况。“但这可能很快就被技术手段修正。”他认为，可通过设置一些只有你和对方知道的内容来辨别。

专家们认为，最重要的是要树立反诈防范意识。“犯罪分子无非是要钱，遇到要钱的，就要提高警惕！”

鲁辉、邹均等专家表示，市民如接到线上的电话或视频，不要轻易相信对方身份。可以进行多轮问话查验核实对方身份。特别是涉及转账、资金交易或重大合约签署，更要反复核查，最好通过线下核验。切忌粗心大意，轻信受骗。

邹均还提醒说，普通民众如果遇到类似“AI换脸”的勒索事件，可以咨询法律意见，不要轻易受骗上当。

提醒

照片视频勿轻易泄露

保护好两类敏感信息

目前，人脸识别（支付）、指纹支付、刷掌支付、刷脸入户日趋普遍，需要警惕的是，犯罪分子还可能深度伪造脸部、指纹等信息，套取钱财或入户盗窃等。

公安部相关负责人曾强调，随着人工智能、区块链、物联网等新技术、新业态、新应用的发展变化，黑客犯罪分子的作案手法也在不断升级，使用人工智能技术伪造人像和语音套取他人财产的新情况层出不穷。

对此，专家特别提醒，市民在社交媒体分享含有清晰人脸的照片和视频时，一定要谨慎，因为这些照片可能会被生成之后用于人脸识别验证，或者其他一些非法目的。此外，一定要保护好两类敏感信息：我们的人脸、虹膜、声纹、指纹等生物特征信息；身份证号、银行卡号、体检报告等重要个人信息。

能否应用AI技术反“AI换脸”诈骗呢？

鲁辉透露，近年来，有很多技术企业已经开始尝试不断优化检测模型，探索将反诈模型部署在手机、电脑或社交、会议软件中，但网络信号与算力仍是待解决的难题。鉴于目前防范“AI换脸”诈骗的规则和技术还不是特别成熟，他呼吁，民众要提高防范意识，希望能出现更好的反诈技术，政府层面能从企业监管、法律等层面制定更细致的条例来预防。