中国公安部于8月10日召开了发布会，通报了全国公安机关打击整治侵犯公民个人信息违法犯罪行为的举措和成效，其中就包括了众多“AI换脸”诈骗类案件。截止目前，中国警方针对AI换脸欺诈问题发起了专项行动已经成功侦破了79起相关案件，抓获了515名犯罪嫌疑人。

究竟什么是AI换脸诈骗呢？

所谓的AI换脸诈骗，就是通过AI技术换脸，然后对AI换脸后头像人物的熟人实施诈骗。这种类型的诈骗主要利用了受害者的社会关系，其往往通过信息购买或者其他渠道，充分掌握了受害者个人的身份信息以及与被换脸对象的社会关系，然后实施综合作案。

例如，不法分子利用熟人关系、领导下属关系等，利用受害者“不好意思拒绝”的心理实施诈骗。

与声音合成相比，这种形式欺骗性更强。不法分子会根据收集来的照片和视频，生成与目标对象相似的面容，然后给受害人拨打视频电话，以假乱真。据了解，犯罪分子用于实施AI换脸的物料主要为照片，特别是身份证照片，同时结合人员姓名、身份证号来突破人脸识别验证系统。另外，个人视频头像也是实施AI换脸的素材来源。

业内人士称，只要有足够的图像、音频素材，不法分子就可以通过人工智能换脸软件、合成声音软件伪造虚拟形象，实施诈骗。这种诈骗欺骗性高，常常令人防不胜防，稍不留神，就会落入诈骗分子设置的陷阱中。

因此，当大家遇到这种情况时，一定要保持冷静的头脑，在进行有关转账之前要通过打电话的方式和自己的亲人和朋友确认。另外在电话确认之前千万不可按照微信、QQ中的提示进行有关操作。

据了解，这两年中国已经出现的多起利用AI换脸的诈骗案件中，甚至有不法分子利用人工智能“深度伪造”冒充领导干部行骗。

为了遏制AI诈骗的发展势头，国家互联网信息办公室于8月8日发布了《人脸识别技术应用安全管理规定（试行）（征求意见稿）》，旨在提升人脸识别技术的规范应用与合规水平。

此外，国家网信办已审议通过的《生成式人工智能服务管理暂行办法》也将于8月15日起开始施行，这表明我国在相关领域的规定正在逐步完善。

同时，国家公安机关已经联合国家重点实验室等单位，开展人脸识别与活体检测技术安全测评，覆盖了境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP。这项工作能够帮助及时发现人脸识别验证系统存在的风险隐患，并通报运营主体升级安全保护措施和人脸识别算法，这将有助于遏制该类犯罪的发展势头。

目前，也有一些科技公司正加强对图像、声音伪造技术的反制研究。专家们表示，加强AI安全技术应用研发，将AI技术应用于犯罪识别、预警、对抗中，就可以实现以“白”AI对抗“黑”AI。

据悉，国家还将持续推进个人身份信息尤其是人脸等身体数据信息泄露的治理，这也将对AI换脸诈骗起到很大的抑制作用。

在AI时代已经来临的情况下，我们对AI的滥用和个人信息泄露问题不能放任不管，只有让监管跟上技术发展的步伐，AI技术才能沿着法治的轨道行稳致远。