近日，多起利用“AI换脸”实施电信诈骗的新闻持续登上热搜，受害者包括社会各个阶层，波及面宽、社会影响恶劣。不法分子大多利用AI技术合成人脸和声音进行伪装，冒用特定人物身份，以视频通话方式获得被害人信任，骗取巨额财物。这种“换脸”术和拟声术让人防不胜防，引发社会公众热议和不安。

电信诈骗高端局？教您保卫钱袋子

当前，电信网络诈骗犯罪已成为发案最多、上升最快、涉及面最广、人民群众反映最强烈的犯罪类型。公安部曾于2022年5月公布五类高发电信网络诈骗案件，分别是刷单返利、虚假投资理财、虚假网络贷款、冒充客服、冒充公检法。对于此类诈骗手法，识骗防骗时通常建议勿贪诱惑、核验身份、谨慎转账等，以不变应万变。

随着我国反诈工作的大力开展，民众对于电信诈骗大多已有初步认知和防范意识。然而伴随科技的高速发展，合成技术应用门槛降低，深度合成产品和服务逐渐增多，使得不法分子有机可乘，犯罪手段花样百出。即便已有所警惕，人们对视频、声音等动态信息内容仍持有较高信任度，面对利用“AI换脸”“AI换声”等新兴技术的高端骗局，“眼见不再为实”让真假难辨。

案例1

2020年，不法分子盗用知名男演员照片和视频片段，通过剪辑配音制作短视频吸引中老年女性，再通过私信、AI换脸直播、AI拟声互动等方式假冒明星骗取她们的信任和感情，实施诈骗。

案例2

2021年，合肥警方抓捕一个利用AI技术伪造人脸动态视频的涉案嫌疑团伙，在嫌疑人电脑里发现了十几个G的公民人脸数据，包括身份证正反面照片、手持身份证照片、自拍照等。这些成套照片被称为“料”，出售照片的人被称为“料商”，这些“料”在网上已转手多次，而“料”的主人却毫不知情。犯罪嫌疑人利用AI技术使用这些“料”伪造人脸动态视频，由于制作简单，一个视频价格仅为2至10元，“客户”往往是成百上千购买，牟利空间巨大。

案例3

2022年2月，浙江陈先生报警称自己被“好友”诈骗5万元。经警方核实，发现系不法分子利用AI技术合成陈先生好友在社交平台发布的视频，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施了诈骗。

案例4

2023年4月，福建某公司法定代表人郭先生接到好友微信视频，称自己朋友在外地竞标，需要430万元保证金，想借用郭先生公司账户走账。郭先生基于对好友的信任及视频聊天已经核实过身份，在没有确认钱款是否到账的情形下就将钱转到了所谓好友朋友的银行卡上，事后拨打好友电话才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对郭先生实施了诈骗。幸运的是，郭先生及时报警，警方迅速启动止付机制，在银行协助下成功拦截330多万元，剩余款项仍在追缴中。

这些触目惊心的案件不仅给受害人造成困扰和经济损失，也在一定程度上引发大众的恐慌情绪，但从人工智能用于诈骗的技术可行性以及我国反诈的基础设施情况看，目前“AI换脸”诈骗远未达到遍地蔓延的状态，本质上仍未脱离电信网络诈骗“远程”“非接触”的特征。

防骗最有效的一招就是不信，无论对方怎么“换”，就是“不听不信不转账”。在此基础上，本所律师结合业内专家技术分析及相关案件复盘，再教您几招保卫钱袋子的方法：

1、保护个人信息安全

不轻易提供人脸、指纹、声纹、虹膜等个人生物信息及手持证件的照片视频给他人或网络平台，不过度公开或分享动图、视频等可能被用于AI训练的素材（尤其注意接到疑似诈骗电话不要深入沟通，避免对方借此获取音频“原料”），不要随意填写、透露过多个人真实信息（避免被描绘用户画像“精准围猎”）。

2、身份信息多重核验

电信诈骗多使用陌生号码发短信或打电话，部分可通过手机APP或电信运营商识别和拦截，但不法分子可能伪造来电显示或盗用社交账号，即使是熟悉的联系方式也需要通过电话、视频等方式核验身份。为防范“AI换脸”，可通过观察视频页面的纹理特征是否规律、视频人物的生理特征是否正常、视频连续动作是否流畅等方面来识别真伪，还可通过见面、第三方确认、提前设置私密验证方式等进行多重核验。

3、拖延时间谨慎转账

诈骗的最终目的是骗取财物，在涉及钱款往来时务必二次确认对方身份，转账时尽量将到账时间设置为2小时以上，预留再次核验的时间，同时使用银行转账等便于追踪和拦截的付款方式。因公转账时建议通过流程校验（如付款依据、审批证明），严格遵守公司财务制度；因私转账时如对方要求向第三方支付，应提高警惕，确认收款方身份和个人信息后综合判断。

4、发现可疑及时报警

在接到疑似诈骗电话、视频时建议及时以录音、录屏等方式固定证据，一方面便于核验对质，一方面便于后期举报、报警时提供线索。如遇可疑情形可至12321.cn反诈专栏举报，如发生资金损失第一时间拨打96110报警。

科技无善恶，法律有底线

科技本无善恶，关键看如何使用。AI技术的合理使用不仅可以丰富网络内容生态，也能给人们的生活带来便利和多样化体验，可一旦被居心叵测之徒非法利用，由于其足以产生以假乱真的效果，即使是专业人员也可能需要借助技术手段才能准确辨别，对于普通人来说识骗防骗的难度明显加大。

AI换脸诈骗频发的背后是技术滥用，违背了技术发展的向上向善原则，挑战了法律和公序良俗的底线。我国法律对此类涉嫌侵权、违法违规及刑事犯罪的行为态度是非常明确的。

无论是何种电信诈骗方式，其本质都是不法分子通过各种技术手段实施的诈骗，不管是直接实施电信网络诈骗的行为人，还是为诈骗活动提供技术支持、资金结算、宣传推广等帮助的人员，都可能因涉嫌诈骗罪被追究刑事责任。

重点法条链接（向下滑动查看）

1.《中华人民共和国反电信网络诈骗法》

第二条本法所称电信网络诈骗，是指以非法占有为目的，利用电信网络技术手段，通过远程、非接触等方式，诈骗公私财物的行为。

第三十八条组织、策划、实施、参与电信网络诈骗活动或者为电信网络诈骗活动提供帮助，构成犯罪的，依法追究刑事责任。

前款行为尚不构成犯罪的，由公安机关处十日以上十五日以下拘留；没收违法所得，处违法所得一倍以上十倍以下罚款，没有违法所得或者违法所得不足一万元的，处十万元以下罚款。

2.《中华人民共和国刑法》

第二百六十六条诈骗公私财物，数额较大的，处三年以下有期徒刑、拘役或者管制，并处或者单处罚金；数额巨大或者有其他严重情节的，处三年以上十年以下有期徒刑，并处罚金；数额特别巨大或者有其他特别严重情节的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。本法另有规定的，依照规定。

3.《最高人民法院、最高人民检察院、公安部关于办理电信网络诈骗等刑事案件适用法律若干问题的意见》

第二条第（一）款根据《最高人民法院、最高人民检察院关于办理诈骗刑事案件具体应用法律若干问题的解释》第一条的规定，利用电信网络技术手段实施诈骗，诈骗公私财物价值三千元以上、三万元以上、五十万元以上的，应当分别认定为刑法第二百六十六条规定的“数额较大”“数额巨大”“数额特别巨大”。

二年内多次实施电信网络诈骗未经处理，诈骗数额累计计算构成犯罪的，应当依法定罪处罚。

面对亟待治理的深度合成技术应用乱象，我国近年也已陆续出台相关法律法规，对AI诈骗进行源头治理与综合治理，如：

1.明确公民肖像权、个人信息权益受法律保护。《民法典》将“不得利用信息技术手段伪造等方式侵害他人的肖像权”作为侵害肖像权的一种典型形态予以规制。

2.《网络音视频信息服务管理规定》要求“非真实音视频信息”应当以显著方式予以标识，不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。

3.新施行的《互联网信息服务深度合成管理规定》作为我国第一部针对深度合成服务治理的专门性部门规章，明确了深度合成数据和技术管理规范，强化了深度合成服务提供者和技术支持者的主体责任。

4.为促进生成式人工智能健康发展和规范应用，今年4月11日国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》并向社会公开征求意见，首次针对当下爆火的生成式AI产业发布规范性政策，对数据合规性、生成内容合法性提出具体要求。

写在最后

每一次科技进步都会引起法律规范领域的大变革，互联网大数据时代，深度合成技术正在大规模普及，各类视频、直播、软件教学等层出不穷，技术门槛降低，使用场景泛化，但不管是自娱自乐、商业营利或是技术研发，都要守住法律底线。

对于AI用户而言，“AI换脸”“AI变装”“一键换头”固然能让自己享受新奇体验，但一方面要注意保护好个人信息，尤其在使用相关软件“点击授权”时应认真查看相关条款，依法维护自身权利；一方面不得随意、不当使用他人肖像或作品，否则可能因侵害他人肖像权、名誉权、知识产权等合法权益而承担相应法律责任，如有恶意丑化、色情擦边、造黄谣、冒名实名认证等违法行为，还可能涉嫌侮辱罪，诽谤罪，编造、故意传播虚假信息罪，制作、复制、出版、贩卖、传播淫秽物品牟利罪或传播淫秽物品罪以及非法侵入计算机信息系统罪等犯罪。

对于AI服务提供者而言，应当依法履行自身义务，落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，为服务技术支持者和使用者承担信息安全义务提供必要的提示和协助。

技术是把双刃剑，但技术中立并不意味着价值中立，AI技术的应用仍应受到法律规制和道德伦理的约束。面对技术发展衍生的违法滥用问题，每一位参与者都应当遵守法律法规的要求，尊重社会公德、公序良俗，尊重他人合法权益。保护好我们的钱袋子，守住法律底线和技术红线，共力协同、多管齐下，共同营造一个更加安全、健康和有序的网络环境。