拼一次富三代，拼命才能不失败！电影《孤注一掷》中，安娜被高薪吸引来到了缅北从事电信网络诈骗相关工作，以为抓住了改变命运的机会，实则苦不堪言：失去自由，被殴打、被拘禁，甚至被当作货物转卖。

电信网络诈骗对于公众而言并不陌生，杀猪盘、冒充公检法、赌博诱导等。而在AI技术大热的今年，电信网络诈骗开始利用AI技术，通过换声、换脸的形式，冒充普通人身边亲近之人进行诈骗。

对于公众而言，就像遇到了《西游记》中真假美猴王的选择难题，传统的眼见为实、日常认知都已失效。究竟谁真谁假？对于AI+电诈，又该如何防范？

出其不意的“AI+电诈”

当前，人工智能（AI）发展如火如荼，借助AI技术的电信网络诈骗也出现了，常见的是通过换脸、换声完成电信网络诈骗。

今年5月，包头警方通报一起通过AI换脸而被骗走430万元的案件。在这个案件中，郭先生的好友通过微信视频联系他，称在外地投标，需要430万元保证金，且需要公对公账户过账，所以想要借用郭先生公司的账户走账。基于视频聊天信任的前提下，郭先生没有核实钱是否到账便将钱款打到指定账户。此后经主动和好友微信确认，才得知上当受骗，原来视频的对象并非其好友。原来和郭先生视频的“朋友”或许只是网络空间的一串代码。

利用AI换声进行诈骗则更为常见。近日，有媒体报道称，六安市金安区一位老人遭遇了经由AI技术模仿老人外孙声音的诈骗电话，冒充其外孙称“犯事”了，急需汇款6万元才能解决。幸运的是，老人报警，警察确认此为诈骗。

通过AI换声、AI换脸进行的电信网络诈骗离不开人工智能技术的发展，尤其是深度合成技术的进步。深度合成技术的典型代表如生成式对抗网络（GAN）、自动编码器（Autoencoders）等，可通过深度学习、虚拟现实等生成合成类算法制作图像、音频、视频、虚拟场景等信息。相关技术已有实践，如前些年间的大热软件Zao。

欺骗和不信任，是这项AI技术发展带来的负面影响。借助换声、换脸只是电诈分子利用AI诈骗的一个缩影。

“作为工具的AI，还可在多个方面帮助电诈分子实施电信网络诈骗。比如说通过AI精准识别易受骗的潜在受害群体；又比如针对电信网络诈骗的追溯、追查等，通过AI实施设置各种障碍，逃避法律追究。”北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括说道。

不远的未来，AI或许会和电诈产业链更进一步结合：用虚拟的数字人代替实施诈骗的人。厦门市美亚柏科首席科学家江汉祥告诉记者，未来随着数字人技术的不断成熟，数字人可以像真人一样，和用户正常聊天。考虑到当前电信网络诈骗打击力度增强，电诈集团或许也需要节约人力成本，或许就会选择利用虚拟人代替真人。

如2018年浙江省绍兴市公安机关破获一起利用AI技术实施的“特大侵犯公民个人信息案”，涉及一个名为“快啊”的打码平台。一些平台为了防范黑客攻击设立了安全门槛，采用了验证码这一方式。而“快啊”通过深度学习自主识别弹出的验证码，能够在毫秒级别迅速响应。此前这项工作需要人工承担。 

电诈防范需关切个人信息保护

当前电信网络诈骗案件的一大特点：精准，而这离不开伴随电信网络诈骗而生的黑灰产帮助。

黑灰产的上游多是个人信息泄露。上游根据电诈分子的需要打造相关信息，提供性别、职业等精细化内容，随后出售给电诈公司。另外，电信网络诈骗需要不断寻找目标受众，而上游则可将不少用户纳入微信朋友圈，然后将出售账号给电诈分子，帮助实现前期引流。

如此一来，电诈分子根据获取到的个人信息，定制专属于受害者的电信网络诈骗剧本，降低受害者戒心，从而最终实现诈骗。

即便是泰国总理，也不可避免受到电信网络诈骗的精准骚扰。据《曼谷邮报》（BangkokPost）11月27日报道，泰国总理斯雷塔·塔维辛 (Srettha Thavisin)本人也遭遇了电信网络诈骗。“有些人发信息给我，另一些人给我打电话，甚至用我的全名向我打招呼，我只是忽略了他们。”据报道，泰国总理已经指示泰国数字经济和社会部加大力度打击电信网络诈骗。

通过AI技术进行电信网络诈骗，个人信息泄露是根源之一。以借助换声、换脸的电信诈骗为例，首先需要一定数量的数据，通过算法进行学习才能最终生成诈骗样本。

个人信息保护成为电信网络诈骗治理的关键环节。2022年12月1日正式实施的《反电信网络诈骗法》同样关切个人信息。其第二十五条第一款规定，任何单位和个人不得为他人实施电信网络诈骗活动提供支持或者帮助：（一）出售、提供个人信息；第二十九条规定，个人信息处理者应当依照《个人信息保护法》等法律规定，规范个人信息处理，加强个人信息保护，建立个人信息被用于电信网络诈骗的防范机制。

可以看到的是，当前社会数字化程度进一步加深，社交网络分享日常生活也已成为常态。一方面是分享，一方面则是相关个人数据可能在不知情的情况下用于非法用途。公众又该如何保障自己的个人信息？

吴沈括建议，一方面，个人需要提高自我保护的意识，减少信息披露范围。另外，法律需要构建各类数据良性流转、利用的业务规则，同时对于异常的数据收集行为进行及时识别和必要干预。此外，对于违法乃至犯罪行为要进行及时、高效的法律责任追究。

“当前生活很多时候都需要用到个人信息，每个环节都有个人信息泄露的可能。是否可以考虑从国家层面构建一个防护网，每个上网的人通过公安机关认证，得到特定网号可用于网络活动，日常生活中需要身份信息，一般情况显示脱敏的信息，只有在非常特定的情况下才能调用明文信息。这样通过整体方案有助于解决个人信息泄露问题。”江汉祥说道。

以反制技术对抗电诈发展

AI技术快速发展，人们期待AI能让生活变得更好，能够为世界带来更大想象力。作为工具的AI，如何使用则取决于人。

江汉祥表示，技术可以分为两类，一类是纯粹的通用技术，可用于多个行业和场景，对于通用技术引发的电信网络诈骗较难预防；另一种则是定制化的技术，适用特定场景，甚至为违法犯罪定制，如软件类的木马、病毒等，装备类的卡池（Simbank，配合GOIP网关使用）等，这部分技术则借助管理予以规制。

针对新技术的发展，我国已先后出台多项法律法规。如《互联网信息服务深度合成管理规定》，为深度合成服务划定了“底线”和“红线”，强调不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者落实信息安全主体责任。又如《生成式人工智能服务管理暂行办法》划定底线，推动生成式人工智能向上向善，提出不得生成违法内容；同时明确提供者的义务与责任，降低风险。

“对于技术提供者，一方面应承担信息网络安全管理义务，当技术被用于违法犯罪活动时，应当及时识别并做出有效干预。如果故意或者放任不管，应当承担相应的共同违法乃至共同犯罪责任。”吴沈括说道。

“根据刑法第二百八十七条规定，对于为‘AI换脸’实施诈骗行为提供技术支持、帮助的，可能会以帮助信息网络犯罪活动罪追究刑事责任。此外，还可能涉及侵犯公民个人信息罪，非法侵入、控制计算机信息系统罪等罪名。”北京市盈科律师事务所合伙人律师袁椿晖说道。

电信网络诈骗的发展离不开技术，技术反制或将成为电信网络诈骗防范的有力武器。也就是“用技术来对抗技术”。

“无论是AI换脸还是AI换声，都需要通过技术研发对信息内容准确甄别真伪。这是通过技术对抗技术的治理方式，也是目前备受关注的一种治理手段。”在他看来，结合信息内容传播规律，可引入信息标签、信息水印等技术。同时需要构建关于信息数据标识、信息数据水印的完整生态，这样内容的真实程度和比例会有一个显著提高，也能够进一步压缩通过AI制造虚假信息、实施电信网络诈骗的几率。

来源：21世纪经济报道 作者： 郑雪