■图像时代的法律㉔

吴志攀作品

如果再不妥善保护个人隐私信息，那么每个上网的人都时刻处于被侵害的境地之中。特别是那些事业有成、有一定经济积累、工作特别繁忙、使用视频联系且特别频繁、人缘又特别好的中年人，很容易被诈骗分子盯上

(相关资料图)

最近，多地曝出AI（人工智能）换脸诈骗案件，诈骗金额以百万元计，作案时间以秒计。这引起笔者的思考：为什么随着AI换脸视频技术的出现，很快就会让诈骗分子盯上并用来作案呢？那些开发这些新技术的软件工程师们绝不会想到，本来是为造福人类的软件，现在却变为犯罪分子们的作案工具。

AI换脸诈骗如何得手

诈骗分子利用AI换脸技术之所以能够得手，除了他们掌握了换脸软件技术之外，还需要其他一些条件：

其一，诈骗分子掌握了诈骗受害人个人信息，如他的最信任的商业合作伙伴，或社会交往中最要好的朋友。诈骗分子扮演“最信任”或“最要好”的“他”来向诈骗受害人“借钱”，诈骗得手的几率就会很高。

其二，还需要掌握诈骗受害人“最信任”或“最要好”者的相关信息，如图像、视频、音频信息资料，同时掌握他们的生意背景、说话的语气与习惯等，然后再利用这些资料制成“借钱”视频。

其三，诈骗受害者的财产情况也被诈骗分子掌握，即他必须是能够拿得出来“大钱”的人。如果接到诈骗视频的人身无分文，别说“借”几百万元，就是“借”几十元钱，都不会得逞。

其四，诈骗分子在大量个人信息中，将上述信息锁定。然后再专门量身制造AI换脸视频。显然这种诈骗不是像过去电信诈骗那样，由电脑自动拨号，哪个接电话的人上钩了，再由真人上“话术”进行诈骗。而AI换脸视频只能是一对一的“定制”，花费的功夫也比电信诈骗要多很多，技术层级也要高许多倍。所以这种经过筛选“盯人”式的诈骗，骗子们事先应该有几分把握，不然就会因为犯罪成本过高而“赔本”。

从上述几方面条件来看，诈骗分子能掌握的个人隐私信息可以到达这种程度，让我不寒而栗。从另一个角度来看，在今天的网络图像时代，如果再不妥善保护个人隐私信息，那么每个上网的人时刻处于被侵害的境地之中。特别是那些事业有成、有一定经济积累、工作特别繁忙、使用视频联系且特别频繁、人缘又特别好的中年人，很容易被诈骗分子盯上。

一些人还利用AI换脸制作有损他人名誉的图像或视频，再把这些图像或视频放到网上传播。这种造谣诽谤，让受害者“跳进黄河也洗不清”。现实中，已发生过“换脸”色情照片被发到微信朋友圈的案件。被害人名誉受损，还得在朋友圈反复发帖澄清，并向公安机关报案。

这种无中生有的造谣诽谤，在法律上属于自诉案件，原告需要提供充足的证据才能立案。但是原告作为被害者又很难在网络上找到造谣诽谤分子，除非网管部门或公安部门能查到。

不过，这样的法律规定，已被现有案例“改变”：前不久，浙江杭州的一起网络造谣诽谤自诉案件，被公安机关作为公诉案件来处理了。公安机关找到了造谣诽谤者，法院的审理结果是将造谣诽谤者处以刑罚。

老年人与电信诈骗

现在，AI换脸诈骗的受害者不是老年人，而是中年人。这与电信诈骗有所不同。此前在电信诈骗多发时，公布出来的一些案件，受害人多数是老年人。公安机关采用纸质的宣传告示，张贴于居民楼的公告栏和电梯间。这样的提示虽然能起到一些警示效果，但是还是有不少老年人上当受骗。

在本人所居住小区的同一栋楼内，就发生了老两口差点被诈骗电话把钱骗走的事件。邻居老太太接到自称来自某国的电话，威胁说老太太的外孙女在他们手上，还播放了一个小女孩的哭声。然后索要一大笔钱，不然就“撕票”。老太太吓坏了，说一定给钱，千万别伤害她外孙女。老头子在旁边听着半信半疑，但是家里老太太说了算。

老太太让在老头子拿着银行卡去银行转账。老太太拿着座机电话听筒，继续求对方不要伤害孩子。老头子没有直接去银行，而是先跑到我家，请我帮忙。我用自家电话与在邻居远在国外的子女通了话，证实孩子平安无事。老头子于是跑回家告诉老太太。老太太这才恍然大悟。这件事虽然已经过去几年了，但是我现在回想起来还是会后怕：如果当时骗子打电话到老太太手机上，她老人家听着手机就直奔银行了，哪里还有老头子找人帮忙的可能？

那时，电信诈骗分子利用老年人信息不对称、对子女关爱心切和相信对方自称是“司法机关办案”等特点，很容易就用话术将其迷惑。近年来，公安机关与境外警方合作，严厉打击境外电信诈骗团伙，反电信诈骗宣传教育也越来越深入人心，这让电信诈骗的发案率越来越低。

中年人为何受到AI诈骗的青睐

现在的AI换脸视频电话，老年人群体并非主要受害者，这可能与老年人使用视频的特点有关。例如，多数老年人只同家人视频，或联系非常紧密的老朋友视频。老年人的视频内容主要是谈亲情和拉家常。再者，老年人很少会用手机转账。对于老年人来说，手机转账操作有些复杂；另外，老年人通常眼睛不好，手指头也不灵活，所以经常担心自己操作有误——万一哪按错了，或人名看错了，钱转错了怎么办？所以，老年人不会看到视频“借钱”，就会把钱转过去的。他们或许会打电话给子女或年轻的朋友帮忙解决。因此，在AI换脸诈骗案件中，老年人上当受骗不多见。

中年人的情况与老年人不同。现在从披露出来的AI换脸诈骗案件情况来看，受害人多数是经商从业者，他们的时间比较忙，与生意上的伙伴电话或视频联系较多。日常生意上资金往来也是时有发生。当他们在接到诈骗分子发来的AI换脸视频时，一时不会想到这个视频是伪造的。中年人在为事业忙碌同时，又不乏重情义、乐于助人者。别说借钱救急，他们可以“为朋友两肋插刀”。骗子们是如何摸清具体受害者个人的性格特点的？很值得司法人员研究。

AI换脸诈骗或终结于视频

对于不熟悉AI换脸技术的老百姓来说，可能难以从视频技术方面发现伪造视频有什么破绽，只会从生活经验和交往习惯中发现异常。这一点，是人们不依赖于网络技术而拥有的经验和能力。这种经验和能力在AI视频出现之后也不会消失。因为这是长期生活积累的结果，不是网络技术的结果。例如，当人们看到AI制作的“特朗普拒捕”的照片，或“特朗普穿着破衣服捡垃圾”的照片，就知道这是讽刺，不是事实，尽管从照片上看不出有什么破绽。

今天，就那些“符合生活经验”的AI图像而言，人们就难以用上述经验来作出判断了。例如，4月3日，一位来自德国摄影家的作品获得了索尼世界摄影比赛的大奖，但是这位摄影家登台后却拒绝领奖，并当众宣布他的获奖摄影作品是用AI生成的。他的获奖作品既符合人们的“生活经验”，又符合“常识”，所以人们难以判断其作品究竟是人类的摄影作品，还是AI生成的作品。同时，在摄影技术上，专家们也看不出这是AI生成的作品。在这种情况下，人们的判断力真正遇到了前所未有的挑战。这次是作品提供者自己说出了真相，假如换了另外一个人，也许就默不作声地领奖回家了，其所作所为无疑是对专家们的一种嘲笑。

“解铃还需系铃人”。我认为，既然AI换脸诈骗出现于网络视频，那么将来也很可能终止于网络视频。或许，再过一段时间，没有人会相信“网络视频”借钱是真的——即便是真的，也可能被认为是假的。这就是老话说的：“假作真来真亦假。”

也就是说，人们以后可能只会在线下借钱。如果张三的朋友打视频电话借钱，张三会说：“借钱可以，但你得亲自来取。我不能在网上转账了。”线上转账本来十分便利，但是由于诈骗手法的出现，导致“一粒老鼠屎搅了一锅汤”。此时，网上转账的便利，变成了一种潜在的“危险”。人们不得不回到从前的线下生活：一手交钱，一手交借条。到那时，AI换脸诈骗便会退出历史舞台。

（作者系北京大学法学院教授）

标签：