首页近日，包头市公安局发布一起使用智能AI技术进行电信诈骗的案件：福州市郭先生的“好友”通过微信视频联系到他，“好友”告诉郭先生想借用他公司的账户走一下账。“好友”声称已经把430万元打到郭先生的账户。基于视频聊天信任的前提下，郭先生没有核实钱是否到账，先后分两笔把430万元给对方打了过去。其实“好友”是诈骗人员借助AI换脸技术制作的虚假图像。
公安部门的调查显示，AI技术加持下的骗局，成功率接近100%。这个数据是十分可怕的。“AI换脸”，是科技术语，是指通过AI人工智能技术，把别人的脸换成自己的脸。“AI换脸”脸部表情自然，效果逼真，整个过程只需要通过一张照片，然后用AI技术可以在ZAO软件上使用自己的照片替换小视频中的人物，从而生成以自己为主角的视频。
时代的发展需要新技术的阔步。但是，需要知道的是，任何新技术的出现都可能成为一把双刃剑，使用好了就会造福社会，而使用不好、用到了歪门邪道上就会危害社会。“AI换脸”自然也是如此。
近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。专家表示，在网络安全法第二十七条的规定当中，特别强调，明知他人实施危害网络安全活动的，不能为其提供技术支持，如果情节严重，还会构成帮助信息网络犯罪活动罪等刑事犯罪。
事实上，眼下“AI换脸”就已经出现了滥用现象，成为一种安全隐患。就拿媒体报道的这起“借助AI技术成功诈骗430万”的案件来说，被骗的当事人也没有想到：明明与自己视频聊天的是“朋友”，谁能想到“朋友的脸”背后是“骗子的嘴”？这说明“AI换脸”技术已经被用在了歪门邪道上。对此，监管“新技术”不能使用“老办法”。
一个方面是，作为普通市民，一定要谨慎再谨慎，在“AI换脸”技术还没有有效规范的管理措施之前，不要轻易相信“视频里的脸”；一个方面是，作为警方，需要加大宣传力度，让人们能够认清“视频里的脸”，防范“虚假的脸”骗人的伎俩。可是，更为重要的则是，我们的管理措施、治理手段、约束制度，能够跑赢“新技术的隐患”。这就需要出台涉及“AI换脸”智能技术的法律法规，划定“新技术”的使用范围，约束“新技术”的传播途径，确保“新技术”用到正途上，而不是让“新技术”在邪道上一路狂飙。例如，网络上可以随便找到“换脸技术的讲课”这就是潜在的隐患。
“换脸”技术诈骗，执法也需要“变脸”了，当给“新技术”立好“新规矩”！（大河网河声评论员 郭元鹏）