河声:“AI换脸”诈骗防不胜防?宜用办法打败“魔法”

2023年05月25日21:56

来源:大河网

  诈骗团伙的手段越来越科技化,竟然用上了AI换脸技术。最近,#科技公司老板10分钟被骗走430万元#的话题登上微博热搜。据包头警方消息,4月20日中午,某科技公司负责人郭先生的好友称自己的朋友在外地竞标,需要430万保证金。郭先生基于对好友的信任,加上已经视频聊天核实了身份,分两笔进行转账。后来,郭先生才发现是骗子利用AI换脸和拟声技术佯装成好友实施诈骗。

  从媒体曝光情况看,诈骗分子利用AI技术,生成长相搭配声音的高仿视频,让人难辨真伪,就像是用魔法制造出来的假象一样。更可怕的是,他们还能够通过AI技术精准筛选受害人群,进一步拉大了和普通人之间的技术差距。据相关部门发布的警情信息显示,类似的AI诈骗现象正在变得多发频发,诈骗成功率接近100%。

  随着不法分子对AI技术的广泛运用,普通人面临着越来越大的信息安全隐患,但并非无能为力,最关键、最重要的就是提高警惕性,加强对新型诈骗手段的认知和防范。首先,不要轻易提供人脸、指纹等个人生物信息给他人,也不要过度公开或分享动图、视频等。其次,在进行网络转账前,要通过电话等多种沟通渠道核验对方身份,一旦发现风险,及时报警求助。这些措施或多或少可以避免自身权益遭受损失,起到一定的预防效果。

  尽管如此,一些防范方法在实际中仍然难以实施,例如遇到一个被换脸的长辈要求转账,一般人碍于身份,难以要求对方完成“张嘴”、“摇头”等验证身份的动作指令。然而,个人面对金钱交易时,仍应多加小心、多方求证,切勿麻痹大意。我们应该相信真正的长辈、好友和合作伙伴,不会因为我们的谨慎而对我们有所怨言。

  事实上,针对技术手段日益更新的AI诈骗事件,网络安全法、个人信息保护法以及互联网信息服务算法推荐管理规定等均对生物识别、生成合成类内容等提出了不同程度的规制要求。1月10日起施行的《互联网信息服务深度合成管理规定》也明确了深度合成数据和技术管理规范,要求提供深度合成服务应当进行显著标识。

  这些法律法规,为AI换脸划定了“红线”。对此,技术提供商宜应对故意将合成内容伪造成真实信息等问题第一时间中止服务,并向监管部门报告。有关部门则可加大执法力度,对那些未经肖像权人同意,通过技术手段提取肖像,或利用换脸软件对他人从事违法犯罪活动者,及时追究其法律责任,并深挖背后的黑色产业链,从源头打击AI诈骗。

  同时,相关行业和监管部门有必要进一步细化深度合成技术的行业规范,对反诈手段“提档升级”。例如,实施更有力的隐私保护措施,以防止公民隐私泄露;提高技术拦截手段,在AI诈骗出现之时就予以屏蔽;提高追缴能力,以便在诈骗发生后迅速挽回损失等。

  未来已来,虚拟世界和现实世界相互渗透,AI换脸不仅是一个技术问题,也是一道治理考题。我们需要加强技术监管和治理,预防和减少AI换脸滥用问题。同时,我们也需要更加深入地思考,如何在技术和治理之间找到一个平衡点,在不对社会造成伤害的同时,让技术开出绚丽之花,为社会进步作出更大的贡献。(大河网河声评论员 孔德淇)

编辑:杜若森

我来说两句 0条评论 0人参与,