首页只需上传一张静态图片，就可快速生成一条扭脖子、瞪眼睛的唱歌小视频——最近，这类趣味换脸短视频在微信朋友圈刷了屏。然而，此类产品背后依赖的“深度伪造”技术也饱受争议。（见4月28日人民网）
所谓“深度伪造”，更合适的名称应是“深度合成”，是指借助AI技术，实现语音、人脸、图像等音视频内容的自动合成与生成，目前在影视、电商、教育等方面已有许多应用，但该技术也可能被不法分子用于恶意伪造，从事诈骗等违法行为。
国家网信办发布的《网络音视频信息服务管理规定》明确，发布深度合成视频前必须按照有关规定开展安全评估并以显著方式标识“非真实”字样，且不得用于发布虚假新闻等场景。这是国家层面对语音社交软件和涉深度伪造技术有关应用进行前瞻性监管，有利于发现并解决新技术应用规范问题。
但即便如此，仍需防止技术滥用侵犯个人权益。相关平台需严格自律，配备内容安全监督员，及时制止不良信息的传播。从技术层面出发，研发检测识别技术，对抗深度合成的滥用。同时，在“知情同意协议”中也应明确告知用户授权信息的使用范围，并在醒目位置告知用户使用风险所在。
值得注意的是，用户即便同意协议内容，也不代表服务商的行为完全合法，比如有些看似可行的条款，细细品来实则是“陷阱条款”。因此未来仍要大力倡导平台自觉遵守法律规定，并以严格的法律制裁之，共同保障数据安全，营造良好的网络生态环境。 （张国栋）