数元即可购入违规AI指令,借助境外生成工具,一键生成低俗色情内容;智能换脸、定制化不良影像等灰色服务随处兜售。当前,AI造黄黑色产业依托低成本、高隐蔽、易复制的运作模式肆意扩张,突破网络风控防线、钻空子游走于监管边缘,已然成为侵扰青少年数字空间的新型公害。
人工智能技术迭代演进,本应赋能清朗网络生态,为青少年构筑健康向上的数字成长空间,但部分不法分子践踏规则底线,通过篡改敏感词汇、借助非法工具规避审查,依托各类社交渠道分流引流,把AI图文生成、智能换脸等技术异化成牟利手段,直击未成年人网络保护的薄弱环节。
相较于传统网络不良信息,AI造黄对未成年人的侵害更为深远。青少年网络参与场景丰富,极易被动沾染低俗对话、色情影像内容;在虚拟陪伴等新兴应用场景中,隐性低俗诱导持续扭曲价值认知。不少AI应用未设置完善年龄准入门槛,青少年可无门槛操作生成违规内容,青少年模式防护漏洞凸显,实际约束效力大打折扣。央视近期曝光案例显示,有商家仅以9.9元售卖绕过审核的操作教程,凭借隐晦提示词生成涉未成年人软色情影像,误导心智尚未成熟的青少年,扭曲其价值认知、扰乱其身心健康成长。
新型技术乱象频发,折射出未成年人网络治理仍存在多重短板。一方面,不少AI平台风控体系更新滞后,对隐晦化、变异化的违规指令识别筛查能力不足,面向青少年的内容分级、风险预警等机制建设滞后,难以适配新技术乱象治理需求。
另一方面,部分社交平台深陷流量思维,对AI涉黄引流、黑产私下交易监管尺度宽松,放任有害信息在青少年圈层流转扩散。此前中青报调查披露,“AI脱衣”黑产以低价售卖不雅图像,打包兜售未成年人私密影像,形成闭环非法利益链条。加之境外违规应用软件变相流入境内,不法分子变换传播渠道与隐蔽手段,大幅增加监管排查难度,侵蚀未成年人网络安全防线。
守护青少年数字净土,法治建设是固本之策。针对生成式人工智能发展新业态,现行法律法规明确锚定未成年人保护核心要求,压实平台内容审核、算法合规、风险防控等法定责任。“清朗”系列专项行动聚焦AI新技术衍生乱象,将青少年权益保护纳入重点整治范畴,不断细化监管细则、完善治理规范,为从严整治AI造黄乱象、净化未成年人网络生态夯实制度基础。
肃清AI造黄沉疴,必须靶向施策、闭环治理。各大网络平台应当坚守社会责任本位,把未成年人保护置于发展优先位置,摒弃流量至上的片面导向,迭代升级智能风控系统,强化变异提示词拦截、低俗影像智能甄别,收紧青少年模式功能权限与内容边界,从源头切断不良信息传播路径。监管部门须保持常态化高压整治态势,深挖AI造黄上下游利益链条,对教程售卖、流量引流、内容传播等关联违法行为从严惩处,同步强化跨境技术与应用封堵,杜绝境外违规工具入侵。广大网民也应主动参与监督,常态化举报AI涉黄违规内容,合力挤压黑产生存空间。
AI造黄乱象暗藏技术伦理与社会治理双重考题,守护未成年人网络安宁刻不容缓。坚持对相关黑色产业零容忍导向,全链条打击斩断利益网络,全方位建制补齐治理短板,全社会联动凝聚各方合力,方能稳固未成年人网络安全屏障,为青少年护航一片干净、安全、清朗的数字天地。(大河网特约评论员 孔德淇)
首页