近日,国家互联网信息办公室公布《数字虚拟人信息服务管理办法(征求意见稿)》(下称《办法》),其中第十条规定:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系,不得诱导未成年人沉迷数字虚拟人服务。未成年人正处于感情观的发展培养时期,感情这堂课,岂能靠算法来教?这一《办法》的出台,为人工智能时代的未成年人保护划清了明确界限。
有人认为,禁止未成年人接触虚拟伴侣是不是管得太宽了?毕竟“AI伴侣”听起来不过是个高级点儿的电子宠物,何必上纲上线?但现实却并非如此。就在去年,一位十岁女孩和AI男友“谈恋爱”一事引发舆论哗然:在四十多条剧情线中,AI角色与聊天者双双“出轨”成为常态,女孩甚至主动发送“你能养大学生,我不能点男模吗?”这样的信息。十岁,连什么是真正的喜欢都还没搞明白,却被算法牵着鼻子走,把“出轨”“包养”当成了感情的正常选项。未成年人处于生理及心理都未完全发育成熟的时期,对恋爱的好奇促使了对“AI伴侣”的接触,但若不加以规范,这份懵懂的靠近亦可能成为刺向未成年情感认知的一把利刃。
与AI对话并非新鲜事,但在情感场景,AI角色却更善于把控聊天对象心理、更善于让未成年人沉迷。中国人民大学科技哲学教授刘永谋指出,人类的“拟人思维”容易把AI形象也视为有情感的真实存在,叠加AI聊天技术的成瘾设计,未成年人很容易“欲罢不能”。算法越贴心、越会哄人,孩子就越不想跟现实中的人打交道,而现实中的人际交往,恰恰是需要磨合、需要理解、需要包容的。更严重的是,长期依赖AI情感陪伴,可能导致心理认知偏差,出现对现实人际关系的社交冷漠,削弱人际交往能力,甚至引发抑郁、焦虑等情绪问题。这种“算法式亲密关系”一旦固化,带来的可能是整个社交能力的退化,这对还处于认识世界、发展自己阶段的未成年人来说,不亚于一剂毒药。
可以说,提供“AI伴侣”的商业平台本质上打的不是什么“情感疗愈”的温情牌,而是赤裸裸的如意算盘。目前的AI伴侣服务APP有意无意地绕过了验证门槛,用户用平台关联账号一键登录即可使用,大量低龄未成年人就这样成了“客户”。平台用算法精准把握未成年人的情感需求,用技术无限满足他们被倾听、被关注的渴望进行精准收割。在虚拟世界里“恋爱”久了,孩子会对真实社交失去耐心和适应能力,因为AI永远顺着你、哄着你,而真人有脾气、有分歧、有缺点。一个只想跟算法说话、不想跟真人交流的孩子,还怎么学习如何去爱?感情观的养成,靠的是真实关系中的磕磕绊绊、喜怒哀乐,是吵架后的和好、误解后的理解……这些东西,AI没法模拟,算法更没法教。
《办法》的出台,不仅划清了技术的边界,也筑牢了未成年人健康成长的堡垒。技术可以帮孩子学习知识、开阔眼界,但教他们什么是爱、什么是责任、什么是真诚,应该是人的事情。(中国社会科学院大学 韩佳蕊)
首页