首页近日，一则“小学生妹妹沉迷和AI角色进行剧情聊天”的新闻引发广泛关注。10岁女孩与“AI男模”的露骨聊天记录，以及在AI剧情聊天软件中扮演“大小姐”“恶毒女配”，提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等暴力行为要求情况，令人咋舌。这一现象敲响了警钟，10岁女孩陷入“AI恋爱”，已不再是简单的个例问题，亟待社会与家庭携手“联守”。
这种现象对孩子的成长极为不利。对于心智尚未成熟的10岁女孩而言，接触到露骨的聊天内容，很容易扭曲其对情感、人际关系的认知。她们可能会过早地对恋爱等亲密关系形成错误理解，影响今后正常的情感发展。同时，在AI剧情中频繁输出暴力行为指令，会潜移默化地影响孩子的价值观，增加其攻击性和暴力倾向。事实上，类似事件时有发生。此前，也有报道称部分青少年沉迷于与AI角色的暧昧聊天，甚至出现花费大量金钱为虚拟角色“打赏”的情况。曾经，北京青少年法律援助与研究中心发布的《线上儿童性剥削的预防和处置平台工作指引报告》显示，46.0%的未成年网民曾在上网过程中遭遇过各类不良信息的推送。而这些聊天软件，尤其是一些主打AI剧情聊天的应用，在内容审核上存在严重缺失。而有的软件开发者为了追求流量和盈利，往往忽视内容的健康性。
国家早已对未成年人网络保护高度重视。《中华人民共和国未成年人保护法》第七十四条明确规定：“网络产品和服务提供者不得向未成年人提供诱导其沉迷的产品和服务。” 同时，自2023年8月15日起施行的《生成式人工智能服务管理暂行办法》明确提出，生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。可是，一些AI聊天软件，缺乏对未成年人的有效保护机制，任由不良内容传播，显然违反了相关法律。
10岁女孩“AI恋爱”，亟待社会家庭“联守”！一方面，从社会层面来看，对聊天软件监管刻不容缓！相关监管部门应加大对聊天软件的审查力度，定期对应用商店中的聊天类软件进行排查，对于存在不良内容的软件，坚决予以下架处理，并对相关企业进行严厉处罚。同时，聊天软件平台自身要强化责任意识，建立健全内容审核机制，利用先进的技术手段，对用户发布和接收的信息进行实时监测，过滤掉不良、不适宜未成年人的内容。要加强对AI角色设定的规范，避免出现容易诱导未成年人产生不良行为和思想的角色。另外，社会各界也应积极参与监督，鼓励公众对不良聊天软件进行举报，形成全社会共同保护未成年人网络安全的良好氛围。
另一方面，从家庭层面来看，家长要承担起首要责任，如发现孩子相关问题，就要密切关注孩子的上网行为。家长应多与孩子沟通交流，了解他们在网络世界的活动。比如，每天安排固定时间与孩子聊聊上网的所见所闻，及时发现问题。同时，要引导孩子树立正确的价值观和网络使用观念，通过讲述故事、分析案例等方式，让孩子明白哪些内容是健康有益的，哪些是有害的。当然，学校加强对孩子的网络安全教育，引导孩子正确使用网络，增强他们的自我保护意识和辨别是非的能力，同样必不可少。
总而言之，10岁女孩“AI恋爱”绝非小事。社会与家庭必须行动起来，严格落实各项措施，为未成年人营造一个健康、安全的网络环境，守护他们的美好未来。只有这样，才能避免更多孩子受到不良网络内容的侵害。（大河网河声评论员 曹灿辉）