大学声丨警惕AI的情感陷阱,技术向善不能跑偏

2026年05月01日10:39

来源:大河网

据4月25日《央视新闻》报道,短视频平台上出现了一批身着正装或制服的“AI霸总”,他们正被一些别有用心的人利用,将目标对准了老年群体。用“姐姐”“想你”等甜言蜜语精准戳中了老年人的情感需求,使其产生情感依赖并诱导消费。

当AI技术走进寻常生活,它本可以成为老年人最贴心的伙伴:陪孤独老人说话、排解寂寞,帮着查天气、记医嘱,解决日常生活的小麻烦,用科技温柔守护银发族的晚年时光。

但这份向善的可能,却被利欲熏心者彻底扭曲了。这些人精准拿捏老年人的情感软肋,用低成本制作的AI视频,一步步攻破老人的心理防线,让老人深陷虚拟温情无法自拔。待建立起情感依赖时,獠牙便开始显露了,通过推销高价商品、留言板提示、直播带货等手段,利用老人的信任与信息差从中牟取暴利。更有甚者不标注AI生成,混淆虚拟与现实,让老人在不知不觉中掏空钱包、伤透真心,AI也彻底沦为伤害弱势群体的工具。

技术向善的核心,从来都是以人为本,用科技弥补社会关怀的缺口,让老年人在数字时代拥有更多的安全感与幸福感,这才是AI应用于银发群体的真正价值。

如今的“AI霸总”围猎老年人,早已不是“AI情感陷阱”的个案。此前媒体多次曝光的“AI伴侣”,更是将黑手伸向心智尚未成熟、渴望陪伴与关爱的未成年人。无论是面对孤独空虚的银发群体,还是懵懂缺爱的青少年,这些不良从业者总是在精准拿捏弱势群体的情感软肋。本该向善、助人的AI,却成了批量制造虚假温情、收割信任与金钱的工具。

此类AI乱象,不仅辜负了技术向善的初衷,更暴露了多重治理的短板:行业伦理失守,部分从业者只顾流量收益,将AI技术用在歪路上;平台审核缺位,对恶意营销、未合规标注的AI内容未做审查,让收割套路肆意传播。其实,早在2025年9月1日起施行的《人工智能生成合成内容标识办法》就已经要求AI合成内容必须明确标注,但仍有不少用户发布AI合成内容时未做到这一点。

要让AI回归向善本心。行业要坚守伦理底线,引导AI技术真正服务于人们的生活,开发实用的陪伴、助老功能;平台要扛起主体责任,严格审核AI内容,强制标注生成信息,严查情感收割账号,掐断违规牟利链条;而家庭与社会更要补上情感关怀,多陪伴、多引导,让老人在现实中获得温暖,不会依赖虚假的陪伴。

技术本无善恶,用之善则善,用之恶则恶。我们每个人都应该在心里问一个问题:AI今后该如何发展?答案一定是“向好向善”!AI的诞生绝不能成为刺向己方的一把刀。只有让商业守住良知,让技术回归初心,让社会补齐关怀,才能让AI真正成为人类的暖心帮手,让数字时代的善意,稳稳地守护好每一个人。(山西传媒学院 王梦飞)

责编:孙华峰   编辑:赵地  审核 :娄恒

我来说两句 0条评论 0人参与,