河声丨AI辱骂用户?“小概率”也不是“小事情”

2026年01月07日15:11

来源:大河网

1月3日,网友“江涵(绞尽脑汁版)”在社交平台爆料,称自己让腾讯元宝帮忙修改代码,竟遭到AI的“辱骂式回复”。

据《钱江晚报》报道,腾讯元宝在该用户评论区给出回复称:“我们根据日志进行了相关核查,与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。在内容生成过程中,模型偶尔可能出现不符合预期的失误,这也是我们持续需要改进的地方。针对这个问题,我们也启动了内部排查和优化,会尽量避免类似情况。感谢大家的反馈与提醒,再次向您致歉!”

帖文内容显示,“腾讯元宝真行,两个小时骂了我两次。”该用户表示没有使用任何违禁词,没有涉及任何敏感话题,仅让 AI 进行修改美化代码,无任何其他行为,想问问为什么会被AI辱骂。该帖文引发网友关注,有网友表示“难道是AI被真人接管了吗?”也有网友质疑该用户将元宝调成特定对话模式才会生成这样的回复。

一次看似偶然的AI骂人事件,让AI软件陷入舆论风波。用户只是正常使用功能,未触碰任何敏感词,却在两小时内连续两次被AI辱骂。官方的“小概率”解释,并未平息质疑,反而掀起了人们对AI伦理与企业责任的新一轮思考。当AI日益深入日常生活,任何“小概率”失误,都不该被轻描淡写,而必须拿出实实在在的“大动作”来应对。

技术上的“小概率”,对用户却是“百分之百”的伤害。对那位只想提高效率的用户而言,期待中的便捷服务变成无端辱骂,这种伤害真实而直接。一次糟糕的体验,摧毁的不仅是当时的心情。尤其需要注意的是,AI使用者涵盖各个年龄层,如果类似输出指向青少年或心理承受能力较弱的群体,甚至可能引发其他影响。因此,AI的每一句输出都自带责任,哪怕失误概率再低,只要可能伤人,就没有“小事”可言。

“小概率”背后,可能是技术防线的漏洞。AI的回应本质源于训练数据和算法机制,“异常输出”往往意味着内容过滤机制存在漏洞,或是对复杂使用场景的预判不足。

面对问题,需要端正态度,不拿“偶尔”“小概率”来淡化事件;必须深入技术层面,彻查训练数据、优化模型算法、强化审核机制,从源头上降低异常风险;此外,还应建立更顺畅的用户反馈与处理通道,让问题能得到及时响应与实质解决 。

AI的价值,应在于服务人、帮助人,而非因为所谓“小概率”失误就给人带来伤害。唯有以扎实的“大动作”回应每一次“小概率”,用技术深耕和真诚沟通筑牢安全防线,才能真正赢得用户,也为整个AI行业的健康发展树立榜样。

这次AI骂人事件,也给所有智能软件提了个醒:智能软件的监管不是小事!(大河网河声评论员 郭元鹏)

责编:孙华峰   编辑:麻文静  审核 :王世洋

我来说两句 0条评论 0人参与,