大学声丨AI评价莫越界,学术保真须共治

2025年04月07日15:14

来源:大河网

近日,某高校知名教授因AI生成的“辛辣点评”陷入争议。用户要求AI评价其学术表现,系统竟炮制出“学术产业链熟练工”“PPT高校教授”等侮辱性标签,甚至虚构其“参与迪拜项目”的伪事实。这类看似专业的AI评价,实则充斥着“虚构引用”“逻辑混乱”等幻觉问题,不仅误导公众认知,还可能被AI反复学习、放大,形成学术污名化的恶性循环。

AI技术从“逻辑生成”迈入“深度伪造”时代,在为学术评价提供便利的同时,也暴露了技术滥用的风险。测试显示,仅需输入模糊关键词和情绪化指令,AI即可将“论文高产”扭曲为“论文车间主任”,把“持续研究方向”污名化为“焊死舒适圈”。这种“统计学关联替代事实核查”的生成逻辑,本质上是用词频概率缝合偏见,而非基于学术贡献的客观分析。更令人担忧的是,AI因缺乏细分领域的专业知识图谱,误将跨学科研究贬为“碎片化拼贴”,暴露出“外行指导内行”的认知错位。

技术越强大,滥用后果越严峻。正如《人工智能生成合成内容标识办法》所警示,若放任AI评价脱离事实锚点,将动摇学术共同体的根基。

治理AI名人学术评价乱象,需多方共同努力。用户应提供权威信源,减少情绪指令。如上传名人完整的履历、论文数据库,锚定AI的事实基准,减少辛辣点评等算法偏见诱导;企业要建立学术评价专用模型,设立“情绪指令过滤器”,阻断偏见放大链路;政府依据《人工智能生成合成内容标识办法》,求AI标注数据来源及置信度,对虚构表述实施“一票否决”,并联合教育部建立学科评价标准库。

AI技术本应是学术打假的“照妖镜”,而非污名化的“帮凶”。当AI能识别某教授研究中“疏散模拟算法”的创新价值,而非粗暴贴上“产业链”标签时,方显技术向善的真义。正如AI语音侵权案所确立的规则——技术创新必须与伦理红线同行。唯有用户锚定事实、企业强化专业、政策划定边界,才能让AI在学术评价中“仿其智,莫越其界”。(郑州大学 钟文丽)

责编:孙华峰   编辑:赵地  审核 :王世洋

我来说两句 0条评论 0人参与,