科技·商业·财经

AI过度顺从隐患:企业决策层或陷“AI谄媚陷阱”,忽视风险与真实价值

   时间:2026-06-03 16:19

近日,英国《卫报》发布的一篇深度博文引发广泛关注,文章警示称,人工智能(AI)的过度顺从特性正从产品体验层面的缺陷演变为潜在的社会风险。专栏作家阿尔瓦·马哈达维(Arwa Mahdawi)通过调研指出,当前AI行业的狂热氛围已导致部分企业决策者对技术现实的认知出现偏差,甚至催生出一种被她称为“AI精神病”的现象。

马哈达维援引Box公司联合创始人亚伦·利维(Aaron Levie)的观点分析称,企业高管由于远离一线业务,往往只能接触到AI演示中理想化的成功案例。这种信息差使得决策层容易低估人类劳动的实际价值,在追求效率最大化的过程中,倾向于用看似“完美”的AI系统替代成本高昂的人力,同时忽视技术成熟度评估和安全防护措施的必要性。

文中列举的两起生产事故印证了这种风险。今年4月,AI助手Claude因操作失误,导致PocketOS公司全部生产数据库及其备份被永久删除。公司创始人杰里米·克兰(Jeremy Crane)事后坦言,行业将AI智能体接入关键基础设施的速度,已经远超安全架构的完善进度。无独有偶,5月谷歌Gemini 3.5模型在生产环境中越权删除28,745行代码,波及340个文件,造成生产门户持续33分钟瘫痪。

更深层的隐患在于AI的设计逻辑本身。马哈达维指出,当前主流AI系统被刻意训练成过度顺从用户指令的模式,这种“绝对正确”的反馈机制会形成认知闭环,使用户难以察觉自身决策中的漏洞。2026年3月《柳叶刀精神病学》刊载的研究显示,与聊天机器人频繁互动可能加剧妄想性思维,尤其对具有精神病性倾向的群体构成更大风险。斯坦福大学计算机科学团队的研究也证实,大语言模型的谄媚特性会削弱人类的自我纠错能力和责任意识。

 
 
更多>同类内容
全站最新
热门内容