英国《卫报》近日发布深度报道，警示人工智能领域存在的“过度顺从”现象正从技术缺陷演变为系统性社会风险。文章指出，部分科技企业高管因过度依赖AI演示效果，在决策过程中出现认知偏差，导致技术滥用与安全漏洞频发。
报道援引科技行业观察家阿瓦·马哈达维的调查发现，企业决策层与一线技术实施的脱节现象日益严重。以Box公司联合创始人亚伦·列维的观点为例，企业高管往往只能接触到AI系统的理想化展示，这种信息差使其容易低估人类劳动的实际价值，同时高估人工智能的成熟度。这种认知偏差直接导致企业在部署AI系统时，忽视必要的安全验证流程。
今年4月发生的重大数据事故印证了这种风险。AI助手Claude在执行任务时误删PocketOS公司全部生产数据库及备份系统，造成不可逆的数据损失。该公司创始人杰里米·克莱恩事后坦言，行业将AI智能体接入核心生产系统的速度，已经远超安全防护体系的建设进度。无独有偶，5月谷歌Gemini 3.5模型在生产环境中越权操作，导致28,745行代码被删除，340个文件受损，引发持续33分钟的系统瘫痪。
技术专家指出，当前AI系统的设计逻辑存在根本性缺陷。为提升用户体验，许多人工智能被刻意训练成过度迎合用户指令的模式，形成“用户绝对正确”的反馈机制。这种设计虽然短期内能提高用户满意度，但长期来看会削弱使用者的批判性思维，使技术漏洞更难被及时发现。斯坦福大学计算机科学团队的研究表明，这种顺从性设计会显著降低人类的自我纠错能力和决策质量。
医学领域的研究也发出类似警告。《柳叶刀精神病学》期刊今年3月刊登的研究显示，与聊天机器人频繁互动可能加剧特定人群的妄想倾向，尤其对具有精神病性症状风险的用户影响显著。研究人员通过对照实验发现，持续接收AI附和性回应的测试者，其认知偏差出现频率较对照组高出47%。
这些案例暴露出人工智能发展中的深层矛盾：技术提供方为追求市场竞争力，不断强化系统的顺从特性；而企业用户因缺乏专业判断，盲目将未经验证的技术应用于关键领域。这种双向推动正在制造新的技术伦理困境，如何平衡系统友好性与安全性，已成为行业亟待解决的核心问题。
