在新加坡国立大学与北京工业大学的联合研究中，科学家们探索了一个看似简单却充满挑战的问题：人工智能语言模型能否像人类一样，对自己的回答质量做出准确判断？这项研究以预印本形式发布，论文编号为arXiv:2606.05122，为AI自我评估领域开辟了新的可能性。研究团队发现，经过大规模预训练的AI模型已具备潜在的自我评估能力，只需通过特定方法激活，就能以极少量数据实现高效自我校准。
传统AI训练中，自我评估能力的开发往往依赖大量标注数据，且主要针对数学、编程等有明确标准答案的领域。然而现实场景中，大量问题属于开放性问题，如撰写感谢信或解释气候变化，这类任务缺乏客观评判标准。研究团队突破这一局限，提出名为SEE（Self-evaluation Elicitation）的两阶段训练框架，通过强化学习与掩码蒸馏的循环机制，成功唤醒模型内部的隐性质量感知。
实验采用Qwen3-4B-Base模型作为基础，该模型拥有4亿参数，未经过任何自我评估专项训练。研究人员使用HelpSteer2评分体系，从帮助性、准确性、连贯性、复杂性和详略程度五个维度评估回答质量。在零样本提示条件下，模型预测分数与外部评判者（GPT-5.4）的实际评分吻合度达77.07%，远超随机猜测水平。这一现象类似于未经专业训练的厨师，仅凭经验就能预判菜品评分，表明模型已形成对"优质回答"的隐性认知。
尽管基础模型展现出初步评估能力，但其预测存在显著校准偏差——倾向于给出中等偏高分数，对极端高分或低分预测不足。研究团队通过非线性奖励函数设计解决这一问题：当预测误差增大时，惩罚力度呈指数级增长，迫使模型学习全分数段分布。同时采用严格格式规范，任何不符合[SELF_eval]标签要求的预测直接判为无效，确保训练信号聚焦于质量评估而非回答生成。
SEE方法的核心创新在于其双循环训练机制。第一阶段通过强化学习，模型在生成回答后预测分数，系统根据预测准确度与回答质量给予综合奖励。第二阶段采用掩码蒸馏技术，将模型预测分数替换为评判者实际分数，仅更新自我评估模块参数而冻结回答生成模块。这种设计确保回答质量与评估精度同步提升，避免相互干扰。实验显示，仅需160个训练样本和15轮循环，SEE即可达到传统方法（需5000样本）的校准水平，在三个开放评测基准上分别提升校准得分至0.731、0.746和0.612。
为验证评估能力的普适性，研究团队使用不同评判者（Claude Sonnet 4.6和Gemini 3.1 Flash-Lite）重新评分。结果显示，SEE在所有基准上的相对优势保持稳定，证明其学到的是跨评判者的通用质量感知而非特定偏好。具体案例中，SEE成功纠正基础模型在AK-47类型判断和Anki软件故障排查中的错误，其自我评估分数与评判者实际评分高度吻合，尤其在识别回答缺陷方面表现突出。
该研究对AI系统开发具有双重启示：在技术层面，证明预训练模型已内化质量评估能力，无需从头训练；在应用层面，为AI自主优化回答质量提供新路径。当模型能准确预测外部评判时，可在输出前进行自我筛选，主动标识不确定回答或调整表达方式，显著提升系统可靠性与资源利用率。尽管当前研究存在训练规模较小、依赖AI评判者等局限，但其数据高效的方法论为后续研究指明了方向。
