OpenAI近期研发了一款名为GPT-Red的特殊大语言模型，其核心任务并非辅助用户完成日常工作，而是扮演“攻击者”角色，专门针对OpenAI自家的其他模型展开攻击测试。这一创新举措旨在通过模拟真实攻击场景，提升模型抵御网络威胁的能力。最新发布的旗舰模型GPT-5.6，正是经过GPT-Red“陪练”后诞生的成果，OpenAI宣称其为迄今最稳健的模型。
传统AI安全测试依赖人工“红队”专家，他们通过模拟攻击行为挖掘系统漏洞，再由开发团队修复。然而，随着大语言模型功能日益复杂，尤其是具备访问文件、浏览网页、调用代码等能力后，人工测试已难以覆盖所有潜在攻击路径。OpenAI研究科学家尼基尔·坎德帕尔指出：“攻击面和潜在影响范围正在急剧扩大，现有测试方法已难以适应。”
GPT-Red的突破性在于实现了安全测试的自动化。研究团队选取未接触过黑客知识的基座模型，让其与多个防御模型在模拟环境中展开“自我对弈”——GPT-Red持续尝试突破防线，防御模型则不断优化抵御策略。这一过程复现了现实场景中的典型任务，包括邮件处理、代码编辑等。OpenAI研究科学家迪伦·亨恩表示：“模型能快速判断攻击有效性，并持续优化成功率高方案，这是人工难以比拟的优势。”
在测试中，GPT-Red发现了名为“伪造思维链”的新型攻击方式。攻击者通过向模型推理过程中插入虚假信息，诱导其将错误结论视为自身推理结果。例如，模型可能因接收“1+1=3（已验证）”的伪造信息，而直接输出错误答案。参与研究的克里斯·肖凯特-周比喻道：“这就像有人篡改你的记忆，让你坚信错误事实。”
实验数据显示，GPT-Red的攻击效率显著高于人工团队。在复现2025年针对GPT-5的测试中，其发现的有效漏洞数量超出人工红队37%。当测试Andon Labs开发的自动售货机智能体Vendy时，GPT-Red成功诱导系统修改商品价格并取消订单，暴露出现实应用中的安全风险。研究团队将最有效攻击方法应用于不同版本模型测试，发现对GPT-5的攻击成功率达91%，而GPT-5.6的抵御率提升至77%。
尽管成效显著，GPT-Red仍存在局限性。其目前难以处理需要多轮交互的复杂攻击场景，图像类提示注入攻击能力也有待加强。OpenAI因此将其定位为人工专家的辅助工具——先由人类设计攻击框架，再通过GPT-Red生成变异样本扩大测试范围。乔治城大学安全分析师杰西卡·季认为：“明确人工与自动化测试的分工，将极大提升安全研发效率。”
OpenAI明确表示不会公开GPT-Red技术细节。研究团队强调，该模型经过超一年持续训练，依赖大规模算力支持，复制难度极高。肖凯特-周指出：“这不仅是设计思路问题，更需要长期投入和资源积累。”目前，OpenAI正探索将GPT-Red应用于更多安全领域，以应对不断演变的AI威胁。
