在上海浦江AI学术年会上，阿里巴巴携手上海人工智能实验室共同发布了一份名为《守己利他：智能时代做负责任的技术》的白皮书。该白皮书聚焦于人工智能（AI）智能体领域的安全隐患，提出了全行业应对风险挑战的三大核心原则：守己、利他与合作。
这已是阿里巴巴连续第四年发布人工智能治理方向的实践成果。据介绍，阿里巴巴依托其全栈AI能力，已构建了一套立体化的智能体安全防护体系，旨在从源头保障AI技术的安全性。
白皮书强调，在AI技术迅猛发展的当下，安全已不再是研发过程中的可选项，而是社会信任的基石。阿里巴巴人工智能治理与可持续发展实验室主任薛晖在发布会上指出，随着AI从“能说会道”向“能干实事”转变，确保其安全性变得尤为重要。他提到，去年以来，智能体的普及速度加快，AI开始自主调度资源、执行复杂任务，风险也随之集中显现。
为了应对这些挑战，阿里巴巴将安全理念融入全栈AI体系的每一个环节，从芯片、云计算到模型和应用，确保技术和产品从诞生之初就具备安全基因。同时，阿里巴巴还坚持开源开放，将内部验证过的技术，包括安全技术，作为公共产品向全行业开放，推动“负责任的技术”理念在各行各业落地生根。
在智能体安全的具体实践上，阿里巴巴通义实验室安全负责人张荣用一个生动的比喻解释了用户DIY智能体与封装完备产品之间的安全差异。他指出，用户自行搭建的智能体如同将保险箱置于家门口，安全性难以保障；而封装完备的产品则通过内置安全机制，为智能体提供了更强的防护能力。
针对智能体面临的复杂风险，阿里巴巴构建了一套立体化的安全防护体系。该体系的核心在于提升基础大模型的内生安全能力，并构筑多层系统级安全围栏，实现智能体风险的全链路管控。张荣进一步解释说，在智能体的运行过程中，工具调用与代码执行是安全风险的高发环节，这两个环节高度依赖底层大模型的代码生成能力。因此，阿里巴巴将强化千问模型在编程场景下的原生安全作为重点工作。
依托阿里巴巴20余年顶尖安全团队积累的代码安全经验，以及千万级真实漏洞样本，阿里巴巴打造了高质量的安全训练语料。通过将这些语料深度融入模型训练的各个阶段，并开展多轮严格的安全对齐，千问模型的代码安全性已达到行业领先水平。在权威代码安全评测基准SecCodeBench中，千问模型生成代码的安全性稳居开源模型首位。
