11月21日获悉,华中科技大学与阿里巴巴集团已于11月18日签署合作协议,双方将围绕人工智能安全展开产研协作,并共同建设智能攻防与前沿安全联合研究中心。
该研究中心首批课题共9个,内容分布在四个方向:大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护。
在智能体安全方面,针对人工智能智能体代替用户操作手机、处理复杂任务时可能遇到的屏幕画面伪造、操作被恶意诱导等风险,中心设置了图像对抗样本与终端威胁研判课题,用于探索相关安全风险的识别和防护技术。
在数据协同与隐私保护方面,中心设置隐私保护关系图谱课题,尝试借助密态计算等技术,让数据在可用不可见、协同不透传的条件下流转,使数据互通的便利与隐私保护不再只能二选一。






