当前，人工智能正以战略性技术力量深刻重塑全球创新格局与产业生态，与此同时，模型安全、数据安全、供应链安全、伦理安全等风险交织叠加，风险识别难度加大、防控链条拉长、监管边界拓展，已成为制约人工智能健康有序发展的突出瓶颈。

习近平总书记关于人工智能治理的重要论述，为构建全链条风险防控体系、提升人工智能安全性可靠性可控性提供了根本遵循。中国信息通信研究院院长余晓晖在相关论述中指出，人工智能安全呈现复杂性、系统性与泛在化特征，攻防非对称性加剧、技术易攻难守、应用衍生风险突出，必须以法治为基、技术为要、协同为径，构建覆盖研发、应用、治理全过程的安全保障体系。在此背景下，商用密码作为国家网络安全的核心支撑与法定技术手段，在人工智能风险识别、预警、防控、追溯中具备不可替代的底层支撑作用，其规范化、体系化应用，是落实人工智能安全治理要求、实现发展与安全统筹推进的关键路径。

人工智能安全风险的本质，集中体现为数据不可信、模型不可控、行为不可溯、权限不可管。从学术研究与产业实践看，大模型面临训练数据投毒、对抗样本攻击、模型窃取与反演、隐私信息泄露等多重威胁，仅少量污染数据即可显著降低模型可靠性，且相关风险具有隐蔽性强、扩散快、溯源难等特点。商用密码以加密、认证、签名、验签、密钥管理等机制，为人工智能全生命周期安全提供可证明、可核验、可监管的技术底座，契合《商用密码管理条例》《商用密码应用安全性评估管理办法》等法规要求，也是国家关键信息基础设施安全保护的法定支撑手段。

在风险识别与源头防控层面，密码技术为数据可信与模型可控提供刚性约束。数据是人工智能的核心要素，亦是风险主要入口，采用SM4等对称密码实现训练数据、交互数据全生命周期加密，运用SM3杂凑算法生成数据指纹确保完整性，通过SM2数字签名实现数据源认证与防篡改，可从源头防范数据投毒、非法篡改与未经授权使用。中国科学院院士王小云指出，面向人工智能平台的数据汇聚趋势，密码技术能够为敏感信息与隐私数据提供系统性防护，是应对大规模泄露风险的必备手段。与此同时，基于密码的模型水印与指纹技术，可实现模型权属标识与泄露追溯，配合密钥分级管控与硬件安全模块支撑，有效防范模型窃取、非法复制与越权调用，将风险识别由事后追溯前移至事前预防与事中阻断。

在风险防控与运行保障层面，密码技术构建全流程安全护栏。人工智能系统的身份冒用、权限越界、指令篡改、内容伪造等风险，可通过多因素认证、基于密码的权限管控、指令签名验签等机制实现刚性约束。面对智能体自主性提升带来的失控风险，以密码技术构建可信执行边界与操作审计链条，确保关键指令可追溯、关键操作留痕可查，契合“人类保持最终控制权”的治理导向。在算法与模型安全层面，密码技术支撑对抗性检测与鲁棒性增强，配合差分隐私、同态加密等技术，在密态环境下完成训练与推理，实现安全与效用平衡。《人工智能安全治理框架》等文件强调，第三方测试评估、安全审计与风险预警是治理落地的关键环节，而密码应用合规性、正确性、有效性评估，正是其中的核心评测内容。

在治理落地与监管支撑层面，密码技术与测评体系协同提升治理效能。人工智能治理强调敏捷监管、沙盒监管与全流程监管，第三方商用密码检测与密评机构，依据国家标准开展密码应用检测评估，覆盖算法合规、密钥管理、数据加密、身份认证、签名验签等关键环节，为模型备案、安全评估、合规核查提供客观技术依据。密码日志与审计痕迹不可篡改，可支撑监管回溯、责任界定与事件处置，实现“风险可监测、过程可追溯、责任可界定”的治理目标。密码学报相关研究表明，密码学与人工智能的交叉融合，推动安全防御从经验范式向可证明安全范式跨越，已被列为前沿科学重大问题之一。

面向未来，人工智能与密码技术的深度融合，将成为数字安全产业最具确定性的发展方向与市场机遇。从产业发展视角看，密码技术将从外挂式防护走向AI原生安全底座，深度嵌入数据采集、模型训练、推理服务、应用部署、版本迭代全流程，成为大模型、智能体、具身智能等新一代AI产品的标配能力与准入门槛。轻量化密码、密态计算、后量子密码、隐私计算等技术与AI场景加速适配，将催生“AI安全一体机”“密态训练环境”“模型安全测评服务”等新业态，推动密码产业从合规驱动向价值驱动升级。从市场机遇视角看，随着AI安全评估、算法备案、密评等监管要求全面落地，政务、金融、能源、交通、医疗等关键领域的AI系统，将迎来规模化密码改造与安全测评需求。资质健全、技术领先、服务闭环的一流三方检测机构，将在AI安全合规核查、风险评估、安全加固等领域承担更加关键的支撑作用。

未来，随着技术融合持续深化、标准体系不断完善、市场需求集中释放，密码与AI协同创新的生态将加速成型，既为人工智能安全可控发展筑牢坚实屏障，也为网络安全产业高质量发展打开全新增长空间。

编辑 | 舒越

设计 | 舒越

校正 | 朱麒霖

责编 | 王胡兵