新加坡网络安全局发布人工智能系统安全指南

2024 年 10 月 15 日，新加坡网络安全局（CSA）发布《保护人工智能（AI）系统的指南》及《保护人工智能（AI）系统的配套指南》，旨在协助各类组织安全地引入和应用 AI 系统。

这两项指南分析了 AI 系统面临的潜在威胁与风险，包括经典网络安全风险如供应链攻击，以及新兴风险如对抗性机器学习等，为保护 AI 系统提供了全面的风险框架。CSA 倡导系统所有者采用生命周期方法，通过规划和设计（提升 AI 威胁认知与风险评估）、开发（保障供应链与 AI 资产安全）、部署（保护基础设施、建立事故管理流程及 AI 基准与红队测试）、操作与维护（处理安全异常并设立漏洞披露流程）以及生命周期结束（确保数据与模型制品的安全妥善处置）这五个关键阶段，精准识别并降低风险。

此外，指南还为系统所有者提供了实用的参考范例，针对 AI 系统的设计、开发与采用环节给出了具体的措施与控制建议。随着 AI 技术在各领域包括网络安全领域的广泛应用，其运行的安全性、可靠性与责任性愈发关键。尽管 AI 有望提升各领域的效率与创新能力，但因其易受对抗性攻击及其他网络安全风险影响，数据泄露等有害结果时有发生，CSA 发布的指南无疑为组织安全采用 AI 系统筑牢了坚实防线，推动 AI 在安全轨道上稳健发展。