2024年10月15日，新加坡网络安全局（CSA）发布《保护人工智能（AI）系统的指南》及《保护人工智能（AI）系统的配套指南》，旨在协助各类组织安全地引入和应用AI系统。这两项指南分析了AI系统面临的潜在威胁与风险，包括经典网络安全风险如供应链攻击，以及新兴风险如对抗性机器学习等，为保护AI系统提供了全面的风险框架。CSA倡导系统所有者采用生命周期方法，通过规划和设计（提升AI威胁认知与风险评估）、开发（保障供应链与AI资产安全）、部署（保护基础设施、建立事故管理流程及AI基准与红队测试）、操作与维护（处理安全异常并设立漏洞披露流程）以及生命周期结束（确保数据与模型制品的安全妥善处置）这五个关键阶段，精准识别并降低风险。此外，指南还为系统所有者提供了实用的参考范例，针对AI系统的设计、开发与采用环节给出了具体的措施与控制建议。随着AI技术在各领域包括网络安全领域的广泛应用，其运行的安全性、可靠性与责任性愈发关键。尽管AI有望提升各领域的效率与创新能力，但因其易受对抗性攻击及其他网络安全风险影响，数据泄露等有害结果时有发生，CSA发布的指南无疑为组织安全采用AI系统筑牢了坚实防线，推动AI在安全轨道上稳健发展。

（山东省跨境电子商务协会供稿）