在一项具有里程碑意义的合作中，美国网络安全和基础设施安全局（CISA）和英国国家网络安全中心（NCSC）宣布发布安全人工智能系统开发指南。该出版物由23个国内和国际网络安全组织共同密封，标志着在解决人工智能（AI）、网络安全和关键基础设施交叉点方面迈出了重要一步。
该指南补充了美国确保安全、可靠和值得信赖的人工智能的自愿承诺，为人工智能系统开发提供了基本建议，并强调坚持设计安全原则的重要性。该方法优先考虑客户对安全结果的所有权，拥抱激进的透明度和问责制，并建立以安全设计为重中的组织结构。
该指南适用于所有类型的人工智能系统，而不仅仅是前沿模型。我们提供建议和缓解措施，帮助数据科学家、开发人员、经理、决策者和风险所有者就其机器学习人工智能系统的安全设计、模型开发、系统开发、部署和运营做出明智的决策。
本文档主要针对人工智能系统的提供商，无论是基于组织托管的模型还是使用外部应用程序编程接口。然而，我们敦促所有利益相关者——包括数据科学家、开发人员、经理、决策者和风险所有者——阅读本指南，以帮助他们对机器学习人工智能系统的设计、部署和操作做出明智的决定。
CISA邀请利益相关者、合作伙伴和公众探索《安全人工智能系统开发指南》以及我们最近发布的人工智能路线图，以了解更多关于我们对人工智能技术和网络安全的战略愿景。
Guidelines for Secure AI System Development.pdf