美国英国和其他十几个国家签署协议让人工智能通过设计实现安全

“

英国国家网络安全中心（NCSC）和美国网络安全与基础设施安全局（CISA）制定了全球首个人工智能网络安全指南。这些建议旨在帮助开发者在人工智能系统开发的各个阶段做出明智的网络安全决策，强调了安全设计、开发、实施和运维的重要性。此外，17个国家已表示支持并承诺参与这些指南的制定，旨在提高人工智能领域的网络安全水平。

英国国家网络安全中心（NCSC）与美国网络安全与基础设施安全局（CISA）携手合作，共同研发了全球首个面向人工智能的网络安全指南。

这份名为《安全人工智能系统开发指南》的文件旨在协助人工智能系统的开发者，在开发过程的各个阶段都能够做出明智的网络安全决策，这是英国国家网络安全中心（NCSC）提出的初衷。

这些指南不仅适用于从零开始构建的系统，还包括那些基于第三方工具和服务的系统。此外，还有来自包括美国在内的其他17个国家的承诺，表示他们将支持并积极参与这一新指南的制定与实施。

这一系列指南的目标在于提高人工智能领域的网络安全水平，确保在设计、开发和部署人工智能时都能够具备高度的安全性。它们倡导采用“从设计出发注重安全”的理念，这意味着网络安全应当成为人工智能系统安全性的基本要求，并在整个开发过程中得以充分融入。

这些指南被分为四个主要领域，分别是：安全设计、安全开发、安全实施以及安全运维，每个领域提供了一系列推荐行为，旨在增强系统的安全性。

- 安全设计和开发方面涵盖了风险识别、威胁建模、供应链安全和文档编制等关键问题。

- 安全实施强调了基础设施和模型的保护、事件管理以及负责任的发布。

- 安全运维提供了有关日志记录和监控、更新管理以及信息共享等方面的指导。

- 您可以在NCSC的官方网站上找到这些详细的指南文件。

英国国家网络安全中心首席执行官林迪·卡梅伦（Lindy Cameron）将这一系列指南视为“塑造全球关于人工智能网络风险和减轻策略的共同理解的重要一步”，以确保安全性不再仅仅是开发过程中的一项附加工作，而是贯穿始终的核心要求。

这一系列指南的制定过程不仅有NCSC与美国CISA的合作，还得到了来自全球21个国际机构和部门的参与，其中包括G7成员国和全球南方国家，以及行业专家的宝贵意见。

参与签署支持的国际国家名单包括澳大利亚、加拿大、智利、捷克共和国、爱沙尼亚、法国、德国、以色列、意大利、日本、新西兰、尼日利亚、挪威、波兰、新加坡、韩国、英国以及美国。