新的多国人工智能安全指南既无用又无力

美国、英国和其他 16 个国家都希望确保人工智能系统开发的安全性，但这些国家发布的一份框架只提供了常识性建议，缺乏明确的行动要点。

由美国网络安全与基础设施安全局和英国国家网络安全中心于周日推出的《安全人工智能系统开发指南》是一份为人工智能系统开发提供建议的文件。

CISA 解释说，其目的是帮助使用人工智能的系统开发者 "在开发过程的每个阶段做出明智的网络安全决策"。他们还提供了一些建议，"强调遵守安全设计原则的重要性"。

该指南是与全球其他 22 家安全机构以及人工智能领域的多家公司共同制定的。名单中包括亚马逊、谷歌、IBM、微软、OpenAI 和 Plantir，但在致谢中并没有提到苹果公司，尽管苹果公司在该领域有着悠久的工作历史。

"我们正处于人工智能发展的拐点，人工智能很可能是我们这个时代最具影响力的技术"。国土安全部部长亚历杭德罗-马约卡斯（Alejandro N. Mayorkas）表示："网络安全是构建安全、可靠和值得信赖的人工智能系统的关键。通过整合'安全设计'原则，这些指导方针代表了一项历史性的协议，开发人员必须对其进行投资，在系统设计和开发的每个步骤中保护客户。"

马约尔卡斯继续补充说："通过像这些指导方针这样的全球行动，我们可以引领世界利用这一开创性技术的好处，同时解决其潜在的危害。"

"我们知道，人工智能正在以惊人的速度发展，各国政府和业界需要采取协调一致的国际行动，才能跟上步伐，"NCSC 首席执行官林迪-卡梅伦（Lindy Cameron）说："这些指导方针标志着在形成对人工智能网络风险和缓解策略的真正全球性共识方面迈出了重要一步，以确保安全不是发展的后记，而是贯穿始终的核心要求。

指导原则

该指南由国家计算机安全委员会网站提供，是一份长达 20 页的 PDF 文件，分为四个关注领域。

在安全设计方面，指南涵盖了对风险和威胁建模的理解，以及对系统和模型设计权衡的进一步讨论。安全开发涉及供应链安全、文档以及资产和技术债务管理。

安全部署则涉及基础设施和模型的保护，使其免受破坏、威胁或损失，以及事故管理流程。最后，安全运行和维护处理部署后的操作，如日志记录、监控、更新和信息共享。

华而不实

安全机构就人工智能这样一个热门话题出台指导方针，听起来很重要。这个概念很重要，但这份文件甚至没有打好基础。

这些都是指导方针，而不是必须遵守的规则。开发自己的人工智能系统的公司可以阅读这份文件，但没有义务将其中的任何内容付诸实践。

不遵守文件中的规定不会受到任何惩罚，也不会出台任何法律。该文件只是一份愿望清单，列出了政府希望人工智能制造商真正思考的问题。

与此类提供指导的框架一样，我们无法保证任何人会真正采纳这些建议。而且，目前还不清楚何时或是否会出台立法来强制执行文件中的内容。

尽管如此，研究人工智能的公司在开发产品时几乎肯定已经考虑到了安全问题。鉴于人工智能在未来的潜在重要性，以及被滥用或攻击的可能性，许多开发者已经在增加安全措施。

新的机构间框架无疑为人工智能生产商提供了常识性指导，但对于已经敏锐意识到安全需求的开发商来说，这些信息很可能会被忽视。