英美等企業聯發《AI 系統開發指引》 稱全球首份安全標準

隨著AI的高速發展，安全問題越來越凸顯，日前美國網絡安全兼基礎架構安全管理署（CISA）及英國國傢網絡安全中心（NCSC）日前正式發佈《安全 AI 系統開發指引》（Guidelines for Secure AI System Development）白皮書。

該白皮書號稱“首份全球 AI 安全標準”，旨在從設計階段強化 AI 系統的安全性，以防范可能的安全風險。

據悉，這份指引是由包括美、英、德、法、日、韓、新加坡在內 18 國，並聯合微軟、谷歌、OpenAI、Anthropic、Scale AI 等 23 個網絡安全組織參與制定。

具體而言，指引包含 4 個主要部分：安全設計、安全開發、安全部署及安全運營（operation and maintenance），指引為每一個部分都提出可能的安全風險及避免方法，以協助開發人員從源頭降低相關安全風險。

該指引主要提供 AI 系統開發的必要建議，並表明開發 AI 系統應遵循安全設計（Secure by Design）的原則。英國 CISA 指出，這份指引強調把客戶安全、透明度及責任、以及建立“安全設計”的組織結構列為優先事項。

這份指引適用於所有類型的 AI 系統，除瞭涵蓋行業內的“尖端模型”，也包含其他利用外部代管的模型或是 API 系統。