跳到正文
原文
Google DeepMind·· 2026-06-16精选AI 评分65

Google DeepMind 发布 AI Control Roadmap 框架保障智能体安全

Securing the future of AI agents

AI 导读

Google DeepMind 发布 AI Control Roadmap 框架,提出将 AI 智能体视为内部威胁并实施分层防御,为行业提供安全参考。该框架基于 MITRE ATT&CK 构建威胁建模,利用可信 AI 作为监督者实时监测并阻断风险,同时发布技术报告 'Three Layers of Agent Security' 供政策制定者参考。

推荐理由

Google DeepMind 发布 AI Control Roadmap 框架,提出将 AI 智能体视为内部威胁并实施分层防御,为行业提供安全参考。

来源:Google DeepMind · deepmind.google