实体库 · Landscape 的层
Agent 安全攻击面 · 07 失控遏制
Agent 安全攻击面 · 07 失控遏制:Landscape「Agent 安全攻击面」图的第 7 层,页面上有 4 张玩家卡;实体库把卡片对应的机构、文件和事件挂在这一层上。
- Landscape 图Agent 安全攻击面
- 层第 7 层 · 失控遏制
- 玩家卡4 张 · 在 Landscape 页面里看这一层 ↗
关系 每条写成一句话:主语 → 宾语,点开看证据
总览图里被指向 · 1
- 总览图里的箭头:Agent 安全攻击面 · 06 沙盒逃逸 / 越权操作 → Agent 安全攻击面 · 07 失控遏制
页面对这一层的判断
如果一个 Agent 真的失控了(试图自我复制、抵抗被关闭、绕过监控),行业现在有具体的遏制方案吗? 独立评估的答案是:大多数实验室还没有。
这一层的卡片 4 张 · 按 Landscape 页面上的顺序;箭头后是卡片对应的实体
- Guidelight《前沿AI控制实践评估》 → Guidelight《前沿AI控制实践评估》 提到 OpenAI、Google、SpaceXAI(原 xAI)、Anthropic、Meta
- Anthropic 负责任扩展政策(RSP) → Anthropic
- DeepMind 前沿安全框架(FSF) → Google
- OpenAI 应急准备框架(Preparedness Framework) → OpenAI 页面标灰:传闻 / 预测 / 未敲定