实体库 · 文件 / 规则 · 论文 / 研究
Many-shot Jailbreaking智能体新增 · 待复核
Many-shot Jailbreaking(论文 / 研究,2024):Anthropic 自研(NeurIPS 2024):在超长上下文里塞满几百个“AI 配合有害请求”的假对话,能绕过安全训练,跨厂商模型普遍有效。
- 类别论文 / 研究 · 文件 / 规则
- 日期2024
关系 每条写成一句话:主语 → 宾语,点开看证据
涉及的机构 / 产品 · 1
- Many-shot Jailbreaking涉及Anthropic 发布 / 出台方 智能体新增 · 待复核Anthropic 自研
在 Landscape 的位置 · 1
- Many-shot Jailbreaking出现在 Landscape 的「Agent 安全攻击面 · 04 记忆 / RAG污染」
出处
- 本站页面:Landscape「Agent 安全攻击面」第 04 层「记忆 / RAG污染」的卡片「Many-shot Jailbreaking」:研究 · Anthropic自研 · NeurIPS 2024
在本站哪里出现
- Many-shot Jailbreaking Landscape · Agent 安全攻击面 · 记忆 / RAG污染