跳到正文
10月8日 · 周四

Anthropic · 论文

找到 4 篇
筛选1

攻击类型

越狱2提取与窃取1

攻击技术

编码与混淆1对话结构操控2推理链操控3

模型自身风险

失准与价值偏离1

影响

有害内容2数据与隐私泄露1输出被操纵1

系统形态

模型与 API4

攻击者权限

黑盒3

攻击面/入口

用户输入3代码仓库与依赖1

层

提示层3模型层1

系统组件

MCP 与技能5记忆5护栏与评审4监控器5推理链4权限与沙箱4

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 17 篇还没打标签，不在筛选结果里。
系统组件：推理链话题：Anthropic清除全部

另有 17 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv:2607.14345 ·

    Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

    提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

    模型与 API测试Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个模型层

    摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。

    完整解读
  3. 攻击arXiv:2609.09553 ·

    研究：任意密文攻击前沿大模型无需微调即可越狱

    提出任意字母置换密码越狱，无需微调即可诱导有害输出

    模型与 API攻击者黑盒测试Claude Sonnet 4、Claude Sonnet 4.5、Gemini 3 Flash (preview) 等 7 个提示层

    摘要前沿大模型无需微调即可通过提示词学会字母置换密码，进而绕过分类器与对齐，作者呼吁关注能力提升带来的安全风险。

    完整解读
已经到底了