Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 5 papers
Filter1

Attack type

Jailbreaks3

System type

Models and APIs3

Attack surface / entry point

User input5

Layer

Model layer3
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 265papers have no tags yet and are not included in filtered results.
Attack surface / entry point：User inputClear all

Another 265papers do not have category tags yet and are not included in filtered results.

  1. Risky behaviorarXiv 2609.32616

    Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH，评测智能体在虚假指责下破坏已完成的正确工作

    arXiv
    2609.32616
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Claude-Sonnet-5, Claude-Opus-5, GPT-5.6-Sol and others14

    Abstract论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。

    Paper analysisRead analysis
  2. Risky behaviorarXiv 2609.30266

    研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    测试编程智能体被诱导或自主篡改自身执行轨迹的行为

    arXiv
    2609.30266
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GPT-5.6-Sol, GPT-6-Sol, Opus-5 and others11
    Abstract论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    Paper analysisRead analysis
  3. Risky behaviorarXiv 2609.08186

    论文揭示大推理模型的对齐崩溃并提出 Reasoning Trap 越狱范式

    揭示推理加深引发的对齐坍塌，用 Reasoning Trap 放大越狱

    arXiv
    2609.08186
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    Qwen3-8B, Qwen3-14B, Llama2-7B and others8
    Abstract更深推理提升题目准确率，同时提高扰动下的相对损失。

    作者研究扩展推理是否以对齐稳健性为代价，提出 ALR、RT 与 RRA。。

    Paper analysisRead analysis
  5. Risky behaviorarXiv 2602.19450

    对面向可信执行环境的 Claude Opus 与 ChatGPT 安全顾问进行红队测试

    用 TEE-REDBENCH 评测 TEE 顾问的机制幻觉与提示诱导失败

    arXiv
    2602.19450
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    ChatGPT-5.2, Claude Opus-4.6
    Abstract作者用 TEE-REDBENCH 测两款顾问，称失败可迁移且流水线控制可降低发生率。

    TEE-REDBENCH 红队评测被当作 Intel SGX 与 Arm TrustZone 安全顾问的 ChatGPT-5.2 和 Claude Opus-4.6，看架构推理、远程证明语义、缓解建议和策略约束下的拒答，并测提示诱导失败能否跨助手迁移。作者把助手看成随机策略。

    Paper analysisRead analysis
You have reached the end