Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 7 papers
Filter5

Impact

Harmful content5Unauthorized actions3Data and privacy leaks2Output manipulation4Availability and reliability3Oversight failure3

System type

Models and APIs101AI Agent7coding agent2

Layer

Model layer7Application layer79
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 215papers have no tags yet and are not included in filtered results.
Impact：Harmful contentImpact：Data and privacy leaksSystem type：AI AgentSystem type：coding agentLayer：Model layerClear all

Another 215papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.08678

    研究揭示投机解码的安全代价并提出 SecureSD 加固方法

    测量有损投机解码的安全代价，并提出 SecureSD 收紧早期验证

    arXiv
    2610.08678
    Published
    Layer
    Model layer
    Setting
    AI Agent
    Attacker
    Black-box
    Evaluated models
    Qwen3-8B, Qwen3-32B, Llama-3.1-8B-Instruct and others6
    Abstract有损推测解码的早期偏离更快抬高越狱与注入风险。

    作者研究有损推测解码在换取速度时，是否会比效用更快地损害越狱与提示注入防护，并给出按位置校正的 SecureSD。

    Paper analysisRead analysis
  2. InterpretabilityarXiv 2610.06064

    TrustMI：通过模型激活因果控制助手对用户的信任

    提出 TrustMI，用激活转向因果调控助手对用户主张的信任

    arXiv
    2610.06064
    Published
    Layer
    Model layer
    Setting
    AI Agent
    Evaluated models
    Qwen3.5-9B, Qwen3.5-27B, Llama-3.1-8B-Instruct and others6
    Abstract作者用 BiPO 转向调控助手对用户的依赖，并称该效应迁移到智能体安全任务。

    TrustMI 研究助手对用户的信任能否沿激活中的线性方向被因果调控，以及这种调控会不会改变安全相关的智能体行为。

    Paper analysisRead analysis
  3. Risky behaviorarXiv 2609.38971

    研究测量并预测具身 VLM 规划器中任务的拒答可变性

    测量并预测具身 VLM 规划器的任务拒答可变性

    arXiv
    2609.38971
    Published
    Layer
    Model layer
    Setting
    Embodied systems and robotics
    Evaluated models
    gemini-robotics-er-2-preview, gemini-robotics-er-1.6-preview
    Abstract日常物体能翻转一部分已给出的拒答，可翻转程度取决于任务且可被本地代理预测。

    作者测量 constitution 守护的具身 VLM 规划器：一次拒答在只往场景里放一个日常物体之后还保不保持得住，并把这种易翻转程度称为任务的 malleability。

    Paper analysisRead analysis
  4. Evaluation and benchmarksarXiv 2609.35408

    研究揭示 LLM 交付物修订痕迹导致的无意泄露，并提出 RevLeakBench 基准

    用 RevLeakBench 测量 LLM 交付物修订痕迹的无意泄露

    arXiv
    2609.35408
    Published
    Layer
    Model layer
    Setting
    AI Agent
    Evaluated models
    GPT-5.6, GPT-5.5, DeepSeek-V4-Pro and others6
    Abstract修订痕迹让撤回项重新进入交付物。

    修订痕迹指模型按要求删掉或换掉一项后，又在交代这次修改时把它写进给第三方的交付物。

    Paper analysisRead analysis
  5. Risky behaviorarXiv 2609.35291

    窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

    证明无显式危害的图文窄微调可诱发跨任务涌现未对齐

    arXiv
    2609.35291
    Published
    Layer
    Model layer
    Setting
    Browser and computer use
    Evaluated models
    GPT-4o, GPT-4.1, Gemini 2.5 and others15
    Abstract证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。

    论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。

    Paper analysisRead analysis
  6. AttacksarXiv 2609.09865

    CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

    提出 CGMIA，检测代码生成基准样本是否泄漏进训练集

    arXiv
    2609.09865
    Published
    Layer
    Model layer
    Setting
    coding agent
    Attacker
    Gray-box
    Evaluated models
    Qwen2.5-Coder (3B), CodeGemma (2B), DeepSeek-Coder (1.3B) and others5
    AbstractCGMIA 融合相似度、通过率、困惑度与 CodeBERT，在模拟泄漏上优于八个 MIA 基线。

    CGMIA 用成员推断检测代码生成基准是否泄入 LLM 训练集，使评测不依赖对训练语料的直接访问。

    Paper analysisRead analysis
  7. InterpretabilityarXiv 2606.05396

    研究用消融移除代码 LLM 拒答方向，分离拒答与生成能力

    用 abliteration 消融代码 LLM 拒答方向，分离拒答与漏洞注入能力

    arXiv
    2606.05396
    Published
    Layer
    Model layer
    Setting
    coding agent
    Evaluated models
    Qwen2.5-Coder-Instruct 3B, Qwen2.5-Coder-Instruct 7B, Qwen2.5-Coder-Instruct 14B
    Abstract拒答可用低秩编辑去掉，CWE-89 注入是否成功仍由模型规模决定。

    这项初步可行性研究用 abliteration 把代码 LLM 的拒答和 CWE 注入能力拆开：意愿可以被低秩编辑解锁，注入是否成功仍看参数规模。

    Paper analysisRead analysis
You have reached the end