跳到正文
10月9日 · 周五

全部论文

找到 5 篇
筛选5

攻击类型

提示注入1检测规避1

攻击技术

梯度与表征优化1编码与混淆1推理链操控1跨模态载荷1针对防御1

影响

输出被操纵4监督失效1

系统形态

模型与 API67LLM 应用3AI Agent2编程 Agent1网页与电脑操作0具身与机器人1

攻击者权限

黑盒1

攻击面/入口

用户输入3图像与音视频1

层

提示层5模型层19应用层379训练与数据层15基础设施层3

系统组件

护栏与评审3推理链1视觉2多模态2

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 514 篇还没打标签，不在筛选结果里。
系统形态：LLM 应用系统形态：AI Agent系统形态：编程 Agent系统形态：网页与电脑操作层：提示层清除全部

另有 514 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2606.09700

    研究者提出 HPAA 攻击：用排版视觉线索绕过 13 个内容审核系统

    提出 HPAA 攻击，用排版视觉线索绕过内容审核系统

    arXiv
    2606.09700
    发表
    层
    提示层
    场景
    LLM 应用
    攻击者
    黑盒
    测试
    Llama-Guard-3-8B、Perspective API、ShieldGemma-2B 等 13 个
    摘要揭示了排版视觉线索与分词差异带来的审核盲区，HPAA 以极低查询实现近乎完全规避。

    这篇论文研究了人类视觉感知与大模型分词处理机制之间的差异所导致的内容审核漏洞。

    深度解读完整解读
  2. 攻击arXiv 2608.10393

    DURA：用扩散模型生成自然对抗补丁攻击 VLA 机器人模型

    提出 DURA，沿扩散潜空间生成自然对抗补丁，把机器人动作导向指定目标

    arXiv
    2608.10393
    发表
    层
    提示层
    场景
    具身与机器人
    测试
    OpenVLA-7B、π0-FAST、openvla-7B
    摘要DURA 用扩散潜空间轨迹生成自然补丁，白盒与黑盒都能把 VLA 导向指定动作。

    DURA 是针对 VLA 的扩散式、补丁内容不受限的机器人攻击，同时支持白盒梯度和只看动作输出的黑盒。

    深度解读完整解读
  3. 评测与基准arXiv 2609.37863

    MIST 压力测试：无关图像会扰动 VLM 评判者标签

    提出 MIST 压力测试，检验无关图像是否扰动 VLM 评判者标签

    arXiv
    2609.37863
    发表
    层
    提示层
    场景
    LLM 应用
    测试
    GPT-5.2、Gemini 3.1 Flash-Lite、Gemini 3.5 Flash 等 13 个
    摘要有图就改标签，图的内容却不告知 judge，裁决绑定配置。

    作者用MIST问：VLM 代替人类标注时，可替代性裁决会不会被指南要求忽略的图像改写。

    深度解读完整解读
  4. 攻击arXiv 2609.01023

    Akrasia：针对推理型代码 LLM 的隐蔽后门攻击

    提出推断期后门攻击 AKRASIA，用代码触发器与伪装推理篡改代码输出

    arXiv
    2609.01023
    发表
    层
    提示层
    场景
    编程 Agent
    测试
    Claude-Sonnet-5、GPT-5.5、Gemini-3.5-flash 等 7 个

    摘要论文针对推理代码大模型提出了隐蔽推断期后门攻击 AKRASIA，揭示了模型思维链可被利用进行欺骗性伪装的安全隐患。

    深度解读完整解读
  5. 评测与基准arXiv 2609.33401

    论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化

    评测 System One 模型对 Agent 安全输入的分类可靠性与校准

    arXiv
    2609.33401
    发表
    层
    提示层
    场景
    LLM 应用
    测试
    Jev 1.13、Decider, approximately 2B、Bespoke Nimble, approximately 9B 等 14 个
    摘要离线评测表明，安全判定的总体分数和校准不能代替分组误差和带预算的自动决策检查。

    Liu 离线评测 System One 模型能否为智能体安全输入给出可自动化的概率决策。问题是分类是否可靠，以及概率能否在指定漏检和误拦上限内支持放行、拦截或复核。

    深度解读完整解读
已经到底了