跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选2

影响

输出被操纵3

系统形态

模型与 API147LLM 应用4AI Agent7coding agent3具身与机器人4

攻击面/入口

用户输入3

层

提示层4模型层5应用层94

系统组件

护栏与评审4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 193 篇还没打标签，不在筛选结果里。
系统形态：LLM 应用层：提示层清除全部

另有 193 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.37863

    MIST 压力测试：无关图像会扰动 VLM 评判者标签

    提出 MIST 压力测试，检验无关图像是否扰动 VLM 评判者标签

    arXiv
    2609.37863
    发表
    层
    提示层
    场景
    LLM 应用
    被测模型
    GPT-5.2、Gemini 3.1 Flash-Lite、Gemini 3.5 Flash 等 13 个
    摘要有图就改标签，图的内容却不告知 judge，裁决绑定配置。

    作者用MIST问：VLM 代替人类标注时，可替代性裁决会不会被指南要求忽略的图像改写。

    深度解读完整解读
  2. 评测与基准arXiv 2609.33401

    论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化

    评测 System One 模型对 Agent 安全输入的分类可靠性与校准

    arXiv
    2609.33401
    发表
    层
    提示层
    场景
    LLM 应用
    被测模型
    Jev 1.13、Laya, English checkpoint、Decider, approximately 2B 等 4 个
    摘要离线评测表明，安全判定的总体分数和校准不能代替分组误差和带预算的自动决策检查。

    Liu 离线评测 System One 模型能否为智能体安全输入给出可自动化的概率决策。问题是分类是否可靠，以及概率能否在指定漏检和误拦上限内支持放行、拦截或复核。

    深度解读完整解读
  3. 攻击arXiv 2606.09700

    研究者提出 HPAA 攻击：用排版视觉线索绕过 13 个内容审核系统

    提出 HPAA 攻击，用排版视觉线索绕过内容审核系统

    arXiv
    2606.09700
    发表
    层
    提示层
    场景
    LLM 应用
    攻击者
    黑盒
    被测模型
    Llama-Guard-3-8B、Perspective API、ShieldGemma-2B 等 13 个
    摘要揭示了排版视觉线索与分词差异带来的审核盲区，HPAA 以极低查询实现近乎完全规避。

    这篇论文研究了人类视觉感知与大模型分词处理机制之间的差异所导致的内容审核漏洞。

    深度解读完整解读
  4. 攻击arXiv 2605.26156

    BITE：用上下文赌博机操纵风格偏置攻击 LLM 评委

    提出 BITE，用上下文赌博机选择风格修改抬高 LLM 评委打分

    arXiv
    2605.26156
    发表
    层
    提示层
    场景
    LLM 应用
    攻击者
    黑盒
    被测模型
    o3-mini、Gemini-2.5-Flash、Llama-3.3-70B-Instruct 等 8 个
    摘要BITE 用黑盒赌博机利用风格偏差抬分，作者称这对 LLM-as-a-judge 构成威胁。

    BITE 是黑盒风格操纵：在保持答案语义的同时，抬高 LLM 评审给出的分数。

    深度解读完整解读
已经到底了