跳到正文
10月13日 · 周二

全部论文

找到 8篇
筛选4
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 201篇还没打标签,不在筛选结果里。

另有201篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2609.27542

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入,清空工具 Agent 的思维链以绕过推理监控

    发表
    场景
    AI Agent
    被测模型
    openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等4个

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过,且工具执行受解析器宽容度影响。

    深度解读完整解读
  2. 攻击arXiv 2609.19722

    ALIBI:向二进制注入虚假安全叙事可让 LLM 恶意软件分析器误判

    提出 ALIBI,向恶意二进制注入不执行掩护叙事使分析器误判为良性

    发表
    攻击者
    黑盒
    被测模型
    Gemini 2.5 Pro、GPT-5.5 Pro、Claude Opus 4.7
    摘要ALIBI 用二进制内的掩护叙事重释可疑静态证据,Gemini 上翻转多,另两模型主要为降级。

    ALIBI 是针对 LLM 恶意软件分诊的语义掩护叙事攻击:不覆盖系统指令,而把仍可见的可疑静态证据重释成良性安全产品的预期行为。

    深度解读完整解读
  3. 攻击arXiv 2606.12716

    PaperGuard:针对多模态 AI 同行评审的攻击与防御基准

    提出 PaperGuard,用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

    发表
    被测模型
    Claude-sonnet-4.5、GPT-4o、GPT-4.1 等11个
    摘要PaperGuard 测到提示注入与白盒视觉抬分,并比较分块检索防御。

    PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。

    深度解读完整解读
  4. 攻击arXiv 2602.00364

    「有人把它藏起来了」:针对 LLM 检索的查询无关黑盒攻击

    提出查询无关黑盒攻击 DQ-A,用可迁移文末后缀降低文档检索排名

    发表
    被测模型
    Qwen-1.5-7B-Instruct、SFR-Embedding-Mistral、E5-Mistral-7B-Instruct 等10个
    摘要DQ-A 以无查询黑盒后缀压低 LLM 检索排名,并在 BRIGHT 上比较三种基线。

    DQ-A 是一种 query-agnostic、complete black-box 的文档隐藏攻击,对象是用最后隐层相似度匹配的 LLM 检索。

    深度解读完整解读
  5. 攻击arXiv 2601.21360

    合规悖论:自动化学术代码评估中的语义-指令解耦

    提出 AST-ASIP ,把对抗指令植入编译器忽略区域以劫持代码评分

    发表
    被测模型
    DeepSeek-V3.2、Qwen3-235B、GPT-OSS-120B 等9个
    摘要作者称 RLHF 的服从性使评分脱离代码。

    这篇工作把自动代码评分中的失败称为 Compliance Paradox:评分模型可以离开提交逻辑,转而执行嵌在可编译代码里的隐藏指令。

    深度解读完整解读
  6. 攻击arXiv 2601.20283

    一个词就够了:神经文本排序的最小对抗扰动

    提出查询中心词的单次插入或替换攻击,操纵神经排序名次

    发表
    被测模型
    BERT-base-mdoc-BM25、monoT5-base-MSMARCO
    摘要作者称单词扰动即可抬升名次、中段文档最脆弱,且比白盒 PRADA 更少编辑。

    单个与查询对齐的词,就可能改掉神经重排结果。要做的是少改原文,仍把目标文档在 NRM 列表里的名次抬高。

    深度解读完整解读
已经到底了