跳到正文
10月13日 · 周二

全部论文

找到 7篇
筛选5
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 213篇还没打标签,不在筛选结果里。

另有213篇论文还没打上分类标签,暂不在筛选结果里。

  1. 防御arXiv 2609.13601

    Mind the Gap:检测 DAO 治理中的描述-执行不匹配攻击

    提出 DEMI 检测框架,用生命周期模拟和证据映射发现 DAO 提案错配

    发表
    被测模型
    GPT-4o、GPT-4o-mini、GPT-4.1 等9个
    摘要作者把 DAO 错配检测做成执行前审计层,主张逐动作证据映射与风险复核是关键。

    这是面向 DAO 治理的执行前错配检测研究:攻击者可以提交看似合理的描述,但让获批载荷执行另一种行为,投票描述并不直接约束代码。

    深度解读完整解读
  2. 防御arXiv 2608.06422

    CMU 研究:分片判断可避免 LLM 监督失效并抵御对抗利用

    提出分片监督,将评判标准分配给独立调用以抵御展示攻击

    发表
    攻击者
    黑盒
    被测模型
    Claude Opus 4.8、Claude Sonnet 4.6、Claude Opus 4.6 等4个
    摘要论文揭示决策负载是大模型监督的独立瓶颈,提出分片与辩论机制有效分离注意力与平衡证据,在多项高难度基准上实现稳健评判。

    本文系统研究了大语言模型在执行多标准监督与评判时的决策负载瓶颈及其安全风险。

    深度解读完整解读
  3. 攻击arXiv 2606.12716

    PaperGuard:针对多模态 AI 同行评审的攻击与防御基准

    提出 PaperGuard,用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

    发表
    被测模型
    Claude-sonnet-4.5、GPT-4o、GPT-4.1 等11个
    摘要PaperGuard 测到提示注入与白盒视觉抬分,并比较分块检索防御。

    PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。

    深度解读完整解读
  4. 攻击arXiv 2602.00364

    「有人把它藏起来了」:针对 LLM 检索的查询无关黑盒攻击

    提出查询无关黑盒攻击 DQ-A,用可迁移文末后缀降低文档检索排名

    发表
    被测模型
    Qwen-1.5-7B-Instruct、SFR-Embedding-Mistral、E5-Mistral-7B-Instruct 等10个
    摘要DQ-A 以无查询黑盒后缀压低 LLM 检索排名,并在 BRIGHT 上比较三种基线。

    DQ-A 是一种 query-agnostic、complete black-box 的文档隐藏攻击,对象是用最后隐层相似度匹配的 LLM 检索。

    深度解读完整解读
  5. 攻击arXiv 2601.21360

    合规悖论:自动化学术代码评估中的语义-指令解耦

    提出 AST-ASIP ,把对抗指令植入编译器忽略区域以劫持代码评分

    发表
    被测模型
    DeepSeek-V3.2、Qwen3-235B、GPT-OSS-120B 等9个
    摘要作者称 RLHF 的服从性使评分脱离代码。

    这篇工作把自动代码评分中的失败称为 Compliance Paradox:评分模型可以离开提交逻辑,转而执行嵌在可编译代码里的隐藏指令。

    深度解读完整解读
  6. 攻击arXiv 2601.06884

    研究者提出改写式对抗攻击 PAA,可在不改变论文主张的情况下抬高 LLM 审稿评分

    提出保义释义攻击 PAA,抬高 LLM 审稿评分

    发表
    被测模型
    GPT-4o、Gemini 2.5、Sonnet 4
    摘要PAA 用保义释义抬高 LLM 审稿分。

    PAA 是对 LLM-as-a-Reviewer 的 black-box 攻击:只改写摘要,用评审分做 ICL 搜索,并用 BERTScore 与困惑度限制语义和自然度。

    深度解读完整解读
已经到底了