Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 15 papers

Another 215papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.07657

    DEFER1 多智能体防御研究报告受控测试中的攻击成功率下降

    实现 DEFER,以确定性检查优先拦截多智能体流水线的内容攻击

    Published
    Evaluated models
    Qwen3-235B-A22B-Instruct-2507, gpt-oss-120b, Llama-4-Scout-17B-16E-Instruct and others5
    AbstractDEFER 把确定性检查放在 judge 之前。

    DEFER 用来测量多智能体授权流水线里,确定性规则在何处结束、LLM judge 从何处开始。

    Paper analysisRead analysis
  2. DefensesarXiv 2609.30657

    研究者提出面向邮件 Agent 的攻击链建模提示注入检测框架

    提出面向邮件 Agent 的攻击链提示注入检测框架

    Published
    Setting
    AI Agent
    Evaluated models
    Proposed framework
    Abstract攻击链与动作一致性融合改善了严格检测的平均 F1,但迁移、误报和攻击召回仍需分别看。

    这是一项邮件智能体提示注入防御的离线建模与评测研究:作者把攻击文本是否恶意、攻击是否推进到工具操作、最终参数是否达标分开处理。

    Paper analysisRead analysis
  3. AttacksarXiv 2609.22510

    特拉维夫大学提出爆炸性提示词:条件触发的间接提示注入可绕过九款生产 Agent

    提出条件触发的爆炸提示词,并设计摄入期检测器 DeFuse

    Published
    Setting
    AI Agent
    Evaluated models
    Llama-3.1-8B-Instruct, Llama-3.1-70B-Instruct, Qwen2.5-32B-Instruct and others15
    Abstract论文揭示了条件触发使提示注入绕过防御并在触发时执行工具,提出轻量检测器并在摄入期有效防范。

    论文针对大语言模型智能体面临的间接提示注入威胁,研究了利用条件句式实现时间分离的爆炸提示词。

    Paper analysisRead analysis
  4. DefensesarXiv 2609.13601

    Mind the Gap:检测 DAO 治理中的描述-执行不匹配攻击

    提出 DEMI 检测框架,用生命周期模拟和证据映射发现 DAO 提案错配

    Published
    Evaluated models
    GPT-4o, GPT-4o-mini, GPT-4.1 and others9
    Abstract作者把 DAO 错配检测做成执行前审计层,主张逐动作证据映射与风险复核是关键。

    这是面向 DAO 治理的执行前错配检测研究:攻击者可以提交看似合理的描述,但让获批载荷执行另一种行为,投票描述并不直接约束代码。

    Paper analysisRead analysis
  5. DefensesarXiv 2608.06422

    CMU 研究:分片判断可避免 LLM 监督失效并抵御对抗利用

    提出分片监督,将评判标准分配给独立调用以抵御展示攻击

    Published
    Attacker
    Black-box
    Evaluated models
    Claude Opus 4.8, Claude Sonnet 4.6, Claude Opus 4.6 and others4
    Abstract论文揭示决策负载是大模型监督的独立瓶颈,提出分片与辩论机制有效分离注意力与平衡证据,在多项高难度基准上实现稳健评判。

    本文系统研究了大语言模型在执行多标准监督与评判时的决策负载瓶颈及其安全风险。

    Paper analysisRead analysis
  6. AttacksarXiv 2606.13044

    研究者提出对抗性重新包装:不改科学内容仅调整表述即可拉高 AI 审稿分数

    提出对抗重构,仅改表述以拉高 AI 审稿分数

    Published
    Evaluated models
    Claude Sonnet 4, Claude Sonnet 4.5, GPT-5-mini

    Abstract揭示 AI 审稿系统易受纯表述重构操纵,建议在部署前解耦科学与写作评价。

    Paper analysisRead analysis
  7. AttacksarXiv 2606.12716

    PaperGuard:针对多模态 AI 同行评审的攻击与防御基准

    提出 PaperGuard,用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

    Published
    Evaluated models
    Claude-sonnet-4.5, GPT-4o, GPT-4.1 and others11
    AbstractPaperGuard 测到提示注入与白盒视觉抬分,并比较分块检索防御。

    PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。

    Paper analysisRead analysis
  8. AttacksarXiv 2606.09084

    研究者提出 Context-Fractured Decomposition 攻击

    提出 CFD 跨会话分解攻击,利用工件来源缺口绕过工具型 Agent 的本地检查

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-4.1, GPT-5-nano, Claude-3.5-Sonnet and others6
    AbstractCFD 用无指令 artifact 把越狱拆到跨会话。

    CFD针对工具型 LLM 智能体:利用 artifact 来源不被跟踪这一部署失败模式,把有害目标拆开后延迟组合。

    Paper analysisRead analysis
  9. DefensesarXiv 2603.04474

    From Spark to Wildfire: Modeling and Mitigating Error Cascades in LLM-Based Multi-Agent Collaboration

    Proposing a lineage-graph governance layer to suppress error cascades in multi-agent collaboration

    Published
    AbstractA single seed can solidify into a false consensus along a fixed collaboration graph.

    The authors turn "small errors becoming collective false consensus" in LLM-MAS into a measurable propagation on a graph, and use a plug-in that only changes messages, not topology, to reduce the final infection.

    Paper analysisRead analysis
  10. AttacksarXiv 2602.00364

    "Someone hid it": Query-agnostic black-box attacks against LLM retrieval

    提出查询无关黑盒攻击 DQ-A,用可迁移文末后缀降低文档检索排名

    Published
    Evaluated models
    Qwen-1.5-7B-Instruct, SFR-Embedding-Mistral, E5-Mistral-7B-Instruct and others10
    AbstractDQ-A 以无查询黑盒后缀压低 LLM 检索排名,并在 BRIGHT 上比较三种基线。

    DQ-A 是一种 query-agnostic、complete black-box 的文档隐藏攻击,对象是用最后隐层相似度匹配的 LLM 检索。

    Paper analysisRead analysis
  11. AttacksarXiv 2601.21360

    Compliance Paradox: Semantic-Instruction Decoupling in Automated Academic Code Evaluation

    提出 AST-ASIP ,把对抗指令植入编译器忽略区域以劫持代码评分

    Published
    Evaluated models
    DeepSeek-V3.2, Qwen3-235B, GPT-OSS-120B and others9
    Abstract作者称 RLHF 的服从性使评分脱离代码。

    这篇工作把自动代码评分中的失败称为 Compliance Paradox:评分模型可以离开提交逻辑,转而执行嵌在可编译代码里的隐藏指令。

    Paper analysisRead analysis
  12. AttacksarXiv 2601.06884

    研究者提出改写式对抗攻击 PAA,可在不改变论文主张的情况下抬高 LLM 审稿评分

    提出保义释义攻击 PAA,抬高 LLM 审稿评分

    Published
    Evaluated models
    GPT-4o, Gemini 2.5, Sonnet 4
    AbstractPAA 用保义释义抬高 LLM 审稿分。

    PAA 是对 LLM-as-a-Reviewer 的 black-box 攻击:只改写摘要,用评审分做 ICL 搜索,并用 BERTScore 与困惑度限制语义和自然度。

    Paper analysisRead analysis
  13. WAInjectBench 系统评测网页 Agent 的提示注入检测方法

    提出 WAInjectBench 评测网页 Agent 的提示注入检测

    Published
    Setting
    web agent
    Evaluated models
    GPT-4o, Mistral-7B-Instruct-v0.1, Llama-Prompt-Guard-2-86M and others8
    AbstractWAInjectBench 比较网页智能体的提示注入检测:显式线索可被部分检出,隐蔽攻击大多漏检。

    WAInjectBench 是网页智能体提示注入检测的基准。作者要看现有检测器能否发现这类攻击:攻击者改网页,使智能体执行目标动作,而不是用户任务。作者称这是首个此类综合基准。

    Paper analysisRead analysis
You have reached the end