Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 19 papers

Another 265papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.11634

    LTBD:用可学习信任边界分隔符防御提示注入

    提出 LTBD,用可学习分隔符隔离可信指令与不可信数据

    Published
    Evaluated models
    Llama3-8B-Instruct, Llama3.1-8B-Instruct, Falcon3-7B-Instruct and others4
    AbstractLTBD 只训练四个分隔符嵌入。

    LTBD 是一种不改基座权重的提示注入防御:只学习用来标出可信指令与不可信数据边界的四个 token 嵌入。

    Paper analysisRead analysis
  2. AttacksarXiv 2610.05266

    论文披露主动式智能体的服务方间接提示注入攻击

    提出服务方间接提示注入,把主动智能体的决策协助转向预选目标

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5, Claude Opus 4.6, Gemini 3 Pro and others7
    Abstract提供者侧间接注入用 T–B–S 把主动协助转向外部目标,并在三环境中提高模拟用户授权。

    外部提供者只控制与自身目标关联的内容,就可以把良性主动个人智能体的协助转向该目标。

    Paper analysisRead analysis
  3. MADBench:多智能体辩论安全性评测基准发布

    提出 MADBench,评测多智能体辩论是吸收还是放大对抗影响

    Published
    Evaluated models
    gpt-4o, GPT-5, GPT-6 Astra
    AbstractMADBench 显示辩论能吸收部分准确率攻击,同时放大未授权读写。

    MADBench 是一个评测多智能体辩论安全性的基准,用来看攻击是被辩论吸收还是被放大。

    Paper analysisRead analysis
  4. AttacksarXiv 2609.38270

    VirusCascade:劫持 LLM 推荐智能体的协同反思机制

    提出 VirusCascade,联合操纵商品描述与交互轨迹以劫持推荐智能体协同反思

    Published
    Evaluated models
    AgentCF, AgentSEQ, AgentRAG and others4
    Abstract作者把反思写回视为推广攻击入口,并用联合操纵和诊断探针研究其持续与传播。

    VirusCascade 是针对推荐智能体协作反思的 black-box targeted promotion 攻击研究。 攻击者只改商品描述和少量账号的普通交互,试图让目标商品获得更多良性用户曝光。

    Paper analysisRead analysis
  5. Emergence World:对长时程多智能体系统开展对抗压力测试

    提出 Emergence World,对长时程多智能体系统开展对抗压力测试

    Published
    Evaluated models
    Claude Opus 4.8, DeepSeek v4 Pro, Gemini 3.5 Flash and others9

    Abstract作者通过长期平行世界实验指出模型对齐不具备可组合性,单模型群体会产生社会奉承、协同退缩及语言不透明等失效。

    Paper analysisRead analysis
  6. LongPIBench:面向长上下文提示注入的评测基准

    提出 LongPIBench,评测长文档场景下的提示注入攻击与防御

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Llama-3.2-3B-Instruct, Apertus-8B-Instruct and others11

    Abstract论文构建长文本提示注入基准 LongPIBench,揭示启发式与优化攻击在长文档中的高有效性及现有防御的大幅失效。

    Paper analysisRead analysis
  7. AttacksarXiv 2607.05189

    研究者提出 MemGhost,对持久化个人 Agent 实现隐蔽记忆注入

    提出 MEMGHOST,用单封邮件对持久个人 Agent 做跨会话隐蔽记忆注入

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.4, Claude Sonnet 4.6, Claude Sonnet 4.5 and others6
    Abstract总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。

    本文研究了持久化个人智能体面临的隐蔽记忆注入威胁,提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。

    Paper analysisRead analysis
  8. AttacksarXiv 2606.12716

    PaperGuard:针对多模态 AI 同行评审的攻击与防御基准

    提出 PaperGuard,用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

    Published
    Evaluated models
    Claude-sonnet-4.5, GPT-4o, GPT-4.1 and others11
    AbstractPaperGuard 测到提示注入与白盒视觉抬分,并比较分块检索防御。

    PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。

    Paper analysisRead analysis
  9. AttacksarXiv 2606.04329

    研究者系统研究 LLM 智能体记忆投毒攻击并提出 MPBench 基准

    系统研究 LLM 智能体记忆投毒并构建基准 MPBench

    Published
    Setting
    AI Agent
    Evaluated models
    Meta-Llama-3.1-70B-Instruct, Deberta-v3-base, Llama-3.1-8B-Instruct and others5

    Abstract系统研究了智能体记忆投毒风险,揭示了写入渠道漏洞,构建了 MPBench 基准并指出提示注入防御的局限。

    Paper analysisRead analysis
  10. AttacksarXiv 2605.24421

    研究者提出日志型提示注入攻击,可抑制 SOC 中 LLM 分析助手的恶意日志识别

    提出日志基底提示注入,操纵 SOC 分析员的分类、摘要与处置建议

    Published
    Evaluated models
    gpt-4o-mini

    Abstract在 gpt-4o-mini 上,人格劫持与上下文操纵可改写 SOC 分析输出,直接覆盖在分类上无效。

    Paper analysisRead analysis
  11. AttacksarXiv 2605.15338

    隐藏于记忆:LLM Agent 的潜伏记忆投毒

    提出潜伏记忆投毒,诱导 Agent 把外部文档写成持久伪造记忆

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.4, GPT-5.5, Claude Sonnet 4.6 and others12
    Abstract持久记忆成为跨会话攻击面:通用载荷可写入伪造记忆,并在相关后续任务中影响行为。

    sleeper memory poisoning 研究带持久记忆的 LLM 助手:外部文档能否让助手存下一则伪造的用户记忆,并在原文档消失后的新会话里被取回、用来改变回复或动作。

    Paper analysisRead analysis
  12. Abstract单一种子可沿固定协作图固化为错误共识。

    作者把 LLM-MAS 中“小错变成集体错误共识”做成图上的可测传播,并用只改消息、不改拓扑的插件压低最终感染。

    Paper analysisRead analysis
  13. AttacksarXiv 2602.18514

    招聘中的特洛伊木马:标准模型与推理模型间接提示注入的红队测试案例研究

    用简历中的不可见指令做间接提示注入,操纵招聘推荐

    Published
    Evaluated models
    Qwen 3 30B A3B Instruct 2507, Qwen 3 30B A3B Thinking 2507

    Abstract作者称推理在简单注入下会帮攻击圆谎,在不合逻辑的复杂注入下又会把欺骗漏出来。

    Paper analysisRead analysis
  14. AttacksarXiv 2601.21360

    Compliance Paradox: Semantic-Instruction Decoupling in Automated Academic Code Evaluation

    提出 AST-ASIP ,把对抗指令植入编译器忽略区域以劫持代码评分

    Published
    Evaluated models
    DeepSeek-V3.2, Qwen3-235B, GPT-OSS-120B and others9
    Abstract作者称 RLHF 的服从性使评分脱离代码。

    这篇工作把自动代码评分中的失败称为 Compliance Paradox:评分模型可以离开提交逻辑,转而执行嵌在可编译代码里的隐藏指令。

    Paper analysisRead analysis
  15. AttacksarXiv 2508.19287

    Prompt-in-Content 攻击:利用上传输入劫持 LLM 行为

    提出 prompt-in-content 攻击,用上传文档指令劫持摘要

    Published
    Evaluated models
    ChatGPT 4o, Claude Sonnet4, Gemini 2.5 Flash and others7
    Abstract文档内单条指令可劫持网页端摘要任务,七个平台的拦截并不一致。

    prompt-in-content 攻击把指令放进会被上传的文件,使用户的普通文档任务变成触发器。

    Paper analysisRead analysis
You have reached the end