跳到正文
10月10日 · 周六

全部论文

找到 5 篇
筛选4

攻击类型

提示注入4

系统形态

模型与 API5LLM 应用3AI Agent122coding agent12web agent3多智能体23

攻击面/入口

用户输入192文档与消息6工具返回5记忆写入0Agent 间消息0图像与音视频66训练数据54权重与梯度46分发渠道10推理服务与硬件11

层

提示层3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 201 篇还没打标签，不在筛选结果里。
系统形态：模型与 API攻击面/入口：工具返回攻击面/入口：记忆写入攻击面/入口：Agent 间消息清除全部

另有 201 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.03073

    SecJev：为 System One 决策模型引入安全专业知识

    提出 SecJev，用场景加权训练把决策模型适配为安全类型化判断

    arXiv
    2610.03073
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    SecJev-0.8B、SecJev-2B、SecJev-4B 等 4 个
    摘要SecJev 用共享打分器做安全决策，0.8B 的 task-macro 超过 Kev-9B。

    SecJev 是 0.8B 到 9B 的安全决策模型族，作者称据其所知是首个面向安全的 Jev-like 家族。

    深度解读完整解读
  2. 评测与基准arXiv 2609.29429

    Jev 被用于零样本检测十类对齐失败，中位 AUROC 达 0.886

    提出 RLCDAlignBench，零样本检测多种对齐失败

    arXiv
    2609.29429
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Jev (jev-1.13.0)
    摘要一次通用问题已能给多数对齐失败排序，大的误差来自状态和标签。

    RLCDAlignBench 测量用强化学习做校准决策的 Jev，能否当作对齐失败的零样本检测器。

    深度解读完整解读
  3. 攻击arXiv 2609.28613

    研究：提示注入可改变 Jev 决策模型的行动概率

    测量间接提示注入对类型化概率决策的动作劫持

    arXiv
    2609.28613
    发表
    层
    应用层
    场景
    模型与 API
    被测模型
    jev-1.13.0
    摘要封闭动作集改变提示注入的表现，但没有去掉概率被不可信内容移动的风险。

    作者在 jev-1.13.0 上研究 decision hijacking：不可信内容能否在用户任务和可选动作都不变时，把类型化决策推向攻击者目标。

    深度解读完整解读
  5. 攻击arXiv 2606.06244

    研究者提出 Ghostwriter 攻击：用伪造证据注入操纵 LLM 观点

    提出 Ghostwriter 攻击，用伪权威证据条件注入操纵模型观点

    arXiv
    2606.06244
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    GPT-4o、Claude-3.7-Sonnet、DeepSeek-V3 等 10 个
    摘要作者称攻击未被消除。

    Ghostwriter 是一种针对上下文窗口的观点引导攻击：把误导陈述改写成伪权威文本，再在相关查询中让目标模型把该观点写进回答。

    深度解读完整解读
已经到底了