跳到正文
10月8日 · 周四

提示注入 · 论文

找到 2 篇
筛选3

攻击类型

提示注入2

攻击技术

自动化搜索1

影响

有害内容3越权操作0数据与隐私泄露1输出被操纵2

系统形态

模型与 API2LLM 应用5AI Agent36编程 Agent5网页与电脑操作3多智能体4

攻击面/入口

用户输入1工具返回1检索语料1

层

模型层1应用层1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 45 篇还没打标签，不在筛选结果里。
影响：越权操作影响：输出被操纵系统形态：模型与 API话题：提示注入清除全部

另有 45 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.28613

    研究：提示注入可改变 Jev 决策模型的行动概率

    测量间接提示注入对类型化概率决策的动作劫持

    arXiv
    2609.28613
    发表
    层
    应用层
    场景
    模型与 API
    测试
    jev-1.13.0
    摘要封闭动作集改变提示注入的表现，但没有去掉概率被不可信内容移动的风险。

    作者在 jev-1.13.0 上研究 decision hijacking：不可信内容能否在用户任务和可选动作都不变时，把类型化决策推向攻击者目标。

    深度解读完整解读
  2. 可解释性arXiv 2609.37737

    研究用因果激活修补定位模型服从提示注入指令的决策层

    用因果激活修补定位模型服从提示注入的决策层

    arXiv
    2609.37737
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen3-4B、Qwen3-14B、Qwen3-32B 等 7 个
    摘要合规的因果杠杆集中在网络后三分之一的低秩子空间，该层也是混淆下检测最好的位置。

    这篇工作用逐层激活修补定位提示注入合规发生在网络何处，并把该位置用于检测验证。。

    深度解读完整解读
已经到底了