跳到正文
10月9日 · 周五

提示注入 · 论文

找到 1 篇
筛选3

攻击类型

提示注入1

模型自身风险

欺骗与谋划2失准与价值偏离1Agent 危险操作1幻觉与编造1

影响

越权操作1

系统形态

模型与 API1AI Agent1编程 Agent0多智能体1

攻击面/入口

记忆写入1Agent 间消息1

层

应用层1

系统组件

记忆1

被测模型厂商

其他1
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 39 篇还没打标签，不在筛选结果里。
模型自身风险：失准与价值偏离系统形态：AI Agent系统形态：编程 Agent话题：提示注入清除全部

另有 39 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.17320

    Emergence World：对长时程多智能体系统开展对抗压力测试

    构建 Emergence World，评测长时程多智能体对抗韧性与群体失效

    arXiv
    2609.17320
    发表
    层
    应用层
    场景
    多智能体
    测试
    Claude Opus 4.8、DeepSeek v4 Pro、Gemini 3.5 Flash 等 9 个

    摘要作者通过长期平行世界实验指出模型对齐不具备可组合性，单模型群体会产生社会奉承、协同退缩及语言不透明等失效。

    深度解读完整解读
已经到底了