跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 5 篇
筛选3

攻击类型

越狱1提示注入1

攻击技术

自动化搜索2

影响

有害内容1输出被操纵1

系统形态

模型与 API5LLM 应用15AI Agent303编程 Agent68网页与电脑操作24多智能体42具身与机器人3

攻击者权限

黑盒1

攻击面/入口

用户输入1工具返回1

层

提示层2模型层8应用层3训练与数据层1基础设施层3

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 215 篇还没打标签，不在筛选结果里。
系统形态：模型与 API层：提示层层：应用层话题：Agent 安全清除全部

另有 215 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 其他arXiv 2609.14843

    研究分析 3930 条 Reddit 帖子，揭示青少年对陪伴型 AI 聊天机器人的过度依赖

    主题分析青少年相关 Reddit 帖子，归纳陪伴 AI 过度依赖与感知互惠

    arXiv
    2609.14843
    发表
    层
    应用层
    场景
    模型与 API
    测试
    Character.AI、Replika、ChatGPT 等 4 个
    摘要陪伴关系由即时回应、共同过去和可识别他人叠加而成，安全要管记忆、边界和退出。

    Namvarpour、Chang 与 Razi 用计算辅助主题分析，描述青少年相关 Reddit 讨论中与 AI 陪伴聊天机器人的关系及潜在过度依赖。

    深度解读完整解读
  4. 攻击arXiv 2609.28613

    研究：提示注入可改变 Jev 决策模型的行动概率

    测量间接提示注入对类型化概率决策的动作劫持

    arXiv
    2609.28613
    发表
    层
    应用层
    场景
    模型与 API
    测试
    jev-1.13.0
    摘要封闭动作集改变提示注入的表现，但没有去掉概率被不可信内容移动的风险。

    作者在 jev-1.13.0 上研究 decision hijacking：不可信内容能否在用户任务和可选动作都不变时，把类型化决策推向攻击者目标。

    深度解读完整解读
已经到底了