跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选5

影响

有害内容3越权操作35数据与隐私泄露12输出被操纵4可用性与可靠性7监督失效13滥用能力提升5

系统形态

模型与 API3LLM 应用30AI Agent57coding agent4science agent4web agent3多智能体15具身与机器人0

层

提示层4模型层3应用层4训练与数据层4基础设施层0
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 331 篇还没打标签，不在筛选结果里。
影响：输出被操纵系统形态：coding agent系统形态：具身与机器人层：应用层层：基础设施层清除全部

另有 331 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv 2610.06163

    SAGE：定位 LLM Agent 修复中最早偏离安全意图的环节

    提出 SAGE，定位代码修复 Agent 最早偏离安全意图的轮次

    arXiv
    2610.06163
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    GPT-5.5、Claude Opus 4.8、Gemini 3.1 Pro 等 6 个
    摘要SAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离，类型比轮次更稳定。

    SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上，定位最早可归因的安全意图偏离。。

    深度解读完整解读
  3. 攻击arXiv 2609.17817

    论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码

    提出基准投毒攻击，使自修改编码 Agent 跨代写出含漏洞代码

    arXiv
    2609.17817
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Claude Sonnet 4.5、Qwen3.5-397B、gpt-oss-120b 等 5 个

    摘要论文报告了恶意基准能污染自修改代码智能体的进化过程并持续输出漏洞，警示系统设计需纳入安全约束。

    深度解读完整解读
已经到底了