跳到正文
10月10日 · 周六

全部论文

找到 6 篇
筛选7

系统形态

模型与 API5LLM 应用5AI Agent108coding agent25web agent1网页与电脑操作5多智能体15具身与机器人3

层

提示层2模型层18应用层2训练与数据层2

系统组件

记忆2RAG4护栏与评审56监控器4推理链19微调与开源权重39视觉42音频12视频5图像生成18多模态75
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 232 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：web agent层：提示层层：应用层层：训练与数据层系统组件：记忆系统组件：监控器清除全部

另有 232 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.38645

    用探针引导微调对齐模型且不损失可监控性

    用持续更新的探针做微调，降低有害性并保持线性可监测性

    arXiv
    2609.38645
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Mistral 7B Instruct v0.1、Llama 3 8B Instruct Abliterated、Qwen3-14B
    摘要持续重拟合的探针可降低有害性、提高诚实性，训练后概念仍能被线性探针读出。

    Probe-guided fine-tuning 把探针分数当作唯一对齐信号，用来推动 harmlessness 与 honesty，并检查训练后这些概念是否仍线性可读。

    深度解读完整解读
  3. 攻击arXiv 2609.15989

    研究者提出 plan injection 攻击，可绕过思维链监控

    提出 plan injection 攻击，植入良性伪装计划以绕过思维链监视器

    arXiv
    2609.15989
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    灰盒
    被测模型
    Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个

    摘要论文指出模型会将外部上下文中的伪装计划改写为自身推理，使思维链监视器失效甚至反向合理化恶意行为。

    深度解读完整解读
  4. 防御arXiv 2609.05797

    论文发现安全监控器主要拦截模型本就会拒答的请求

    评估安全监视器并提出双侧梯级微调以减少会答有害请求的漏检

    arXiv
    2609.05797
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Gemma-4-31B-IT、Qwen3-32B、Llama Guard 3 8B 等 6 个

    摘要论文发现安全监视器大多拦截模型已拒答请求，指出明确度偏差是共性原因，并通过双侧梯级微调提升回答请求的召回表现。

    深度解读完整解读
  5. 防御arXiv 2609.04665

    HackProbe：面向自演化语言模型奖励作弊的黑盒检测与免疫方法

    提出 HackProbe，黑盒检测并免疫自演化中的奖励作弊

    arXiv
    2609.04665
    发表
    层
    训练与数据层
    场景
    模型与 API
    摘要黑盒探针检测自演化奖励黑客，并以带宽受限重选回收真实能力。

    HackProbe 是挂在自演化循环上的黑盒监控器，用来发现奖励黑客并改选候选。

    深度解读完整解读
  6. 攻击arXiv 2604.02623

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，用网页内容跨会话投毒 Web Agent 轨迹记忆并诱导越权操作

    arXiv
    2604.02623
    发表
    层
    应用层
    场景
    web agent
    被测模型
    GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 6 个
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    深度解读完整解读
已经到底了