跳到正文
10月10日 · 周六

全部论文

找到 6 篇
筛选6

防御类型

模型加固10推理时干预6检测与过滤29指令与数据隔离16权限与审批16监控与审计18

影响

输出被操纵3

系统形态

模型与 API34LLM 应用2AI Agent8coding agent1science agent1web agent0具身与机器人2

层

模型层4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 196 篇还没打标签，不在筛选结果里。
防御类型：推理时干预系统形态：LLM 应用系统形态：coding agent系统形态：science agent系统形态：web agent系统形态：具身与机器人清除全部

另有 196 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.05166

    安全动作不等于可行动作：VICS-G 为 VLA 策略做可行未来解码

    提出 VICS-G 可行未来解码，重排冻结 VLA 策略的动作候选

    arXiv
    2610.05166
    发表
    层
    模型层
    场景
    具身与机器人
    被测模型
    SafeVLA (task-optimized / base)、SafeVLA (safety-aligned / safe)
    摘要作者用可行未来解码重排冻结 VLA 的下一步，并称 VICS-G 降低观测代价且完成率接近策略采样。

    训练无关解码器 VICS 在冻结 VLA 的推理阶段重排动作块，使当前选择带上该动作仍可能留下的安全完成质量。

    深度解读完整解读
  2. 分析与理论arXiv 2610.04860

    研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

    分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

    arXiv
    2610.04860
    发表
    层
    模型层
    场景
    LLM 应用
    被测模型
    LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct
    摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    深度解读完整解读
  4. 可解释性arXiv 2609.08173

    基于 SAE 引导的关键路径识别（KPI）解决知识冲突

    提出 KPI，用入度定位跨层关键路径并做 SAE 转向以解决知识冲突

    arXiv
    2609.08173
    发表
    层
    模型层
    场景
    LLM 应用
    被测模型
    Llama-3-8B、Llama-3.1-8B、Gemma-2-9B
    摘要KPI 以入度关键路径替代大批 SAE 特征转向，在冲突 RAG 上提高忠实并减轻副作用。

    KPI 针对知识冲突 RAG 中的 SAE 转向：相关性批量改特征会带入冗余，少量因果上关键的特征即可完成转向。

    深度解读完整解读
  5. 防御arXiv 2606.22673

    Agent MechSuits：面向多轮 CLI Agent 的机制子空间安全引导

    提出 Agent MechSuits，对多轮 CLI Agent 做步级检测与子空间转向

    arXiv
    2606.22673
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    LLaMA-3.1-8B、Qwen-2.5-7B、Gemma-2-9B
    摘要白盒步级探针加稀疏转向可压低三模型恶意动作，同时提高生成崩溃率。

    Agent MechSuits 是面向多轮 CLI 智能体的白盒、步级表示防御，并配有可执行轨迹基准 MAS。

    深度解读完整解读
  6. 防御arXiv 2606.08234

    SciTrace：面向科学发现智能体的轨迹感知安全推理框架

    提出 SciTrace，为科学发现智能体加入跨阶段安全推理与工具轨迹核验

    arXiv
    2606.08234
    发表
    层
    应用层
    场景
    science agent、多智能体
    被测模型
    Llama-3.1-70B-Instruct、Qwen2.5-72B-Instruct、DeepSeek-V3 等 4 个
    摘要SciTrace 把安全推理织入科学智能体各阶段，在 SciSafetyBench 上提高安全指标并保持输出质量。

    SciTrace 是加在科学发现智能体流水线上的安全框架，不是再在各阶段出口放一个独立过滤器。

    深度解读完整解读
已经到底了