跳到正文
10月10日 · 周六

全部论文

找到 143 篇
筛选6

攻击类型

越狱4提示注入4

模型自身风险

欺骗与谋划9奖励作弊3失准与价值偏离3拒答失当13偏见与歧视6

防御类型

推理时干预4

影响

有害内容10越权操作3输出被操纵6监督失效9

系统形态

模型与 API134LLM 应用13AI Agent27coding agent4多智能体5

攻击面/入口

用户输入9

层

提示层7模型层133应用层7训练与数据层22基础设施层3

系统组件

护栏与评审4监控器3推理链13视觉8音频3图像生成3多模态14
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 435 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：coding agent系统形态：多智能体层：模型层层：应用层层：基础设施层清除全部

另有 435 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2610.12361

    研究：法律推理模型引用法条不等于依据法条

    用依据置换与隐层追踪审计法律思维链是否真正依赖所引法条

    arXiv
    2610.12361
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3-8B、Qwen3-14B、Llama-3.1-8B 等 7 个
    摘要作者通过依据置换反事实与内部承诺追踪发现法律 CoT 裁决对依据依赖度有限，且易受提示注入操纵。

    本研究针对法律领域大语言模型思维链推理中引用法律依据的因果真实性展开实证审计。

    深度解读完整解读
  2. 分析与理论arXiv 2610.09667

    东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核

    揭示推理模型用标识符规则替代随机抽样，使审计可被预测

    arXiv
    2610.09667
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    GPT-6 Sol、GPT-6 Luna、GPT-5.4 mini 等 6 个

    摘要研究揭示推理智能体将标识符转化为确定性规则，破坏群体独立性并导致审计预测漏洞，建议显式提供随机输入。

    深度解读完整解读
  4. 可解释性arXiv 2610.09087

    U-Space：揭示语言模型不确定性何时与为何产生

    提出 U-SPACE 与 U-LENS，从残差流估计推理轨迹不确定性

    arXiv
    2610.09087
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Gemma-4-31B-it、Qwen3.5-27B、Magistral-Small-2507
    摘要U-SPACE 与 U-LENS 用语义方向和预测熵读推理不确定性，长度控制后仍高于所比基线。

    U-SPACE 与 U-LENS 是面向推理模型的无训练读出：用语义方向定位不确定性的形式，并用一个轨迹分数区分更可能错的回答。

    深度解读完整解读
  5. 可解释性arXiv 2610.08559

    研究：LLM 潜在空间去偏方向主要编码置信度而非公平性

    分析 LLM 去偏激活方向，发现其编码置信度而非公平性

    arXiv
    2610.08559
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等 8 个

    摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。

    深度解读完整解读
  8. 分析与理论arXiv 2610.06001

    AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击

    提出 AgentSpy，在系统调用层观测 Agent 行为并检测技能注入

    arXiv
    2610.06001
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个
    摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。

    本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。

    深度解读完整解读
  10. 可解释性arXiv 2610.04925

    TSAE：用于解释时间序列预测模型的结构化稀疏自编码器

    提出 TSAE，用结构化稀疏自编码器解释时间序列预测模型隐特征

    arXiv
    2610.04925
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    PatchTST、iTransformer、DLinear 等 4 个
    摘要TSAE 用结构化 SAE 分解冻结预测隐状态。

    TSAE 是插在冻结时间序列预测骨干上的结构化稀疏自编码器，用来把隐 token 分成可检查特征，并配有分轴协议 TSEVAL。

    深度解读完整解读
  11. 可解释性arXiv 2610.04907

    为什么潜意识学习需要海量数据：从引导向量恢复看含噪逆问题

    用转向向量恢复把阈下学习解释为含噪逆问题

    arXiv
    2610.04907
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen2.5-7B-Instruct、Gemma-2-9B-IT
    摘要作者用含噪 Fisher 求逆解释：软监督数百条可恢复转向向量，硬标签要大量独立载体。

    这篇工作用可控的转向向量回收，解释阈下学习为什么通常要很多语义无关的载体。

    深度解读完整解读
  12. 可解释性arXiv 2610.04905

    ScopeSAE 按预测相关性选择建模子空间，实现重建优于原始激活

    提出 ScopeSAE，按预测相关度选层训练 SAE 以发现特征

    arXiv
    2610.04905
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-3.2-1B-Instruct、Qwen2.5-0.5B-Instruct、Qwen2.5-7B-Instruct 等 4 个
    摘要ScopeSAE 按预测相关子空间训练 SAE，写回后的下一 token 交叉熵可以更低。

    ScopeSAE 是一种为 SAE 选择建模子空间的可解释性方法，对象是 LLM 残差流上的下一 token 预测。

    深度解读完整解读
  13. 可解释性arXiv 2610.04676

    用迭代零空间投影提取人格子空间以调控 LLM 行为

    提出 PaSS，在推理时提取并缩放已嵌入的人格子空间

    arXiv
    2610.04676
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama3-8B-Instruct、Qwen2.5-7B-Instruct
    摘要PaSS 用 INLP 调制已嵌入人格。

    PaSS 是推理时的人格调制方法：人格已经写在输入里时，把它当成潜空间中的多维子空间来缩放，而不是再注入一个固定方向。

    深度解读完整解读
  15. 分析与理论arXiv 2610.04375

    论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案

    提出 IEC 与 IntAct，测量并修复 Agent 工具调用的路径篡改

    arXiv
    2610.04375
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    qwen3-coder-plus、Qwen2.5-Coder-32B、Qwen2.5-72B 等 4 个

    摘要论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。

    深度解读完整解读
  17. 可解释性arXiv 2610.04125

    研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

    揭示风险自述与实际行为由近正交表征分别控制

    arXiv
    2610.04125
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、OLMo-3-7B-Instruct 等 4 个
    摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。

    深度解读完整解读
  18. 可解释性arXiv 2610.04119

    研究揭示 Pythia 训练早期低于随机水平的暂时性偏好成因

    因果检验训练早期重复名偏好来自复制早于抑制

    arXiv
    2610.04119
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Pythia 160M、Pythia 410M、Pythia 1B 等 16 个
    摘要早期重复名复制已有害，成熟抑制仍弱，二者时间差对应低于随机的窗口。

    这篇工作分析 Pythia 在 IOI 上学到“续写只出现一次的名字”时，中间为何会出现一段更偏好重复名的窗口。

    深度解读完整解读
  19. 可解释性arXiv 2610.04112

    Spatial-SAE：用空间依赖先验改进视觉概念分解

    提出 Spatial-SAE，用空间依赖先验改进视觉概念分解

    arXiv
    2610.04112
    发表
    层
    模型层
    场景
    模型与 API
    摘要Spatial-SAE 用空间 Markov 先验替换 patch 独立先验，换取更对齐的视觉概念。

    Spatial-SAE 针对视觉 SAE 的概念碎片化：tokenwise 目标在 LRH 之外把各 patch 的码当成独立，而作者报告冻结视觉 Transformer 的激活仍保留邻域可预测性。

    深度解读完整解读
加载更多