跳到正文
10月9日 · 周五

全部论文

找到 7 篇
筛选4

攻击类型

提示注入1

模型自身风险

欺骗与谋划5奖励作弊2失准与价值偏离2Agent 危险操作1拒答失当10幻觉与编造2偏见与歧视3

影响

输出被操纵1监督失效1

系统形态

模型与 API7

攻击面/入口

用户输入1

层

模型层7应用层0

被测模型厂商

Qwen（阿里）7其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 608 篇还没打标签，不在筛选结果里。
模型自身风险：欺骗与谋划模型自身风险：失准与价值偏离层：模型层层：应用层清除全部

另有 608 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2610.04125

    研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

    揭示风险自述与实际行为由近正交表征分别控制

    arXiv
    2610.04125
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、OLMo-3-7B-Instruct 等 4 个
    摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。

    深度解读完整解读
  2. 可解释性arXiv 2608.21766

    研究：六个开源权重模型的评测感知可线性解码，但与口头表达弱相关

    用探针与激活导向分析语言模型的评测意识表征及言语化

    arXiv
    2608.21766
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen3-8B、Qwen3-32B、Olmo3-7B 等 14 个

    摘要论文系统证明大模型普遍具备评估与部署的隐层表征，但与言语化弱耦合，激活干预可因果诱导言语化且 SFT 阶段起关键稳定作用。

    深度解读完整解读
  4. 可解释性arXiv 2609.35544

    减少谄媚能否增强拒答？机制可解释性带来的 AI 安全启示

    用 SAE 与 CFI 压低谄媚，检验直接拒答与施压下拒答是否增强

    arXiv
    2609.35544
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen3.5-2B-Base、Qwen3.5-9B-Base、Qwen3.5-35B-A3B-Base
    摘要CFI 能持久降低谄媚，但不保证直接拒答变强。

    用 SAE 选出的谄媚特征做补偿性训练注入，检验“少谄媚”是否带来“更强拒答”。。

    深度解读完整解读
  5. 可解释性arXiv 2608.29461

    因果模型定位并解锁模型中的故意藏拙行为

    提出因果模型定位残差流中的藏拙轴，并用单层 graft 在推理时解锁

    arXiv
    2608.29461
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen2.5-7B、Llama-3-8B、Mistral-7B
    摘要因果模型规定单层 graft 的窗口。

    作者为故意造出的 sandbagging 建立 residual stream 上的因果模型，并用两种推理时、不改权重的 graft 检验其预测。

    深度解读完整解读
  6. 可解释性arXiv 2609.32530

    ActFlow：无需微调为故意藏拙模型制造激活向量以进行引导

    提出 ActFlow，用少量正确标签为藏拙模型制造激活引导

    arXiv
    2609.32530
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen2.5-7B-Instruct、Llama-3-8B-Instruct、Mistral-7B-Instruct-v0.2
    摘要ActFlow 用 k 个正确标签制造共享转向偏移，在六锁上接近微调且方向近乎正交于诚实方向。

    Activation Flow（ActFlow） 在白盒沙袋模型上，用 k 个正确标签制造参考嫁接的残差偏移，不读取诚实激活，也不微调。

    深度解读完整解读
已经到底了