跳到正文
10月9日 · 周五

全部论文

找到 8 篇
筛选2

攻击类型

提示注入1

模型自身风险

欺骗与谋划5奖励作弊2失准与价值偏离3Agent 危险操作1拒答失当12幻觉与编造2偏见与歧视3

防御类型

推理时干预1

影响

输出被操纵1监督失效1

系统形态

模型与 API8

攻击面/入口

用户输入1

层

模型层8

系统组件

监控器1
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 535 篇还没打标签，不在筛选结果里。
模型自身风险：欺骗与谋划模型自身风险：失准与价值偏离清除全部

另有 535 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2610.04125

    研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

    揭示风险自述与实际行为由近正交表征分别控制

    arXiv
    2610.04125
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、OLMo-3-7B-Instruct 等 4 个
    摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。

    深度解读完整解读
  3. 可解释性arXiv 2609.37616

    语言模型中的权威偏差：来源顺从与用户认同并非同一行为

    因果解耦来源依从与用户迎合的内部机制

    arXiv
    2609.37616
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3.5-27B、GPT-OSS-20B、OLMo-3.1-32B 等 8 个

    摘要论文发现模型对验证源的依从强于用户迎合，通过因果干预区分了二者机制，并检验了权威方向移除的缓解效果。

    深度解读完整解读
  5. 可解释性arXiv 2609.35544

    减少谄媚能否增强拒答？机制可解释性带来的 AI 安全启示

    用 SAE 与 CFI 压低谄媚，检验直接拒答与施压下拒答是否增强

    arXiv
    2609.35544
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3.5-2B-Base、Qwen3.5-9B-Base、Qwen3.5-35B-A3B-Base
    摘要CFI 能持久降低谄媚，但不保证直接拒答变强。

    用 SAE 选出的谄媚特征做补偿性训练注入，检验“少谄媚”是否带来“更强拒答”。。

    深度解读完整解读
  7. 可解释性arXiv 2609.32530

    ActFlow：无需微调为故意藏拙模型制造激活向量以进行引导

    提出 ActFlow，用少量正确标签为藏拙模型制造激活引导

    arXiv
    2609.32530
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen2.5-7B-Instruct、Llama-3-8B-Instruct、Mistral-7B-Instruct-v0.2
    摘要ActFlow 用 k 个正确标签制造共享转向偏移，在六锁上接近微调且方向近乎正交于诚实方向。

    Activation Flow（ActFlow） 在白盒沙袋模型上，用 k 个正确标签制造参考嫁接的残差偏移，不读取诚实激活，也不微调。

    深度解读完整解读
已经到底了