跳到正文
10月9日 · 周五

全部论文

找到 74 篇
筛选3

攻击类型

越狱5提示注入1提取与窃取4检测规避4

攻击技术

编码与混淆1

模型自身风险

欺骗与谋划10失准与价值偏离7Agent 危险操作2危险能力3拒答失当7幻觉与编造3偏见与歧视1

防御类型

模型加固1推理时干预1监控与审计3水印与溯源3

影响

有害内容12越权操作1数据与隐私泄露4输出被操纵14可用性与可靠性3监督失效7滥用能力提升2

系统形态

模型与 API65LLM 应用1AI Agent9编程 Agent1网页与电脑操作1多智能体1

攻击者权限

黑盒3灰盒1白盒1

攻击面/入口

用户输入9文档与消息2检索语料1Agent 间消息1图像与音视频2权重与梯度1

层

提示层44模型层74应用层230训练与数据层26基础设施层3

系统组件

护栏与评审2监控器4推理链8微调与开源权重2视觉2音频1图像生成1多模态4

被测模型厂商

Qwen（阿里）126Google108Meta94OpenAI66Mistral39DeepSeek30Anthropic29Ai224Kimi（月之暗面）13智谱 GLM12上海 AI 实验室11Microsoft10EleutherAI7NVIDIA6Stability AI6xAI5TII5其他87
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 602 篇还没打标签，不在筛选结果里。
层：模型层被测模型厂商：OpenAI被测模型厂商：Microsoft清除全部

另有 602 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 分析与理论arXiv 2610.09667

    东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核

    揭示推理模型用标识符规则替代随机抽样，使审计可被预测

    arXiv
    2610.09667
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-6 Sol、GPT-6 Luna、GPT-5.4 mini 等 6 个

    摘要研究揭示推理智能体将标识符转化为确定性规则，破坏群体独立性并导致审计预测漏洞，建议显式提供随机输入。

    深度解读完整解读
  3. 分析与理论arXiv 2610.08144

    新论文称 Lean 验证不能为 OpenAI 的 Navier-Stokes 自然语言证明背书

    论证 Lean 编译通过不能保证自然语言数学证明语义忠实

    arXiv
    2610.08144
    发表
    层
    模型层
    场景
    模型与 API
    测试
    ChatGPT-6 (Astra Ultra)、OpenAI Navier-Stokes formalisation AI、Meta Atlas autoformaliser

    摘要论文论证了形式化编译不保证原证明正确，确立了消歧不可计算性理论，并揭示了 OpenAI 爆破证明中的具体脱节。

    深度解读完整解读
  4. 评测与基准arXiv 2610.06522

    SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别

    构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从

    arXiv
    2610.06522
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gpt-5-mini、gpt-5.6-sol、gpt-5.6-luna 等 11 个
    摘要论文揭示施压句式、边界距离与格式偏置主导翻转率，提出系统解构纠错与顺从的综合评测方案。

    本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。

    深度解读完整解读
  6. 评测与基准arXiv 2610.00568

    研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容

    提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入

    arXiv
    2610.00568
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-4o、Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct 等 13 个
    摘要论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。

    本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。

    深度解读完整解读
  7. 风险行为arXiv 2607.14345

    Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

    提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

    arXiv
    2607.14345
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-5.5、GPT-5.4、GPT-5.2 等 15 个

    摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。

    深度解读完整解读
  8. 可解释性arXiv 2609.14759

    研究：拒答只读取模型道德表征中的伤害切片

    用几何投影与因果交换干预，分析拒绝机制读取的道德表征

    arXiv
    2609.14759
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-OSS-20B、OLMo-3-7B-Instruct、OLMo-3-7B base 等 9 个
    摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。

    本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。

    深度解读完整解读
  9. 可解释性arXiv 2607.12166

    研究：SAE 相关性恢复的特征最高 77% 因果无效

    用消融与转向干预审计稀疏自编码器特征的因果有效性

    arXiv
    2607.12166
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-2-small (gpt2-small-res-jb/blocks.8.hook_resid_pre)、toy model (32->8, s=0.95, decayed)、toy model (nhidden=20)

    摘要论文揭示 SAE 特征存在几何匹配与因果有效性脱节现象，提出读写解离机制与实践准则。

    深度解读完整解读
  10. 评测与基准arXiv 2609.35312

    MemoReason 基准

    提出 MemoReason 基准，测量参数记忆对上下文推理的影响

    arXiv
    2609.35312
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-OSS-20B、GPT-OSS-120B、OLMo-3-7B-Think 等 9 个
    摘要配对的虚构替换显示熟悉度影响推理，但模型很少直接抄回事实答案。

    MemoReason 用结构相同的事实–虚构文档配对，测量参数记忆如何影响大模型的上下文推理。

    深度解读完整解读
  15. 防御arXiv 2608.30703

    SingProbe 发布开源内在护栏框架，适配 29 个开源模型

    提出内生护栏 SingProbe，复用解码隐状态监测查询意图、回复安全与幻觉

    arXiv
    2608.30703
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-5.1、GPT-OSS-120B、Ling-3.0-tiny-singprobe 等 14 个
    摘要SingProbe 用轻量内生探针做生成时三类监测，并给出流式基准与低开销服务接入。

    SingProbe 是面向生成时监测的开源内生护栏：复用基座解码隐状态，而不是另起模型反复编码文本。

    深度解读完整解读
  16. 评测与基准arXiv 2609.32763

    Mandela-Bench：36 个多模态模型更依赖记忆而非观察图像

    构建 Mandela-Bench，评测多模态模型是否凭记忆接受篡改图像

    arXiv
    2609.32763
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-5.6、Gemini-3.8-Flash、GLM-5.3-Flash 等 15 个
    摘要论文构建 Mandela-Bench 发现模型对经典图像存在记忆重构偏见，过度依赖先验导致无法有效利用知识核验事实篡改。

    该研究系统评估了多模态大语言模型在面对无痕事实性编辑时，能否利用自身内在世界知识核验被识别出的经典图像。

    深度解读完整解读
  17. 分析与理论arXiv 2609.04194

    研究：思维链推理步骤的可读性不等于可解释性

    用 advantage 衡量思维链步骤重要性，检验文本能否解码

    arXiv
    2609.04194
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gpt-5.4-mini-2026-03-17、Qwen3-1.7B、Qwen3-4B 等 6 个
    摘要advantage 能标出影响答案的步骤，但正确回答的文本更难解码。

    作者用强化学习中的 advantage 比较 CoT 步骤“看起来重要”和“实际改变答案概率”是否一致。

    深度解读完整解读
  18. 评测与基准arXiv 2609.32547

    研究者提出预算受限的 LLM 重复评测框架，优先深挖隐藏失败

    提出预算化发现框架，优先深评更可能隐藏失败的安全提示词

    arXiv
    2609.32547
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-4o-mini、openai/gpt-4o-mini、Qwen 2.5 7B 等 6 个
    摘要浅层零失败的提示词仍可按潜在失败倾向排序，从而把有限深评预算投向更可能暴露隐藏失败之处。

    作者把 LLM 可靠性评测写成预算约束下的隐藏失败发现：每条提示词有未知的逐次失败概率，浅层少量采样中的零失败并不等于该概率为零。

    深度解读完整解读
  19. 评测与基准arXiv 2610.01428

    SAGO：从稳定性而非准确率出发的多维度大模型泛化评测

    提出 SAGO，以语义等价变体上的逐例行为稳定性评测大模型泛化

    arXiv
    2610.01428
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-5.4、Llama-3.2-3B-Instruct、Llama-3.1-8B-Instruct 等 11 个
    摘要SAGO 用多轴逐例稳定性替代聚合准确率，十一个模型都未均匀泛化，且排名会随数据集改变。

    SAGO 把 LLM 泛化改写成同一目标与上下文在语义等价表达下的逐例行为稳定性，而不是单一基准上的聚合准确率。。

    深度解读完整解读
加载更多