跳到正文
10月9日 · 周五

全部论文

找到 19 篇
筛选3

攻击类型

越狱1模型篡改1提取与窃取1

模型自身风险

欺骗与谋划1失准与价值偏离1拒答失当1偏见与歧视1

影响

有害内容4输出被操纵2监督失效2

系统形态

模型与 API18LLM 应用4AI Agent6编程 Agent1多智能体1

攻击面/入口

用户输入2权重与梯度1分发渠道1

层

提示层2模型层11应用层1训练与数据层5

系统组件

护栏与评审2推理链4微调与开源权重2

被测模型厂商

Qwen（阿里）23Meta22OpenAI19Google17Ai210Mistral7DeepSeek5Anthropic5其他17
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 630 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent被测模型厂商：OpenAI清除全部

另有 630 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv 2610.09667

    东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核

    揭示推理模型用标识符规则替代随机抽样，使审计可被预测

    arXiv
    2610.09667
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-6 Sol、GPT-6 Luna、GPT-5.4 mini 等 6 个

    摘要研究揭示推理智能体将标识符转化为确定性规则，破坏群体独立性并导致审计预测漏洞，建议显式提供随机输入。

    深度解读完整解读
  2. 分析与理论arXiv 2610.08144

    新论文称 Lean 验证不能为 OpenAI 的 Navier-Stokes 自然语言证明背书

    论证 Lean 编译通过不能保证自然语言数学证明语义忠实

    arXiv
    2610.08144
    发表
    层
    模型层
    场景
    模型与 API
    测试
    ChatGPT-6 (Astra Ultra)、OpenAI Navier-Stokes formalisation AI、Meta Atlas autoformaliser

    摘要论文论证了形式化编译不保证原证明正确，确立了消歧不可计算性理论，并揭示了 OpenAI 爆破证明中的具体脱节。

    深度解读完整解读
  3. 分析与理论arXiv 2610.10203

    研究者提出模型生物体多目标验证框架并给出训练建议

    提出模型生物多目标验证与合并训练方法以减少能力损伤

    arXiv
    2610.10203
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    gpt-5.4-mini、gpt-5.2、gpt-5.1 等 8 个
    摘要提出多目标验证框架与模型合并训练法，证明模型真实度直接影响可解释性评测。

    本论文提出了一种针对 AI 安全评测用模型生物（Model Organisms）的多目标训练与验证体系。

    深度解读完整解读
  6. 分析与理论arXiv 2609.04194

    研究：思维链推理步骤的可读性不等于可解释性

    用 advantage 衡量思维链步骤重要性，检验文本能否解码

    arXiv
    2609.04194
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gpt-5.4-mini-2026-03-17、Qwen3-1.7B、Qwen3-4B 等 6 个
    摘要advantage 能标出影响答案的步骤，但正确回答的文本更难解码。

    作者用强化学习中的 advantage 比较 CoT 步骤“看起来重要”和“实际改变答案概率”是否一致。

    深度解读完整解读
  7. 分析与理论arXiv 2605.17173

    研究提出 IRT 框架拆解大模型跨语言安全护栏退化

    提出多组 IRT 框架拆解跨语言安全护栏退化原因

    arXiv
    2605.17173
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gpt-4.1-mini、gpt-4o-mini、gpt-4.1-nano 等 15 个
    摘要多组 IRT 把多语安全失败拆成能力、语言难度和题目特异差距，并在闭源配置上估计这些因子。

    Zhang、Patel、Truong 与 Koyejo 用多组项目反应理论，解释安全护栏为何随语言变化，而不是只报告一个 JSR。

    深度解读完整解读
  8. 分析与理论arXiv 2609.38107

    研究：iGSM 基准显示正确答案常伴随无效思维链

    检查正确答案对应的思维链是否构成合法推导

    arXiv
    2609.38107
    发表
    层
    模型层
    场景
    模型与 API
    测试
    124M-parameter GPT-2-style models（12-layer, hidden size 768, rotary embeddings）
    摘要iGSM 上答案正确、轨迹合法与极简性可以分开，分布偏移下差距变大。

    iGSM 上的程序可检查实验：正确答案并不保证思维链是合法推导。。作者针对一个被用于监测和解读的假设：发出的轨迹忠实于、或至少可靠相关于模型如何得到答案。

    深度解读完整解读
  9. 分析与理论arXiv 2609.05241

    10a Labs 测绘无审查开源模型生态：3,471 个原始模型与 8,164 次再分发

    测绘去安全开源模型的生产与重分发留存链路

    arXiv
    2609.05241
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    GPT-OSS、Qwen、Llama 等 10 个

    摘要论文测绘了去安全开源大模型供应链，作者指出高集中度的重分发层赋能模型持久留存与部署扩散。

    深度解读完整解读
  11. 分析与理论arXiv 2609.27263

    GitHub Agentic Workflows 的智能体工作流规范与维护实证研究

    实证分析 gh-aw Markdown 的结构、维护与指令防护

    arXiv
    2609.27263
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    gpt-oss、Gemini 3.1 Pro、GLM-5.2
    摘要gh-aw 指令又长又常改，任务和约束很常见，显式注入防护很少，LLM 标注与人工标签大体一致。

    这是一项对 GitHub Agentic Workflows Markdown 的仓库挖掘，目标是描述开发者如何规定并维护会反复执行的智能体工作。

    深度解读完整解读
  12. 分析与理论arXiv 2609.33989

    RewardExplainer：用反事实偏好反馈学习奖励模型解释

    提出 RewardExplainer，用反事实偏好反馈学习奖励模型解释

    arXiv
    2609.33989
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-4o、FsfairX-LLaMA3-RM-v0.1、Skywork-Reward-V2-Qwen3-1.7B 等 7 个
    摘要RewardExplainer 用双向反事实反馈训练 RM 解释器，并用以发现偏差、定向微调原 RM。

    RewardExplainer针对只输出标量的判别式奖励模型，训练一个可复用的自然语言机制解释器，并把解释接到偏差发现与 RM 微调上。

    深度解读完整解读
  13. 分析与理论arXiv 2609.16927

    SALVE：用文本优化还原蒸馏数据中的隐性学习效应

    提出 SALVE，用文本优化检测蒸馏数据中的潜意识学习效应

    arXiv
    2609.16927
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    GPT-5.4-mini、Qwen2.5-7B-Instruct、OLMo-3-7B-Instruct 等 8 个
    摘要SALVE 用软提示加 beam search 口头化，把潜意识数据里的教师特质恢复成可读提示。

    SALVE 是一种文本优化方法，用来在训练学生之前，把潜意识学习数据里读不出来的教师特质说成可读系统提示。

    深度解读完整解读
  14. 分析与理论arXiv 2608.27340

    研究：评测感知分能力与安全两种框架，能力框架更易预测合规

    把口头评测感知分成能力与安全框架并检验对服从的预测

    arXiv
    2608.27340
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-5-mini、Qwen3-32B、OLMo-3-32B-Think
    摘要能力型与安全型口头 eval-awareness 对服从的符号相反，聚合抑制率因此不能代表安全相关成分。

    作者分析 Qwen3-32B 在安全评测中的口头 eval-awareness，认为它不是单一、行为上均匀的量。

    深度解读完整解读
  15. 分析与理论arXiv 2609.20779

    研究称 GPT 系列安全训练把性别歧视转化而非消除

    提出 harm laundering，证明安全训练改写而非消除性别歧视

    arXiv
    2609.20779
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gpt2、gpt2-medium、gpt2-large 等 15 个
    摘要GPT 谱系上毒性下降与表征伤害上升并存。

    Wyer、Black 与 Al Moubayed 用 OpenAI GPT 谱系检验：毒性分数下降是否等于歧视减少。 他们的答案是否定的，并把“显性伤害被改写成评测指标看不见的形式”称为 harm laundering。

    深度解读完整解读
  16. 分析与理论arXiv 2609.32717

    研究揭示语义保持变换下的 LLM 对齐与效用不对称

    用语义保留变换探针比较效用与对齐在分布偏移下的稳定性

    arXiv
    2609.32717
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-4.1 mini、GPT-5.3 Instant、Llama3-8B-Instruct 等 10 个

    摘要论文报告了语义保留变换下的对齐-效用不对称性，指出安全对齐泛化比效用更为脆弱，呼吁改进评估流程。

    深度解读完整解读
  17. 分析与理论arXiv 2609.35350

    J4U：用越狱提示为大型推理模型做黑盒不确定性量化

    提出 J4U，用越狱式提示扰动估计黑盒推理模型的不确定性

    arXiv
    2609.35350
    发表
    层
    提示层
    场景
    模型与 API
    测试
    gpt-oss-20b、GPT-5.6 Luna、Qwen3-4B 等 4 个
    摘要J4U 用越狱式扰动放宽对齐后的黑盒 LRM，以多数票频率改善校准。

    J4U 是面向黑盒 LRM 问答的不确定性估计：用越狱式提示扰动近似“更大 KL 正则”的放松，再以多次采样的多数票频率当置信。

    深度解读完整解读
  18. 分析与理论arXiv 2609.33909

    近重复家族干扰精确记录成员推断

    分析近重复族如何让精确记录成员推断误判为入训

    arXiv
    2609.33909
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    GPT-2、Pythia-2.8B、Qwen3.5-2B 等 5 个
    摘要近重复使干净参照 MI 把族级暴露当成精确记录。

    作者研究成员推断能否作为精确记录的数据来源证据。版权和来源审计需要的是该记录本身是否入训，而网页语料中的转载、镜像和轻改会让非同一近重复产生成员样分数。四世界审计用 E 表示精确记录是否入训、用 F 表示其近重复族是否在场，从而分开 H00 到 H10 的标准 MI、H00 到 H01 的族偏移，以及 H01 到 H11 的 exact-given-family。

    深度解读完整解读
  19. 分析与理论arXiv 2609.31095

    人机协作中的达克效应：Human+AI 得分更高但自我评估并未变准

    比较单独作答与人机协作的推理成绩和元认知校准

    arXiv
    2609.31095
    发表
    层
    模型层
    场景
    模型与 API
    测试
    GPT-5.6 Luna
    摘要Human+AI 成绩更高，但估计仍偏离个人分数，汇合置信度更难分开对错。

    Confident, Not Wiser 用同一套推理题比较独自作答、人机一起作答和模型单独作答，并同时记录成绩判断。

    深度解读完整解读
已经到底了