分析与理论arXiv 2610.12436
研究提出 AI Agent 种群生态理论：协作带来起飞临界规模
为失配智能体种群建立生态模型，说明协作产生起飞临界规模
- arXiv
- 2610.12436
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 风险失准与价值偏离
摘要作者称协作把起飞从个体能力阈值改成种群阈值，故小种群评估不够。
作者用生态学的强 Allee 效应，讨论失配智能体种群会不会在个体能力不变时起飞。。
- 分析与理论arXiv 2610.12313
研究测试五个大模型合规系统对监管规则扰动的敏感度
诊断合规系统裁决是否随监管规则扰动而改变
- arXiv
- 2610.12313
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Llama-3.3-70B-Instruct、Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct 等 5 个
摘要五模型上许多正确裁决对删换否定规则大体不变。
用行为反事实和激活探针，审计合规裁决是否依赖所给规则。。作者要分开两种看起来一样的正确裁决：用了所给规则的，以及靠案例表面或训练模式得到的。
- 分析与理论arXiv 2610.09892
AI 安全 Stackelberg 模型中的防御充分性研究
用 Stackelberg 博弈分析发现与修复投入的防御充分性
- arXiv
- 2610.09892
- 发表
- 层
- 应用层
- 场景
- 模型与 API
摘要覆盖定理给出充分条件。
作者用攻击集合上的发现—修补过程，加上防守方领先的 Stackelberg 博弈，讨论反馈式防御何时够用，以及为威慑自适应攻击者该买多少能力。
- 分析与理论arXiv 2610.07009
研究受控拆解图像到文本越狱中图像属性的作用
固定有害指令，单轴归因图像到文本越狱的图像属性
- arXiv
- 2610.07009
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- GPT-4o、Claude Sonnet 4.5、Qwen3-VL-8B-Instruct 等 6 个
摘要固定文本的图像越狱拆解，只在 Qwen 上给出一条有界相关性归因。
- 分析与理论arXiv 2610.07005
研究审计 Qwen2-Audio 音频越狱 AdvWave-P 的频率与解码层归因
遮挡审计 AdvWave-P 音频越狱的频带必要性与解码层关联
- arXiv
- 2610.07005
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Qwen2-Audio-7B-Instruct、LLaMA-Omni
摘要AdvWave-P 的八频带排序与能量相关。
这是对加性音频越狱 AdvWave-P 的频率与解码器深度审计，受害模型主要是 Qwen2-Audio-7B-Instruct，不提出新攻击。
- 分析与理论arXiv 2610.02841
多模态声明验证对 LLM 改写有多鲁棒？
分析文体改写是否改变多模态声明核验的判决与置信度
- arXiv
- 2610.02841
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- gemma-4-26B-A4B-it、gemma-4-31B-it、GLM-4.6V-Flash 等 11 个
- 分析与理论arXiv 2610.02586
研究发现类型化决策模型主要按选项标签而非定义作答
揭示类型化决策模型按选项标签而非定义规则作答
- arXiv
- 2610.02586
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- laya-typed-decisions、laya、laya-multilingual 等 9 个
- 组件护栏与评审
摘要揭示类型化决策模型被标签误导的机理，证实源于提示词渲染并给出实操建议。
- 分析与理论arXiv 2610.02504
HXAI：分布式能源系统中的分层隐私保护可解释 AI 框架
提出 HXAI 分层隐私解释框架，本地保留细解释并只发布加噪摘要
- arXiv
- 2610.02504
- 发表
- 场景
- 模型与 API
- 被测模型
- gradient-boosted tree regression models
- 攻击提取与窃取
摘要HXAI 把无噪声局部 SHAP 留在家庭内，只聚合差分隐私摘要。
HXAI 是面向分布式能源系统的分层隐私保护解释框架，服务规划、监测与诊断，而不是实时控制。
- 分析与理论arXiv 2610.02480
MEA：面向忠实模型解释的奖励驱动多智能体系统
提出奖励驱动多智能体系统 MEA，生成可扰动验证的忠实解释
- arXiv
- 2610.02480
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- Qwen3.6-35B-A3B、Qwen3.5-4B、Qwen3-VL-30B-A3B-Instruct 等 12 个
摘要MEA 用忠实性奖励训练双智能体，把工具输出收成可扰动核对的解释。
MEA 是一个奖励驱动的双智能体，用来给黑盒分类器的单次预测写自然语言解释，并检查解释能否被扰动后的模型行为支持。
- 分析与理论arXiv 2610.00417
研究：合成数据溯源识别在改写后准确率大幅下降
检验合成数据来源识别是否等于再训练适配筛选
- arXiv
- 2610.00417
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-3B-Instruct、DistilRoBERTa、word TF-IDF logistic regression 等 5 个
摘要来源识别在原文上准确，改写后精确归因下降。
作者在金融风险文本上把来源识别和训练样本是否有用拆成两次测量，并写明这不是电信部署实验。
- 分析与理论arXiv 2609.38324
研究：多智能体讨论中异议被压制时收益下降
用含压抑率的意见动力学解释多智能体讨论何时优于投票
- arXiv
- 2609.38324
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- glm-flash、seed、ling 等 9 个
摘要讨论增益由压抑率相对 c∗=γ/(γ+a) 的裕度决定，关闭推理或减少压抑可增大该增益。
作者用一个只含四类行为的意见动力学，解释 LLM 团队讨论何时优于多数投票、何时停在错误共识。
- 分析与理论arXiv 2609.35350
J4U：用越狱提示为大型推理模型做黑盒不确定性量化
提出 J4U，用越狱式提示扰动估计黑盒推理模型的不确定性
- arXiv
- 2609.35350
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Qwen3-4B、gpt-oss-20b、DeepSeek-R1-32B 等 4 个
摘要J4U 用越狱式扰动放宽对齐后的黑盒 LRM，以多数票频率改善校准。
J4U 是面向黑盒 LRM 问答的不确定性估计：用越狱式提示扰动近似“更大 KL 正则”的放松，再以多次采样的多数票频率当置信。
- 分析与理论arXiv 2609.32116
研究提出 Best-of-N 越狱的物理势垒模型，挑战攻击成功率幂律规律
用物理陷阱模型描述 Best-of-N 越狱的攻击面规律
- arXiv
- 2609.32116
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-7B (base)、Llama-3.1-8B-Instruct、Qwen2.5-3B-Instruct 等 5 个
- 攻击越狱
摘要四参数势垒模型拟合 BoN 的两预算面，并把指数交叉归因于数据集有限。
Biroli 用一个玻璃陷阱式的微观模型，把 Best-of-N 越狱写成熵瓶颈加能量鞍点，并用四个数描述 (N, M) 攻击面及温度依赖。。
- 分析与理论arXiv 2609.29757
OllamaDrama：用蜜罐测量暴露 LLM 基础设施遭受的攻击
部署蜜罐测量针对暴露 LLM 基础设施的攻击
- arXiv
- 2609.29757
- 发表
- 场景
- 模型与 API
- 分析与理论arXiv 2609.27234
CELLAUDIT：审计 AI 智能体发现细胞模型中的输入使用声明
提出 CellAudit，审计智能体发现的细胞模型是否使用所声明输入
- arXiv
- 2609.27234
- 发表
- 层
- 应用层
- 被测模型
- CellScientist、AIDE、CellForge 等 4 个
摘要CellAudit 把输入使用声明从源码追到拟合贡献，并说明高分不必等于使用了扰动。
CellAudit 为智能体发现的细胞响应模型增加一层输入使用证伪：源码是否消费注册输入、拟合预测是否依赖它、该依赖是否改善对观测响应的预测。
- 分析与理论arXiv 2609.13579
研究审计 77.7 万条 LMSYS 对话中的用户对 AI 不当对待现象
交叉审计对话日志中用户对准助手的不当对待
- arXiv
- 2609.13579
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- claude-1、claude-instant-1、llama-2-7b-chat 等 15 个
摘要两检测器只弱重叠。
作者审计 Chatbot Arena 英文对话里用户对准助手的不当对待，核心是测量构造并不单一。
- 分析与理论arXiv 2609.01491
GlossoGen：多智能体 LLM 交互中自发涌现的语言
分析多智能体在压力协作中是否涌现外部难监控的语言
- arXiv
- 2609.01491
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- GPT 5.4、Sonnet 4.6、Opus 4.7 等 5 个
- 风险欺骗与谋划
摘要专有模型在预算压力与轮间协商下发展出可产、可传递的非英语代码。
GlossoGen 中的 SaveVeyru 用来观察预训练 LLM 智能体在必须通信时会不会离开英语。
- 分析与理论arXiv 2608.16578
研究用统计力学预测 AI 智能体群体的集体行为
用 Ising 式耦合规则预测语言模型智能体的集体意见演化
- arXiv
- 2608.16578
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- GPT-4o-mini、Gemma-3n-E4B-it、Qwen3.5-9B 等 6 个
摘要统计力学三耦合模型从初始意见预测智能体社群轨迹，并解释 conviction、共识与客观题求真。
定位：用统计力学描述语言模型智能体社群的意见动力学，并从初始意见预测后续轨迹。
- 分析与理论arXiv 2606.20508
研究：安全对齐 LLM 如何从混合合规示范中学习
检验混合合规演示教模型的是通用服从还是有害性
- arXiv
- 2606.20508
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Llama-3.1-8B-Instruct、OLMo-3.1-32B-Instruct、GPT-OSS-20B 等 6 个
- 攻击越狱
摘要良性与有害合规演示不可互换，效应取决于模型、顺序和偏好优化。
这项工作问的是：安全对齐模型从混合的良性与有害合规演示中提取的，是通用服从规则，还是请求是否有害。作者控制 Nb、Nh、ϕ 和顺序，检验总量、有害计数与联合计数三个假设，而不是提出新的攻击算法。
- 分析与理论arXiv 2606.04168
论文提出随机插入攻击，利用自回归一致性绕过 LLM 安全对齐
解释自回归一致性如何导致浅层安全对齐，并提出随机插入攻击
- arXiv
- 2606.04168
- 发表
- 层
- 提示层
- 场景
- 模型与 API
摘要作者用自回归一致性串起浅层对齐、插入攻击和最坏延续对齐。
作者把浅层安全对齐和一类续写攻击都归到自回归一致性上。
已经到底了