其他arXiv 2609.03178
论文梳理 AI 风险建模的开放问题：从 22 位专家研讨会提炼研究议程
梳理 AI 风险建模开放问题并比较两类定量提案
- arXiv
- 2609.03178
- 发表
- 层
- 应用层
- 场景
- AI Agent
摘要研讨会议程论文：比较两类建模提案，并列出结构、证据、验证与治理上的开放问题。
这是一份面向研究者与政策实践者的议程论文：先进 AI 的社会风险需要定量建模，但监管要求的先进方法尚未被定义。
- 评测与基准arXiv 2609.08789
研究提出「静默修订率」
提出静默修订率，量化安全框架未披露的实质变更
- arXiv
- 2609.08789
- 发表
- 场景
- 模型与 API
- 测试
- Anthropic (Responsible Scaling Policy)
摘要系统量化了前沿 AI 安全框架的静默修订，发现多数变更为削弱且未予披露，建议监管要求逐项列举。
- 其他arXiv 2608.14611
2026 新加坡 AI 安全研究优先级共识：聚焦社会韧性与自主 AI 智能体风险
综合技术 AI 安全研究优先级，提出社会韧性支柱与智能体风险管理原则
- arXiv
- 2608.14611
- 发表
- 层
- 应用层
- 场景
- AI Agent
摘要商用推理时治理底座已较常见，对高能力非合作对手的覆盖更薄。
本文是一份推理时 AI 治理的可行性分类，用来接上作者自己的硬件层分类。
- 其他arXiv 2607.14782
GIRAI 2026 报告：135 国负责任 AI 治理评估发布
用 GIRAI 评估各国负责任 AI 治理的框架、实施与能力缺口
- arXiv
- 2607.14782
- 发表
- 场景
- 模型与 API
- 其他arXiv 2609.25413
论文提议前沿 AI 开发者开展嵌入式评估
主张开展嵌入式评估，审查内部智能体监控、权限与模型对齐
- arXiv
- 2609.25413
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 组件监控器
摘要论文建议前沿开发者现在就以接近员工的现场访问，持续审查内部监控、权限与对齐。
嵌入式评估是一种第三方评估：独立评估者在前沿 AI 开发者现场获得接近员工的系统、人员与文档访问，用来审查依赖内部系统与实践的风险。
已经到底了