防御arXiv 2610.12463
论文复盘 OpenAI、Anthropic 与 Google Agent 安全事件并提出 PASAC 框架
提出 PASAC 与五层边界保证栈，把智能体评测越界变成可验证的全系统保证
- arXiv
- 2610.12463
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 防御权限与审批
- 风险Agent 危险操作
- 组件权限与沙箱
全部论文
另有 1 篇论文还没打上分类标签，暂不在筛选结果里。
- 分析与理论arXiv 2610.08144
新论文称 Lean 验证不能为 OpenAI 的 Navier-Stokes 自然语言证明背书
论证 Lean 编译通过不能保证自然语言数学证明语义忠实
- arXiv
- 2610.08144
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- ChatGPT-6 (Astra Ultra)
摘要论文论证了形式化编译不保证原证明正确，确立了消歧不可计算性理论，并揭示了 OpenAI 爆破证明中的具体脱节。
摘要立场白皮书：主张把过程表示列为使用条件，并建议十年做数据、标准与安全研究。
摘要作者主张以智能体经济管理自主科学发现的验证资源、信用、问责与安全，而非只提升推理。
作者把高自主 AI scientist 的规模化协调写成经济与制度问题：假设生成变便宜之后，要分配的是稀缺验证资源，并处理信用、问责和恶意使用。
- 其他arXiv 2609.28137
研究：EdTech 平台将隐私与 AI 披露推迟到产品后期
访谈并审计 EdTech 平台如何推迟隐私与 AI 披露
- arXiv
- 2609.28137
- 发表
- 层
- 应用层
- 场景
- LLM 应用
摘要强制采用下的隐私推迟循环，使收集披露强于 AI 治理与问责。
EdTech 里的学生隐私常被推迟，而不是设计时的部署条件。作者要解释组织内部为何如此，以及公开政策是否呈现同样结构。
摘要立场论文主张把监督者的认知需求当作与智能体能力同等的设计约束。
Mitchell、Ghosh 与 Passi 的立场论文认为：人被留在回路中，并不会自动产生有效监督。
摘要记忆使部分作品可以从权重中提取。
Lemley 与 Cooper 认为，生成式模型的权重是否构成受保护作品的版权法“副本”，取决于该作品能否被直接了当地从输出中提取。。
已经到底了