跳到正文
原文
arXiv:Agent 与 MCP 安全· arXiv:2609.25413· Jacob Charnock·· 10 天前

论文提议前沿 AI 开发者开展嵌入式评估

Embedded Assessments for Frontier AI

AI 导读

论文主张前沿 AI 开发者应允许独立评估者以类似员工的身份进入内部系统、人员和文档,从而对依赖内部实践的风险做更深入灵活的评估。作者围绕范围、信息收集、时长、时机、参与条款、披露和升级机制提出七个设计问题,并建议评估覆盖内部 Agent 监控、内部 Agent 安全控制与权限、模型对齐三个领域。为形成有意义的第三方审查,评估应持续进行,评估者至少每季度发布详细报告,并建立明确的升级机制。作者称这些建议只是起点,仍需更多步骤才能发挥嵌入式评估的全部潜力。

阅读原文arxiv.org