跳到正文
原文
公众号 大模型安全研究·本站收录· 原文发表· 防御 →· 扫描记录里的位置 →

大模型安全周报:别只关注通过率,聚焦边界控制和安全覆盖面

AI 导读

大模型安全周报本周收录 59 篇大模型与智能体安全论文,主线从拦截手段转向运行时控制的覆盖面。guardscope 清点出智能体除工具调用外还有 15 条动作路径,实测微软治理工具包与 agentgateway 均有未覆盖路径;CapLite 发现 15 个开源模型中 13 个自写的安全策略仍可被注入攻破,改由工具模式推导策略后万余次攻击测试无一成功;Lazarus 只改 7 个休眠神经元就在 Nemotron-Terminal-8B 上覆盖 98.8% 触发轨迹;OverServe 用工具与提示词成对设计把 API 请求最多放大 93.88 倍,MCP 扫描器未告警。周报建议把覆盖路径清单写进采购验收,安全策略改由工具 schema 推导,模型权重纳入制品管理,计费侧接入离群检测。

相关论文
阅读原文mp.weixin.qq.com