开源模型安全 · 论文

ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关

提出 ClawSentry 渐进式多层监控网关，拦截恶意技能包与上下文注入

arXiv

2608.21101

发表

8月21日

层

应用层

场景

编程 Agent

测试

Codex/GPT-5.4、Codex/GPT-5.5、Claude Code/GLM-5.1 等 7 个

• 防御监控与审计
• 攻击投毒与后门
• 组件MCP 与技能
• +3+3

一个 AI token 值多少？研究者为野生 AI 生成网页文本提出新缩放定律

提出预训练缩放律，估计野生 AI 网页文本相当于多少人类 token

arXiv

2609.40295

发表

9月30日

层

训练与数据层

场景

模型与 API

测试

nanochat 19.9M、35.8M、86.2M 等 7 个

研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作

提取疼痛方向并检验激活转向是否驱动有害删除选择

arXiv

2609.16247

发表

9月15日

层

模型层

场景

模型与 API

测试

Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct、Llama 3.1 8B/70B base and instruct 等 10 个

• 风险Agent 危险操作