智谱 · GLM · 论文

用内部表征监控与发现 LLM 评测中的奖励作弊

提出 DoM 激活探针，监控并发现评测中的奖励作弊

• 监控与审计
• 奖励作弊
• 监控器

LeakGauge：用行为探针在解码前检测上下文泄露攻击信号

AI 导读研究者提出 LeakGauge，通过在输入后附加一个探测后缀并映射其 prefill token 概率，在解码前给出上下文泄露的攻击风险分数。

SED：面向 LLM 智能体的免训练持续安全策略学习框架

SED 将有害智能体轨迹蒸馏成可检索安全策略，不更新权重。

MATE：面向移动 Agent 的策略感知安全审计方法

AI 导读研究者提出 MATE，一个轻量的策略条件审计器，同时编码 Agent 轨迹与自然语言安全策略，判断轨迹是否违反给定策略并给出原因。