跳到正文
原文

GateWatch:用布尔电路实现低开销 LLM 监控

GateWatch: Low-Overhead LLM Monitoring with Boolean Circuits

arXiv:其他 AI 安全论文· arXiv:2611.24619· Firas Spanioli, Yaniv David·本站收录· 13 小时前· 原文发表对齐· 扫描记录里的位置 →
AI 导读

研究者提出 GateWatch,一种把整个决策规则表达为少量二值化 SAE 特征上显式布尔逻辑的紧凑可解释分类器,用于监控 LLM 及基于 LLM 的智能体以发现不安全行为。论文探索了在给定门预算下构建这些电路的三种方法,并配套 GateWatchServe 系统,只计算被选中的 SAE 特征、在推理时跨层流式传输其二值取值,并用紧凑查找表并行评估多个分类器。在 Gemma-2-9B 的 24 个任务上,GateWatch 平均每个探针仅用 3.8 个 SAE 特征和 3.5 个逻辑门就达到 80.49% 的平均测试准确率,比全量 16K 特征 SAE 探针低 1.17 个百分点,在 10 个任务上持平或更优,探针内存减少 99.98%。

阅读原文arxiv.org