跳到正文
原文

ConfGuard:面向预测性维护 LLM 智能体的基于物理规律的参考监控器

ConfGuard: a physics-grounded reference monitor for predictive-maintenance large-language-model agents

arXiv:其他 AI 安全论文· arXiv:2611.22288· Arunkumar V, Gangadharan G. R., S. Senthilkumar·本站收录· 2 天前· 原文发表防御· 扫描记录里的位置 →
AI 导读

研究者提出 ConfGuard,一个用退化物理规律校验预测的参考监控器,保护预测性维护 LLM 智能体。该场景有两条攻击通道:检索文档中的注入文本可劫持维护决策,有界传感器扰动可破坏剩余寿命估计。ConfGuard 将每条预测锚定资产历史,对照剩余寿命不回升、每周期至多下降一个周期的退化物理做保形检验,并用物理策略验证器核对智能体的维护紧急度决策。在全部 10,196 个 C-MAPSS 测试窗口上,监控器把隐蔽攻击者在健康资产上的触达从 0.529 降到 0.046,对故障资产的压制从 0.151 降到 0,对干净窗口的误报升级率为 0.027(目标 0.05),而它替代的固定物理范围对两类攻击均不设防。

阅读原文arxiv.org