POLAR:面向小型工具调用智能体的可逆性护栏框架
提出 POLAR 本体门控,在执行前否决不可逆工具调用
- arXiv
- 2610.08082
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- qwen/qwen3-8b、meta-llama/llama-3.1-8b-instruct、nvidia/nemotron-nano-9b-v2 等 6 个
- 防御权限与审批
- 风险Agent 危险操作
- 组件权限与沙箱
摘要训练无关的事前可逆性门控,弱 airline 模型有收益,强模型与 retail 常回落。
POLAR 是训练无关的事前门控,用类型化本体在工具调用执行前检查能否组成候选逆序列。