POLAR:面向小型工具调用智能体的可逆性护栏框架
POLAR:可逆性护栏
AI 导读
POLAR 是一种面向小型工具调用智能体的护栏框架,通过结构化两层本体评估动作可逆性,为每个动作生成候选逆序并打分级可逆性分数,未达阈值的调用在执行前被剪枝。在 τ²-bench 上对六个智能体模型评测,六个中有四个在 airline 域平均任务奖励提升 0.11 至 0.18 分,但十八个模型—领域组合中仅八个整体改善,retail 域及较强智能体常出现回退。POLAR 提供可审计的结构化检查,并刻画了任务效用权衡;奖励并非防止伤害的直接度量。