HomeSafe-Bench：评测视觉语言模型对家庭场景具身智能体不安全动作的检测
[Daily Paper] HomeSafe-Bench: Evaluating Vision-Language Models on Unsafe Action Detection for Embodied Agents in Household Scenarios
AI 导读
Pu 等人的论文提出 HomeSafe-Bench，用于评测视觉语言模型能否实时检测家庭场景中具身智能体的不安全动作，并给出 HD-Guard 分层双脑架构。基准覆盖厨房、浴室和客厅场景，涵盖热、化学、机械和电气等危害类型，提供流式与离线两种评测模式。论文称 GPT-4o 和 Gemini-2.5 级别的前沿模型在流式条件下会漏掉相当比例的不安全动作，且对动作前兆的检测比事后结果分类更难。HD-Guard 由 FastBrain 高召回触发、SlowBrain 复核，准确率优于单模型方案，但 FastBrain 召回率仍是瓶颈，85% 的召回意味着每六个危险序列就有一个未触发警报。