IS-Bench：评估 VLM 驱动的具身智能体在日常家务任务中的交互安全
[Daily Paper] IS-Bench: Evaluating Interactive Safety of VLM-Driven Embodied Agents in Daily Household Tasks
AI summary
IS-Bench 是评估 VLM 驱动具身智能体交互安全的基准，覆盖 161 个场景、388 项安全风险，测试显示 GPT-4o、Gemini-2.5 等前沿模型在任务执行中难以自发识别并缓解动态出现的危险。该基准按任务序列设置安全关键检查点，要求模型在风险步骤前后采取正确的缓解动作，而不只是识别危险。加入安全提示后，模型的危险识别改善，但任务完成度下降，表现为过度谨慎和拒绝执行。作者认为交互安全是家用机器人部署的关键门槛，静态危险识别必要但远不充分。