事件观察中
ArmedAgent基准评估编码Agent控制机械臂的安全风险
先了解这件事
AI 综述
研究者提出ArmedAgent基准，用于系统评估编码智能体零样本、端到端控制真实机械臂的安全风险，并在多个前沿模型上发现显著安全隐患。作者称这是首个针对该问题的系统性基准。基准覆盖鲁棒性、恶意使用与间接注入三类风险，设5个场景共36个任务，在仿真中评测并在实体机械臂上验证。论文指出，前沿模型的广泛知识让智能体能完成早期VLA和WAM范式做不到的任务，带来新的能力滥用空间；编码智能体可访问网页、邮件等数字资源，其中的间接提示注入等威胁会随机械臂控制进入物理世界。测试在常用智能体框架下进行，涵盖GPT-6-Astra等多个前沿模型。
AI 根据报道生成 · 2 天前更新
走势与进展
每小时关注度
现在 35，24 小时 -1%·峰值 38（11月10日 22:00）
11月11日11月12日11月13日现在 35
相关研究
这件事的论文
- 当编码智能体装上机械臂：跨越数字与物理边界的安全风险
arXiv · 2026-11-08 · 深度解读
后续时间线
11月8日
- arXiv：越狱、提示注入、投毒与防御当编码智能体装上机械臂：跨越数字与物理边界的安全风险
研究者提出 ArmedAgent 基准，系统评估编码智能体零样本、端到端控制真实机械臂的安全风险，在多个前沿模型上发现当前系统存在显著安全隐患。作者称这是首个针对该问题的系统性基准。基准覆盖鲁棒性、恶意使用与间接注入三类风险，设 5 个场景共 36 个任务，在仿真中评测并在实体机械臂上验证，其中部分任务专门针对早期 VLA 范式无法完成的有害行为。论文指出两类新挑战：前沿模型的广泛知识让智能体能完成早期 VLA 和 WAM 范式做不到的任务，带来新的能力滥用空间；编码智能体可访问网页、邮件等数字资源，其中的间接提示注入等威胁会随机械臂控制进入物理世界。测试在常用智能体框架下进行，涵盖 GPT-6-Astra 等多个前沿模型。
相关讨论
关注度走势
每天新增来源
- 11月10日新增1个来源（1家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）