arXiv· arXiv:2605.02900· Xiao Li, Xiang Zheng, Yifeng Gao, Xinyu Xia, Yixu Wang, Xin Wang, Ye Sun, Yunhan Zhao, Ming Wen, Jiayu Li, Zixing Chen, Xun Gong, Yi Liu, Yige Li, Yutao Wu, Cong Wang, Jun Sun, Yixin Cao, Zhineng Chen, Jingjing Chen, Tao Gui, Qi Zhang, Zuxuan Wu, Xipeng Qiu, Xuanjing Huang, Tiehua Zhang, Zhipeng Wei, Kun Wang, Xinfeng Li, Hanxun Huang, Sarah Erfani, James Bailey, Jianping Wang, Chaowei Xiao, Ran He, Bo Li, Xingjun Ma, Yu-Gang Jiang·本站收录· 原文发表 具身智能安全:风险、攻击与防御综述
Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses
AI 导读
研究者在 arXiv 发布具身智能安全综述,系统梳理了覆盖感知、认知、规划、行动、交互与智能体系统全链路的攻击与防御研究。综述提出统一碎片化研究的多层级分类法,并将其与视觉、语言和多模态基础模型的安全进展相衔接,综合了 500 多篇论文,涉及对抗攻击、后门、越狱和硬件层攻击,以及攻击检测、安全训练、鲁棒推理和风险感知的人机交互。分析揭示了几项被忽视的挑战,包括多模态感知融合的脆弱性、越狱攻击下规划的不稳定性,以及开放场景中人机交互的可信性,并为构建安全可靠的具身智能体提供了研究路线图。
阅读原文arxiv.org