跳到正文
原文

针对 LLM 控制社交机器人的网络暴露配置攻击

Network-Exposed Configuration Attacks on LLM-Controlled Social Robots

arXiv:其他 AI 安全论文· arXiv:2611.22761· Stanley Akingbola, Ugbede Ibrahim, Yan Lin Aung, Quang Dan Le, Hong Qing Yu·本站收录· 2 天前· 原文发表攻击· 扫描记录里的位置 →
AI 导读

研究者在 Pollen Robotics Reachy Mini Lite 机器人上演示网络暴露配置攻击:未认证攻击者无需对抗性对话输入,即可通过管理接口替换人格设置和云端 LLM 的系统提示词,并在实体硬件上引发可观察的行为改变。论文称跨五类的 11 次提示注入尝试均被抵御,而两条配置层攻击路径均得手。攻击支持本地和网络邻近访问,对应 CWE-306 和 CWE-1327,CVSS v3.1 评分 6.5(中危),配置端点还存在无 CORS 预检的跨域问题。对 59 个公开仓库的审查发现 11 个可验证源码的真实应用中 10 个缺失认证,计入框架默认情形则为 11 个,作者称这表明问题在抽样仓库中重复出现,而非在商业产品中普遍存在。论文指出推理层拒答无法阻止对模型指令的未授权更改,潜在后果包括通过机载摄像头和麦克风监控以及对附近用户的社会工程。

阅读原文arxiv.org