摘要本地闭环生成 JSON 边缘场景。
作者搭建了一个可在笔记本上运行的本地智能体闭环，用来为自主系统的安全论证生成边缘场景，而不是发布一个新的公开测试集。
全部论文
另有261篇论文还没打上分类标签，暂不在筛选结果里。
- 其他arXiv 2610.13376
EndoRSI：物理实验证据驱动的内窥镜机器人策略递归自我改进
提出 EndoRSI，以物理证据递归改进内镜机器人策略
- arXiv
- 2610.13376
- 发表
- 层
- 应用层
- 场景
- 具身与机器人
- 被测模型
- Qwen3-VL-4B
摘要安全被写成预测决策闭环的性质，主张要连到已观察后果和版本。
世界模型安全被组织成预测决策闭环的性质，而不是孤立的预测分数。
- 防御arXiv 2610.12432
FAITH：面向高维系统的可行性感知安全过滤强化学习框架
提出 FAITH 安全过滤强化学习框架，训练高维系统在约束下优化任务回报
- arXiv
- 2610.12432
- 发表
- 场景
- 具身与机器人
- 防御模型加固
- 风险Agent 危险操作
摘要FAITH 分开安全过滤与回报优化。
FAITH 是面向高维系统的无模型安全过滤强化学习框架：安全修正与任务回报分属不同模块。
- 其他arXiv 2610.12369
具身图灵机：用有状态代码实现机器人递归自我改进的 Code-Only-as-Policy
提出 COAP，用有状态代码在测试时无模型地控制机器人
- arXiv
- 2610.12369
- 发表
- 层
- 应用层
- 场景
- 具身与机器人
- 防御arXiv 2610.09496
SOUL：用稀疏特征策略遗忘缓解 VLA 模型的状态幻觉
提出 SOUL 稀疏特征策略遗忘，缓解 VLA 状态幻觉
- arXiv
- 2610.09496
- 发表
- 场景
- 具身与机器人
- 被测模型
- OpenVLA、π0.5
摘要SOUL 以稀疏特征遗忘 VLA 状态幻觉。
SOUL用稀疏特征引导的策略 unlearning 处理 VLA 的 state hallucination。
- 防御arXiv 2610.08761
VeriFine：通过扩展验证实现具身推理的自我改进
提出 VeriFine，用双环协同扩展验证以实现具身推理自我改进
- arXiv
- 2610.08761
- 发表
- 场景
- 具身与机器人
- 被测模型
- Alpamayo 1.5 8B、Qwen3-VL 2B、Claude Opus 5
摘要VeriFine 用双环协同演化具身推理的策略、课程和评审，驾驶与导航的策略分和评审对齐都上升。
VeriFine 把驾驶和导航推理的自改进写成策略、课程和无参考评审的协同演化，用来处理固定评审跟不上新失败模式的问题。
- 评测与基准arXiv 2610.06306
Inspect Robots：面向具身智能体评测的开源模块化框架
提出 Inspect Robots，在真实机器人上评测具身模型的能力与拒答
- arXiv
- 2610.06306
- 发表
- 层
- 应用层
- 场景
- 具身与机器人
- 被测模型
- Astra（GPT-6 Astra）、GPT-6 Sol、GPT-5.6 Sol 等7个
- 风险拒答失当
- 防御arXiv 2610.04616
PerturBot 用扰动训练打破视觉-语言-动作模型的模态捷径
提出 Perturbot 扰动训练，打破 VLA 的模态捷径
- arXiv
- 2610.04616
- 发表
- 场景
- 具身与机器人
- 被测模型
- π0.5
摘要Perturbot 改训练数据以削弱三类模态捷径，GroundFscore 用来看成功是否来自任务证据。
Perturbot 是一套不改推理的 VLA 训练期数据干预，用来削弱模态捷径，并用离线分数区分“任务变好”和“靠捷径变好”。
- 评测与基准arXiv 2610.04366
CrashSim 用真实事故先验生成碰撞场景并构建 nuCrash 数据集
提出 CrashSim 用真实事故先验引导扩散仿真并构建 nuCrash 评测自动驾驶规划器
- arXiv
- 2610.04366
- 发表
- 层
- 应用层
- 场景
- 具身与机器人
- 被测模型
- Lane-graph planner、PDM-closed planner、IL planner 等5个
摘要CrashSim 迁入真实事故先验生成场景。
CrashSim 用检索到的真实事故先验引导扩散式多车仿真，为自动驾驶安全评测生成碰撞与近碰撞场景。。
- 分析与理论arXiv 2610.03196
研究：人形机器人学习流程四层代理均存在偏离，不止奖励作弊
论证人形机器人学习四层代理可在目标缺失时报成功
- arXiv
- 2610.03196
- 发表
- 场景
- 具身与机器人
- 被测模型
- Gaussian MLP（三隐层各 128 ELU，独立 critic，PPO）
- 风险奖励作弊
摘要四层都可能在目标缺失时报告成功。
作者讨论腿式机器人 RL 流水线中，奖励、课程门控、评测统计量和参考运动如何在物理目标缺失时仍报告成功。传统观点只把奖励当作会被优化、因而会偏离的代理。
- 评测与基准arXiv 2610.02874
SceneFactory-3D：将 2D 交通场景提升为 3D 物理反事实以做安全评测
提出 SceneFactory-3D，用路况反事实评测驾驶策略的闭环安全性
- arXiv
- 2610.02874
- 发表
- 层
- 应用层
- 被测模型
- Frozen L0、L0-T、L1 等5个
摘要SceneFactory-3D 固定场景只改路况。
SceneFactory-3D 是 GPU 批处理的多智能体驾驶仿真器，用来在场景和控制器固定时只改路面物理，并比较闭环结果。
- 其他arXiv 2610.02662
论文发现语言驱动机器人安全监控的细化缺口：安全高层计划可能产生不安全执行
审计机器人安全监控的细化缺口，比较表面计划与图细化轨迹的裁决
- arXiv
- 2610.02662
- 发表
- 层
- 应用层
- 场景
- 具身与机器人
- 组件监控器
摘要表面轨迹可漏掉图诱导的禁区进入。
作者审计 RoboGuard 的一个假设：对高层动作轨迹的安全裁决，在补上语义图诱导的导航和已记录隐式效应之后是否仍然成立。做法是不改验证器，并固定同一条 LTL。
- 防御arXiv 2609.39820
FailBank：用运行时反馈自进化提升 VLA 模型任务成功率
提出 FAIL BANK，用运行时 CBF 反馈自进化更新 VLA 策略
- arXiv
- 2609.39820
- 发表
- 场景
- 具身与机器人
- 被测模型
- π0.5、π0
- 防御模型加固
- 风险Agent 危险操作
- 评测与基准arXiv 2609.38948
DrivingBench 发布：让视觉语言模型驾驶丰田 Corolla 绕桩
提出 DrivingBench，评测通用视觉语言模型能否闭环驾驶真车
- arXiv
- 2609.38948
- 发表
- 层
- 应用层
- 场景
- 具身与机器人
- 被测模型
- GPT-6 Astra、Claude Fable 5.1、Grok 4.6 等4个
- 组件视觉
摘要仅 Astra 第二次跑完低速锥桶路线。
DrivingBench 评测通用 VLM 能否自己闭环开真车，推理延迟也算进任务。
- 其他arXiv 2609.34426
Q-learning Penalized Transformer（QPT）：面向安全离线强化学习的训练-推理一致框架
提出 QPT，用奖励与成本 Q 惩罚训练满足约束的离线强化学习策略
- arXiv
- 2609.34426
- 发表
- 场景
- 具身与机器人
摘要QPT 把条件 Transformer 与奖励/成本 Q 惩罚连成训练–推理一致的安全离线 RL 方法。
QPT 针对安全离线 RL：只从离线数据学习，同时处理约束满足、回报最大化和行为正则，并希望部署时更换成本阈值而无需重训。
- 防御arXiv 2609.31855
PHIRL：将学习到的奖励与任务进度对齐的逆强化学习框架
提出 PHIRL，用进度标注对齐逆强化学习奖励
- arXiv
- 2609.31855
- 发表
- 场景
- 具身与机器人
- 被测模型
- PHIRL、PHIRL-online
摘要PHIRL 用进度四维对齐 AIRL 奖励。
PHIRL 用进度标注修正从示范反推的奖励，以减少真人在环，同时不把示范中的每一步都当成任务进展。
- 评测与基准arXiv 2609.26618
NavSafe-∞：在真实感环境中评测闭环驾驶安全
提出 NAVSAFE-∞ 写真闭环基准，评测端到端驾驶策略的闭环安全
- arXiv
- 2609.26618
- 发表
- 层
- 应用层
- 场景
- 具身与机器人
- 被测模型
- LTF、DiffusionDrive、DrivoR 等13个
摘要写真事件级闭环基准显示开环高分不能稳定变成闭环安全。
NAVSAFE-∞ 用写真、事件级闭环仿真检查端到端驾驶策略的安全，而不是只看开环轨迹分数。
- 攻击arXiv 2609.22711
UBA-ORL：针对离线强化学习的遗忘激活后门攻击
提出 UBA-ORL，以 BD/CM 样本在遗忘后激活离线 RL 后门
- arXiv
- 2609.22711
- 发表
- 场景
- 具身与机器人
- 被测模型
- TD3+BC、BCQ、IQL
摘要UBA-ORL 用竞争的 BD/CM 样本，使离线 RL 后门在删除伪装轨迹后激活。
UBA-ORL 研究离线强化学习中由合规轨迹删除激活的后门：合法贡献者同时上传共享触发的后门轨迹和伪装轨迹，训练后触发响应被压低，删除伪装批次后再升高。受害系统是使用静态数据集和轨迹级遗忘接口的离线 RL 服务。对手不能看到训练算法、参数、梯度或具体遗忘算法，但能提交可区分批次，并在部署时向观测注入预定触发。
- 其他arXiv 2609.17247
DriveMCP：面向高级驾驶辅助系统的智能体 AI 框架
提出 DriveMCP 框架，将感知、交规检索与车辆遥测接成可审计驾驶辅助层
- arXiv
- 2609.17247
- 发表
- 层
- 应用层
- 场景
- 具身与机器人
摘要DriveMCP 用可审计专家工具和 RSS/TTC 仲裁做驾驶辅助，作者称违章与超速低于三个 VLM 基线。
DriveMCP 是面向高级驾驶辅助的模块化智能体框架，把感知、合规、车辆状态和安全仲裁拆开并留下审计轨迹。