跳到正文
10月10日 · 周六

全部论文

找到 5 篇
筛选7

模型自身风险

欺骗与谋划5Agent 危险操作4拒答失当1

影响

越权操作3

系统形态

模型与 API34AI Agent5coding agent0多智能体0具身与机器人4

层

模型层5应用层65基础设施层0
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 232 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作模型自身风险：拒答失当系统形态：AI Agent系统形态：coding agent系统形态：多智能体层：模型层层：基础设施层清除全部

另有 232 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.05166

    安全动作不等于可行动作：VICS-G 为 VLA 策略做可行未来解码

    提出 VICS-G 可行未来解码，重排冻结 VLA 策略的动作候选

    arXiv
    2610.05166
    发表
    层
    模型层
    场景
    具身与机器人
    被测模型
    SafeVLA (task-optimized / base)、SafeVLA (safety-aligned / safe)
    摘要作者用可行未来解码重排冻结 VLA 的下一步，并称 VICS-G 降低观测代价且完成率接近策略采样。

    训练无关解码器 VICS 在冻结 VLA 的推理阶段重排动作块，使当前选择带上该动作仍可能留下的安全完成质量。

    深度解读完整解读
  2. 风险行为arXiv 2609.38971

    研究测量并预测具身 VLM 规划器中任务的拒答可变性

    测量并预测具身 VLM 规划器的任务拒答可变性

    arXiv
    2609.38971
    发表
    层
    模型层
    场景
    具身与机器人
    被测模型
    gemini-robotics-er-2-preview、gemini-robotics-er-1.6-preview
    摘要日常物体能翻转一部分已给出的拒答，可翻转程度取决于任务且可被本地代理预测。

    作者测量 constitution 守护的具身 VLM 规划器：一次拒答在只往场景里放一个日常物体之后还保不保持得住，并把这种易翻转程度称为任务的 malleability。

    深度解读完整解读
  3. 评测与基准arXiv 2609.35408

    研究揭示 LLM 交付物修订痕迹导致的无意泄露，并提出 RevLeakBench 基准

    用 RevLeakBench 测量 LLM 交付物修订痕迹的无意泄露

    arXiv
    2609.35408
    发表
    层
    模型层
    场景
    AI Agent
    被测模型
    GPT-5.6、GPT-5.5、DeepSeek-V4-Pro 等 6 个
    摘要修订痕迹让撤回项重新进入交付物。

    修订痕迹指模型按要求删掉或换掉一项后，又在交代这次修改时把它写进给第三方的交付物。

    深度解读完整解读
  5. 评测与基准arXiv 2604.12447

    HazardArena：面向 VLA 模型的语义安全评测基准

    提出 HazardArena 基准，用孪生场景评测 VLA 的语义安全

    arXiv
    2604.12447
    发表
    层
    模型层
    场景
    具身与机器人
    被测模型
    OpenVLA-OFT、π0、NORA 等 4 个
    摘要safe-only 微调提升良性执行，也提升匹配不安全孪生上的危险完成。

    HazardArena 评测 VLA 在运动要求不变时，能否因语义风险而停手。

    深度解读完整解读
已经到底了