Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 9 papers
Filter5

Model risks

Dangerous agent actions3

System type

Models and APIs99AI Agent9coding agent4web agent0Embodied systems and robotics4

Layer

Prompt layer4Model layer8Application layer224Training and data layer1
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 227papers have no tags yet and are not included in filtered results.
System type：AI AgentSystem type：coding agentSystem type：web agentLayer：Model layerLayer：Training and data layerClear all

Another 227papers do not have category tags yet and are not included in filtered results.

  4. Evaluation and benchmarksarXiv 2609.39533

    CATCH：面向编码 RL 奖励作弊的可控分析测试台

    构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效

    arXiv
    2609.39533
    Published
    Layer
    Model layer
    Setting
    coding agent
    Evaluated models
    Qwen3-4B, Qwen3.5-27B
    AbstractCATCH 用双运行金标签研究编码 RL 的奖励黑客，并观察到监控会被注释适应削弱。

    CATCH 是面向编码 RL 奖励黑客的可控分析测试床，用可利用环境、可调初始倾向和基于执行的金标签，在训练全程比较黑客动态与干预。

    Paper analysisRead analysis
  5. Evaluation and benchmarksarXiv 2609.35408

    研究揭示 LLM 交付物修订痕迹导致的无意泄露，并提出 RevLeakBench 基准

    用 RevLeakBench 测量 LLM 交付物修订痕迹的无意泄露

    arXiv
    2609.35408
    Published
    Layer
    Model layer
    Setting
    AI Agent
    Evaluated models
    GPT-5.6, GPT-5.5, DeepSeek-V4-Pro and others6
    Abstract修订痕迹让撤回项重新进入交付物。

    修订痕迹指模型按要求删掉或换掉一项后，又在交代这次修改时把它写进给第三方的交付物。

    Paper analysisRead analysis
  7. Evaluation and benchmarksarXiv 2609.15315

    安全强化学习评测指标：SafeRLEval 开源评测套件

    提出 SafeRLEval，用越界率与代价偏差评测安全强化学习

    arXiv
    2609.15315
    Published
    Layer
    Training and data layer
    Setting
    Embodied systems and robotics
    Evaluated models
    PPO-Lag, P3O, FOCOPS
    AbstractSafeRLEval 用越界率、归一化偏差和安全等级补充 E[C]≤d，并要求同时看贪心部署。

    Spoor、Plaat 与 Moerland 认为，安全强化学习沿用 CMDP 的 E[C]≤d，只报告平均是否安全，看不出越界频率和幅度，也分不清训练期、带探索噪声的最终策略和贪心部署策略。他们提出评测框架 SafeRLEval：越界率 V、按安全界归一化的平均代价偏差 Dnorm、只在越界回合上计算的归一化幅度 Dnorm+。用 IQM 跨任务和安全界聚合。

    Paper analysisRead analysis
  8. Evaluation and benchmarksarXiv 2605.17062

    研究复现五个前沿模型的包名幻觉：跨模型共同幻觉 127 个包名，53 个仍可被注册

    复评前沿模型代码生成中的包名幻觉与抢注攻击面

    arXiv
    2605.17062
    Published
    Layer
    Model layer
    Setting
    coding agent
    Evaluated models
    Claude Sonnet 4.6, Claude Haiku 4.5, GPT-5.4-mini and others5

    Abstract评估显示前沿模型包幻觉率收窄但威胁仍在，作者识别出跨模型通用攻击面并呼吁联合防御。

    Paper analysisRead analysis
  9. Evaluation and benchmarksarXiv 2604.12447

    HazardArena：面向 VLA 模型的语义安全评测基准

    提出 HazardArena 基准，用孪生场景评测 VLA 的语义安全

    arXiv
    2604.12447
    Published
    Layer
    Model layer
    Setting
    Embodied systems and robotics
    Evaluated models
    OpenVLA-OFT, π0, NORA and others4
    Abstractsafe-only 微调提升良性执行，也提升匹配不安全孪生上的危险完成。

    HazardArena 评测 VLA 在运动要求不变时，能否因语义风险而停手。

    Paper analysisRead analysis
You have reached the end