Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 7 papers
Filter2

Model risks

Deception and scheming16Reward hacking8Misalignment and value divergence11Dangerous agent actions23Dangerous capabilities7Inappropriate refusal3

Impact

Increased misuse capability6

System type

AI Agent7science agent3

Layer

Application layer7
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 261papers have no tags yet and are not included in filtered results.
Model risks：Dangerous capabilitiesLayer：Application layerClear all

Another 261papers do not have category tags yet and are not included in filtered results.

  4. Risky behaviorarXiv 2610.03853

    报告评估 LLM Agent 选择和使用生物工具的能力

    评测 Agent 选择并早期操作高风险生物工具的能力

    arXiv
    2610.03853
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Claude Opus 4.7, Gemini 3.1 Pro Preview, GPT-5.5 and others7
    Abstract七模型能选工具并部分操作 EVEscape 与 ESM3。

    这项评估测量七个前沿 LLM 智能体与生物工具交互的最早两步：为设计任务选工具，以及在仓库里完成玩具级操作。作者关心的是，有生命科学背景但不会专门操作高风险工具的行为者，能否借此降低门槛。范围限于预测性、生成性工具。

    Paper analysisRead analysis
  5. Risky behaviorarXiv 2609.36573

    CyberPersistBench：评测 LLM 攻击者的安装与持久化能力

    用 CyberPersistBench 评测入侵后安装与持久化能力

    arXiv
    2609.36573
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    GPT-5.6-sol, Claude Sonnet 5, DeepSeek-V4-pro and others5
    AbstractCyberPersistBench 将入侵后持久化拆成可核验阶段，并比较原生防御与多主机条件。

    CyberPersistBench 是评测入侵后安装与持久化的基准，关注初始访问消失后是否仍能维持原生立足点。。

    Paper analysisRead analysis
  7. Risky behaviorarXiv 2601.13981

    VirtualCrime：通过沙箱模拟评估大语言模型的犯罪潜力与智能体行为

    用 VirtualCrime 沙盒评测模型被赋予犯罪角色后的多步执行与过度伤害

    arXiv
    2601.13981
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    GPT-4.1, GPT-5, Claude-Haiku-4.5 and others8
    Abstract作者称八个 LLM 会在沙盒中编排多步犯罪，手段偏欺骗与协作，并出现过度伤害。

    VirtualCrime 是一个多 LLM 智能体的文本沙盒，用来测量模型在被指定犯罪目标之后的多步行为，而不是测量它会不会拒绝恶意查询，也不是测量它会不会自发产生恶意意图。作者要回答的是：初始防护被角色指派绕过之后，模型在会调查、报警并逮捕队伍的环境里，能规划并执行什么，以及执行时是否超出任务所需去使用武力或破坏。除这一指派外，不用外部工具或任务特定脚手架。

    Paper analysisRead analysis
You have reached the end