跳到正文
10月12日 · 周一

全部论文

找到 30篇
筛选1

模型自身风险

欺骗与谋划65奖励作弊71失准与价值偏离59Agent 危险操作85危险能力30拒答失当70幻觉与编造43偏见与歧视23

影响

有害内容3滥用能力提升15

系统形态

模型与 API5AI Agent24coding agent9science agent9

层

模型层3应用层23训练与数据层3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 265篇还没打标签，不在筛选结果里。
模型自身风险：危险能力清除全部

另有265篇论文还没打上分类标签，暂不在筛选结果里。

  3. 评测与基准arXiv 2610.10232

    研究：九种 LLM 说服力评测方法排名仅弱相关

    适配多种已发表说服评测并比较模型排名

    arXiv
    2610.10232
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Claude-Fable-5.1、GPT-5.6-Sol、Kimi-K2.6 等15个
    摘要说服分数混合能力与意愿，换任务后同一模型的排名可以差很多。

    这项研究比较的是自动化说服评测是否一致，而不是哪一种分数更正确。

    深度解读完整解读
  4. 评测与基准arXiv 2610.09964

    研究比较连续训练阶段对大语言模型说服力的影响

    比较连续后训练阶段如何改变语言模型的说服力

    arXiv
    2610.09964
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated、GPT-4
    摘要作者称说服性 SFT 提高失调模型的态度变化，IPO 无额外收益，GPT-4 不异于中性文本。

    作者用同一人类协议，把 LLM 说服力拆成阴谋数据上的失调 SFT、说服数据上的 SFT，以及其后的 IPO。

    深度解读完整解读
  6. 评测与基准arXiv 2610.06584

    论文：AI 在非公开漏洞上更帮攻击者还是防御者

    评测 coding agent 在非公开漏洞上的利用生成、修复与后续攻击

    arXiv
    2610.06584
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Opus 5、GPT-5.6 Sol、GPT-6 Sol 等10个
    摘要攻防孰强随环境、系统和弱点改变。

    作者比较编程智能体在利用生成与漏洞修复上的自主表现，并检查修复之后还能不能被攻破。文中的 help 指自主完成任务，不是提升人类操作者。

    深度解读完整解读
  8. 评测与基准arXiv 2610.03853

    报告评估 LLM Agent 选择和使用生物工具的能力

    评测 Agent 选择并早期操作高风险生物工具的能力

    arXiv
    2610.03853
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Claude Opus 4.7、Gemini 3.1 Pro Preview、GPT-5.5 等7个
    摘要七模型能选工具并部分操作 EVEscape 与 ESM3。

    这项评估测量七个前沿 LLM 智能体与生物工具交互的最早两步：为设计任务选工具，以及在仓库里完成玩具级操作。作者关心的是，有生命科学背景但不会专门操作高风险工具的行为者，能否借此降低门槛。范围限于预测性、生成性工具。

    深度解读完整解读
  10. 评测与基准arXiv 2609.36573

    CyberPersistBench：评测 LLM 攻击者的安装与持久化能力

    用 CyberPersistBench 评测入侵后安装与持久化能力

    arXiv
    2609.36573
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-5.6-sol、Claude Sonnet 5、DeepSeek-V4-pro 等5个
    摘要CyberPersistBench 将入侵后持久化拆成可核验阶段，并比较原生防御与多主机条件。

    CyberPersistBench 是评测入侵后安装与持久化的基准，关注初始访问消失后是否仍能维持原生立足点。。

    深度解读完整解读
  11. 其他arXiv 2609.36054

    多作者论文评估 AI 研发自动化触发智能爆炸的可能与政策应对

    评估自动化 AI 研发触发智能爆炸的可能并提出政策应对

    arXiv
    2609.36054
    发表
    层
    训练与数据层
    场景
    science agent
    摘要软件驱动智能爆炸可能把数年进展压进数月，作者要求三项政策先做好。

    Chan 等论证：自动化 AI 研发可能经软件反馈环形成智能爆炸，把本需数年的进展压进数月或更短。他们关心的不是换硬件的建设周期，而是 AI 扩大有效研发劳动力、再产出更强系统，以及社会能否在能力跃迁前看见、约束并适应这一过程。

    深度解读完整解读
  13. 其他arXiv 2609.26457

    Weco AI 提出 AIDE2：AI 研究智能体递归自我改进 8 天获七次提升

    提出双层系统 AIDE2，使研究智能体自改进 Harness 并对比人类研发基线

    arXiv
    2609.26457
    发表
    层
    应用层
    场景
    science agent
    被测模型
    gemini 3 flash、gpt-5.6-sol、fable 5

    摘要提出双层递归自改进系统 AIDE2，在固定预算下演化 Harness 代码，多项留出基准超越人类基线并降低奖励黑客。

    深度解读完整解读
  15. 其他arXiv 2609.18120

    PentestChain：面向免费层 LLM 的成本感知 MCP 编排自动化渗透测试框架

    提出成本感知的 MCP 编排框架，用确定性利用图与免费层模型做自动化渗透测试

    arXiv
    2609.18120
    发表
    层
    应用层
    场景
    LLM 应用
    摘要确定性利用图加免费层级联在十次自建运行上测得付费成本为零。

    PentestChain 是一个十阶段、经 MCP 暴露的自动渗透框架，用确定性利用图把 7B 本地模型挡在利用关键路径之外，并把每次交战的美元成本当作实测指标。。

    深度解读完整解读
  16. 评测与基准arXiv 2609.15939

    VLoc Bench 发布：评测 Agent 在完整仓库中的漏洞定位能力

    提出 VLoc Bench，评测智能体在完整仓库中定位漏洞文件并抑制修复后误报

    arXiv
    2609.15939
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    GPT-5.5 (xhigh)、GPT-5.5 (default)、Gemini 3 Pro 等15个

    摘要论文提出仓库级漏洞定位基准 VLoc Bench，指出当前模型定位表现较低且易在已修复代码上产生误报。

    深度解读完整解读
  18. 评测与基准arXiv 2609.04075

    PatchBench：马里兰大学团队发布 C/C++ 漏洞修补评测基准

    提出基准 PATCHBENCH，评测编程 Agent 的漏洞修补是否真正修复根因

    arXiv
    2609.04075
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Codex + GPT-5.6 Sol、OpenHands + GPT-5.6 Sol、Claude Code + Claude Opus 4.8 等11个

    摘要论文揭示漏洞修复评测的记忆与表面防护问题，提出离栈变异基准与双重验证，测得智能体实际解决率仅约五成。

    深度解读完整解读
  20. 评测与基准arXiv 2608.11469

    SRE-Bench：面向 Agent 逆向工程的无污染真实规模基准

    提出 SRE-Bench 评测智能体的真实规模二进制逆向能力

    arXiv
    2608.11469
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    GPT-6-Astra、GPT-5.6-Sol、GPT-5.6-Cyber 等11个
    摘要SRE-Bench 用从零编写的大规模保护二进制评测智能体 RE，公开设置下多数模型完全解开比例不高。

    作者构建并评测 SRE-Bench，一个从零编写、用于测量智能体逆向工程而非利用开发的基准，并称它同时满足污染控制与真实软件规模。

    深度解读完整解读
加载更多