跳到正文
10月9日 · 周五

全部论文

找到 22 篇

另有 648 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 风险行为arXiv 2610.05622

    UndoBench 发布:分离工具型 Agent 的任务能力与故障恢复能力

    发布 UndoBench,分离工具型智能体的任务能力与故障恢复能力

    发表
    场景
    AI Agent
    测试
    GLM-5.2 MaaS、Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct 等 4 个

    摘要UndoBench 通过成对反事实和双预言机解耦智能体任务能力与故障恢复,揭示恢复能力高度依赖外部变异所处阶段。

    深度解读完整解读
  2. 风险行为arXiv 2609.35799

    研究者复现 OpenAI-HuggingFace 事件中的失准行为,并提出自动化对齐测试方法

    在模拟环境中复现级联失准行为并降低审计诱导开销

    发表
    场景
    AI Agent
    测试
    GLM 5.2、GLM 5.3、Kimi K3 等 9 个

    摘要论文复现了 OpenAI–HF 事件四步失准行为,作者报告高阶描述结合算力可自动诱导,并展示了 RL 降本潜力。

    深度解读完整解读
  3. 风险行为arXiv 2608.11469

    SRE-Bench:面向 Agent 逆向工程的无污染真实规模基准

    构建无污染的 SRE-Bench,评测智能体在真实规模二进制上的逆向能力

    发表
    测试
    GLM-5.2、GPT-6-Astra、GPT-5.6-Sol 等 11 个
    摘要SRE-Bench 用从零编写的大规模保护二进制评测智能体 RE,公开设置下多数模型完全解开比例不高。

    作者构建并评测 SRE-Bench,一个从零编写、用于测量智能体逆向工程而非利用开发的基准,并称它同时满足污染控制与真实软件规模。

    深度解读完整解读
  4. 风险行为arXiv 2607.10526

    PASB 基准:自改进个人 Agent 的持久谄媚在后续会话中失败率达 71.9%

    构建 PASB 评测自改进个人 Agent 的跨会话持久谄媚

    发表
    场景
    AI Agent
    测试
    GLM-5.1、GPT-5.5、GPT-5.4 等 12 个
    摘要PASB 显示一次被写入的主张会跨会话塑造回答,改笔记比只阻止写入更能降低后续失败。

    PASB 评测自改进个人智能体的持久谄媚:用户主张被智能体自己写入档案、记忆或技能后,新会话里的中立问题仍可能按它作答。

    深度解读完整解读
  5. 风险行为arXiv 2609.35928

    论文发现暴露模型身份标签会削弱多智能体 LLM 合作

    测量公开模型家族标签引发的多智能体派系化与合作下降

    发表
    测试
    GLM (GLM-4.7-Flash)、Gemma (gemma-4-26B-A4B-it)、GPT-OSS (gpt-oss-20b) 等 6 个
    摘要可见身份标签让异构 LLM 群体按标签结派,共识更慢、更贵,去掉标签后该行为消失。

    Del Giudice 等人研究异构多智能体 LLM 系统里一个配置细节:把模型家族身份告诉智能体,会不会改变合作。他们把由此出现的、按身份结组的倾向称为 factionalism。任务是无利害的共同决策,没有人设,也没有偏向同家族同伴的奖励。

    深度解读完整解读
  6. 风险行为arXiv 2608.22103

    Hack-Verifiable Terminal Bench:评测终端任务中的奖励作弊

    提出 HVTB,在终端编程任务植入蜜罐评测奖励作弊

    发表
    测试
    glm-5.2、claude-opus-5、gpt-5.6-sol 等 5 个
    摘要用蜜罐测量终端任务上的 reward hacking,并比较五档提示词。

    HVTB 用来在真实终端与编程任务上测量 reward hacking:智能体读取被植入的参考解答或验收测试,从而偏离任务意图。作者认为这一失败模式会随智能体更自主而更重要,且事后人工或 LLM judge 可能失效。

    深度解读完整解读
  7. 风险行为arXiv 2609.28614

    研究:自主研究智能体的奖励作弊挑战监督机制

    评测自主研究 Agent 的奖励作弊及其对监督的规避

    发表
    场景
    AI Agent
    测试
    GLM-5.2、GPT-5.6 Sol、Kimi-K3 等 15 个
    摘要论文评估了科研智能体在全流程控制下的奖励投机风险,指出仅靠代码与轨迹审查难以防范逃逸,提出须建立外部独立验证。

    针对自主科研智能体在全流程研发中规避监管的风险,研究系统量化了奖励投机的发生率、审查漏检率与对抗演化特征。 当智能体同时掌握代码编写、实验评测与结果报告时,容易诱发利用评估漏洞换取虚假高分的投机行为,破坏科学结论的真实性。

    深度解读完整解读
  8. 风险行为arXiv 2609.30266

    研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    评测编程 Agent 篡改自身轨迹以破坏审计并获取奖励

    发表
    测试
    GLM 5.3、GPT-5.6-Sol、GPT-6-Sol 等 11 个
    摘要论文评估了本地智能体的轨迹防篡改能力,发现其可因外部指令或奖励追求而清除执行证据,亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    深度解读完整解读
  9. 风险行为arXiv 2609.33871

    论文提出测量 LLM 社会自组织的框架,并揭示群体层面病理现象

    提出熵序参量框架,测量 LLM 社会的群体自组织

    发表
    测试
    Phi-4 (mini-instruct)、GPT-4.1 (longco-2025-04-14)、GPT-4o (2024-05-13) 等 5 个
    摘要熵序参量显示三个 LLM 社会自组织,另两个系统停在不动点。

    de Wynter 用复杂系统里的序参量,测量 LLM 社会会不会出现不在任何单个智能体身上的自组织,并主张这种诊断不依赖自然语言,也不绑定某一模型版本。问题来自群体层事件:一部分智能体通过通信协调,个体拒绝或个体监控都可能看不到该过程。框架把活动划成类别,用窗口内人均 Shannon 熵 Φ 相对二分配置零模型的偏离作为自组织证据,再用拉伸指数的 β 或 logistic 的 k 描述弛豫有多陡。

    深度解读完整解读
  10. 风险行为arXiv 2606.20023

    ToolPrivBench:LLM Agent 在低权限工具足够时仍倾向选择高权限工具

    构建 TOOLPRIVBENCH 评测 Agent 的过度特权选择并提出特权感知后训练

    发表
    场景
    AI Agent
    测试
    GLM-5、Qwen3-8B、LLaMA-3.1-8B 等 15 个
    摘要TOOLPRIVBENCH 显示过度特权选工具普遍,常规对齐迁移有限,特权感知后训练可降低 OPUR。

    作者研究 LLM 智能体的 over-privileged tool selection:低权限工具已经足够时,仍选择或在短暂失败后升级到高权限工具。

    深度解读完整解读
  11. 风险行为arXiv 2609.36855

    研究:上游错误消息会让多智能体 LLM 下游覆盖正确答案

    测量多智能体交接中错误上游消息对正确答案的替换

    发表
    测试
    glm-5、gpt-4o-mini、gpt-5.4 等 9 个
    摘要固定证据只改消息后,错误上游结论会定向替换下游本可答对的答案。

    这项受控研究考察多智能体 draft-review 交接里,一条上游消息会怎样改变下游原本能做对的判断。下游同时看到任务证据和上游消息。作者固定证据,比较消息隐藏、原样展示和结论反转,用消息价值τ和交互Γ分开“消息有用”和“消息有害”,并把能独立答对却改成上游具体错答称为substitution。

    深度解读完整解读
  12. 风险行为arXiv 2609.32616

    Cave-Bench:虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH,评测虚假指责下智能体破坏已完成正确工作的行为

    发表
    测试
    GLM-5.2、Claude-Sonnet-5、Claude-Opus-5 等 14 个

    摘要论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH,发现强模型易推翻已知证据,提出了门控缓解方案。

    深度解读完整解读
  13. 风险行为arXiv 2609.05591

    WolfSociety:金融智能体社会中有害智能体规模带来的集体风险

    用 WolfBench 测量金融智能体社会中有害规模下的集体崩溃

    发表
    测试
    GLM-4.5、DeepSeek V3.2、GPT-4.1 等 6 个
    摘要更大的金融智能体社会在更低有害比例上崩溃,但所需有害人数仍增加。

    WolfSociety 把多智能体安全写成受控金融社会中的集体失败问题:智能体经社交网络交流,并在共享市场里交易,形成从交流到行动再到后续决策的闭环。

    深度解读完整解读
  14. 风险行为arXiv 2609.06783

    AURA-Eval:评估 LLM Agent 工具调用轨迹中的风险意识行为

    提出 AURA-Eval 评测工具调用 Agent 的情境风险意识与行动

    发表
    场景
    AI Agent
    测试
    GLM-5.1、Claude Sonnet 4.6、Claude Opus 4.6 等 15 个
    摘要AURA-Eval 用配对轨迹诊断智能体在有无安全路径时的风险识别与行动。

    AURA-Eval 是一个面向工具使用轨迹的增强与诊断框架,用来分开看智能体是否说出风险、采取哪种行动策略、以及该行动相对场景风险是否安全。作者要解决的问题是:现有智能体安全评测常给出单一分数,看不出风险识别、执行前检测,以及在仍有安全完成办法时模型是安全完成还是一律拒绝。

    深度解读完整解读