跳到正文
10月10日 · 周六

全部论文

找到 11 篇
筛选5

模型自身风险

欺骗与谋划10奖励作弊5失准与价值偏离9Agent 危险操作7幻觉与编造5

影响

越权操作3输出被操纵6

系统形态

LLM 应用6AI Agent71coding agent17science agent3网页与电脑操作3多智能体6具身与机器人3

层

应用层11

系统组件

监控器3权限与沙箱3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作模型自身风险：幻觉与编造系统形态：LLM 应用系统形态：多智能体层：应用层清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 防御arXiv 2610.07570

    ProbeGuard：按共识形成过程判断弃答，识别医疗问答中的一致错误

    提出 ProbeGuard，按共识形成过程对医疗问答做选择性弃答

    arXiv
    2610.07570
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Qwen3-8B、Llama-3.1-8B-Instruct、HuatuoGPT-o1-8B
    摘要ProbeGuard 用共识形成过程做可认证弃权，并在全票层分开答对与答错的共识。

    ProbeGuard 是给多轮共识医学问答用的认证弃权框架：基板照原样作答，弃权只看共识是怎么形成的。

    深度解读完整解读
  3. 评测与基准arXiv 2610.06748

    BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全

    构建 BazaarBench，评测 C2C 市场中 Agent 的违规与失信行为

    arXiv
    2610.06748
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    GPT-5.5、GPT-5.4、GPT-5.4-mini 等 5 个
    摘要论文提出挂钩底层资产的 C2C 交易评测基准，发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。

    BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题，提出了一个结合底层实体状态与大模型裁判的仿真基准平台。

    深度解读完整解读
  8. 评测与基准arXiv 2609.05591

    WolfSociety：金融智能体社会中有害智能体规模带来的集体风险

    提出 WolfBench，测量金融智能体社会中有害智能体规模带来的集体崩溃

    arXiv
    2609.05591
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    DeepSeek V3.2、GPT-4.1、Qwen3-235B 等 6 个
    摘要更大的金融智能体社会在更低有害比例上崩溃，但所需有害人数仍增加。

    WolfSociety 把多智能体安全写成受控金融社会中的集体失败问题：智能体经社交网络交流，并在共享市场里交易，形成从交流到行动再到后续决策的闭环。

    深度解读完整解读
  9. 防御arXiv 2609.04159

    Sentinel-RL：将拓扑推理从 LLM 智能体中卸载到安全运营中心

    提出 Sentinel-RL，将拓扑处置从 LLM 卸载到受约束图策略

    arXiv
    2609.04159
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    HetGAT、PPO
    摘要Sentinel-RL 用图编码器与 PPO 承担拓扑决策，LLM 负责叙述与门控，并在 LANL 上报告检测与时延。

    Sentinel-RL 是面向 SOC 的神经符号架构：拓扑决策离开 LLM，改由认证图上的 HetGAT 与 PPO 完成。

    深度解读完整解读
  10. 评测与基准arXiv 2608.07556

    MasDrift：跨多智能体架构的授权保持基准

    提出 MasDrift，评测多智能体在良性任务中的授权保持

    arXiv
    2608.07556
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    DeepSeek V4 Flash、Qwen3.7 Plus、GPT-5.4 Nano 等 6 个
    摘要授权保持可被测量：层级用未授权动作换完成率，重锚定比沿链携带更稳。

    MasDrift 把多智能体设计中的授权保持做成可测量性质，对象是没有攻击者的普通委托。

    深度解读完整解读
  11. 评测与基准arXiv 2606.18021

    LegalHalluLens：面向法律 AI 的分类幻觉审计与校准多智能体辩论

    提出 LegalHalluLens，分类审计法律抽取幻觉并校准多智能体辩论

    arXiv
    2606.18021
    发表
    层
    应用层
    场景
    LLM 应用、多智能体
    被测模型
    gemini-3-flash、gpt-5.2、qwen3-32b 等 5 个
    摘要作者称类型画像与 RDI 能区分聚合率相近的系统，辩论主要减少虚构检出。

    LegalHalluLens 是一套法律条款抽取的审计框架，外加一个按审计结果校准的辩论缓解。。

    深度解读完整解读
已经到底了