Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 14 papers
Filter4

Attack type

Prompt injection3

Model risks

Dangerous agent actions3

Impact

Harmful content6Unauthorized actions25Data and privacy leaks10Output manipulation14Availability and reliability9Oversight failure11Increased misuse capability5

System type

Models and APIs54LLM applications16AI Agent37coding agent3science agent4web agent3Multi-agent systems8

Layer

Application layer12
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 240papers have no tags yet and are not included in filtered results.
Impact：Output manipulationSystem type：coding agentSystem type：web agentSystem type：Multi-agent systemsClear all

Another 240papers do not have category tags yet and are not included in filtered results.

  2. Evaluation and benchmarksarXiv 2610.06748

    BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全

    构建 BazaarBench，评测 C2C 市场中 Agent 的违规与失信行为

    arXiv
    2610.06748
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    GPT-5.5, GPT-5.4, GPT-5.4-mini and others5
    Abstract论文提出挂钩底层资产的 C2C 交易评测基准，发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。

    BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题，提出了一个结合底层实体状态与大模型裁判的仿真基准平台。

    Paper analysisRead analysis
  3. Evaluation and benchmarksarXiv 2609.39146

    MADBench：多智能体辩论安全性评测基准发布

    提出 MADBench，评测多智能体辩论是吸收还是放大对抗影响

    arXiv
    2609.39146
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    gpt-4o, GPT-5, GPT-6 Astra
    AbstractMADBench 显示辩论能吸收部分准确率攻击，同时放大未授权读写。

    MADBench 是一个评测多智能体辩论安全性的基准，用来看攻击是被辩论吸收还是被放大。

    Paper analysisRead analysis
  5. Evaluation and benchmarksarXiv 2609.17320

    Emergence World：对长时程多智能体系统开展对抗压力测试

    提出 Emergence World，对长时程多智能体系统开展对抗压力测试

    arXiv
    2609.17320
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    Claude Opus 4.8, DeepSeek v4 Pro, Gemini 3.5 Flash and others9

    Abstract作者通过长期平行世界实验指出模型对齐不具备可组合性，单模型群体会产生社会奉承、协同退缩及语言不透明等失效。

    Paper analysisRead analysis
  6. Evaluation and benchmarksarXiv 2609.05591

    WolfSociety：金融智能体社会中有害智能体规模带来的集体风险

    提出 WolfBench，测量金融智能体社会中有害智能体规模带来的集体崩溃

    arXiv
    2609.05591
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    DeepSeek V3.2, GPT-4.1, Qwen3-235B and others6
    Abstract更大的金融智能体社会在更低有害比例上崩溃，但所需有害人数仍增加。

    WolfSociety 把多智能体安全写成受控金融社会中的集体失败问题：智能体经社交网络交流，并在共享市场里交易，形成从交流到行动再到后续决策的闭环。

    Paper analysisRead analysis
  8. Evaluation and benchmarksarXiv 2608.03272

    多智能体协同过滤系统的连接性攻击与防御研究

    复现 AgentCF 上的多智能体攻防并刻画连通性作用

    arXiv
    2608.03272
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    Qwen3-235B-A22B, Claude Haiku 4.5, Mixtral 8×7B and others4
    Abstract连通性沿 k 与ρ改变攻防，且用户/物品与早期/稳态需要分开看。

    作者在 AgentCF 上研究连通性如何改变多智能体协同过滤的攻防，复现已有方法而不是提出新载荷。

    Paper analysisRead analysis
  10. Evaluation and benchmarksarXiv 2606.18021

    LegalHalluLens：面向法律 AI 的分类幻觉审计与校准多智能体辩论

    提出 LegalHalluLens，分类审计法律抽取幻觉并校准多智能体辩论

    arXiv
    2606.18021
    Published
    Layer
    Application layer
    Setting
    LLM applications, Multi-agent systems
    Evaluated models
    gemini-3-flash, gpt-5.2, qwen3-32b and others5
    Abstract作者称类型画像与 RDI 能区分聚合率相近的系统，辩论主要减少虚构检出。

    LegalHalluLens 是一套法律条款抽取的审计框架，外加一个按审计结果校准的辩论缓解。。

    Paper analysisRead analysis
  11. Evaluation and benchmarksarXiv 2605.17062

    研究复现五个前沿模型的包名幻觉：跨模型共同幻觉 127 个包名，53 个仍可被注册

    复评前沿模型代码生成中的包名幻觉与抢注攻击面

    arXiv
    2605.17062
    Published
    Layer
    Model layer
    Setting
    coding agent
    Evaluated models
    Claude Sonnet 4.6, Claude Haiku 4.5, GPT-5.4-mini and others5

    Abstract评估显示前沿模型包幻觉率收窄但威胁仍在，作者识别出跨模型通用攻击面并呼吁联合防御。

    Paper analysisRead analysis
  12. Evaluation and benchmarksarXiv 2601.22952

    Filtering the Noise: A Comparative Study of LLM Agents in Vulnerability False Positive Filtering

    评测代码 Agent 过滤静态告警误报的能力

    arXiv
    2601.22952
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Claude Sonnet 4, DeepSeek Chat, GPT-5
    Abstract智能体可去掉大量 SAST 噪声，但收益随骨干和 CWE 变化，并会把部分真漏洞标成误报。

    这是对三种 LLM 智能体框架过滤 SAST 误报的比较研究。

    Paper analysisRead analysis
  14. Evaluation and benchmarksarXiv 2504.00374

    研究提出 CW-POR 指标衡量多智能体 LLM 辩论中的说服覆盖

    提出 CW-POR 衡量多智能体辩论中修辞说服对事实判断的覆盖

    arXiv
    2504.00374
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    LLaMA 3.2B, Mistral 7B, Granite 3.2 8B and others5
    Abstract作者用 CW-POR 把选错频率和置信合在一起，并称五款开源模型上修辞仍可压过事实。

    作者用单轮对抗辩论和 CW-POR，观察同族评委面对事实性解释与错误辩护时是否选错，以及选错时有多确信。

    Paper analysisRead analysis
You have reached the end