Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 16 papers
Filter5

Attack type

Prompt injection3Poisoning and backdoors3

Impact

Harmful content7Unauthorized actions43Data and privacy leaks15Output manipulation16Availability and reliability9Oversight failure22Increased misuse capability7

System type

Models and APIs78LLM applications64AI Agent96coding agent10science agent6web agent5Multi-agent systems26

Attack surface / entry point

Distribution channels4

Layer

Model layer2Application layer14
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 254papers have no tags yet and are not included in filtered results.
Impact：Output manipulationSystem type：coding agentSystem type：science agentLayer：Model layerLayer：Application layerClear all

Another 254papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.09264

    研究者提出 PackHallu：经规则文件提示注入对编码 Agent 发起包幻觉攻击

    提出 PackHallu，经规则文件提示注入诱导编码 Agent 换用攻击者指定包

    arXiv
    2610.09264
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Qwen2.5-Coder-7B, Qwen3-Coder-30B, Devstral-Small-2-24B and others19
    AbstractPackHallu 诱导规则文件换包。

    PackHallu 研究一种针对编程智能体规则文件的提示注入：让智能体在本应使用合法依赖时，改导入攻击者指定并控制的包。

    Paper analysisRead analysis
  3. Analysis and theoryarXiv 2610.06163

    SAGE：定位 LLM Agent 修复中最早偏离安全意图的环节

    提出 SAGE，定位代码修复 Agent 最早偏离安全意图的轮次

    arXiv
    2610.06163
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GPT-5.5, Claude Opus 4.8, Gemini 3.1 Pro and others6
    AbstractSAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离，类型比轮次更稳定。

    SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上，定位最早可归因的安全意图偏离。。

    Paper analysisRead analysis
  5. Analysis and theoryarXiv 2609.27234

    CELLAUDIT：审计 AI 智能体发现细胞模型中的输入使用声明

    提出 CellAudit，审计智能体发现的细胞模型是否使用所声明输入

    arXiv
    2609.27234
    Published
    Layer
    Application layer
    Setting
    science agent
    Evaluated models
    CellScientist, AIDE, CellForge and others4
    AbstractCellAudit 把输入使用声明从源码追到拟合贡献，并说明高分不必等于使用了扰动。

    CellAudit 为智能体发现的细胞响应模型增加一层输入使用证伪：源码是否消费注册输入、拟合预测是否依赖它、该依赖是否改善对观测响应的预测。

    Paper analysisRead analysis
  6. AttacksarXiv 2609.17817

    论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码

    提出基准投毒攻击，使自修改编码 Agent 跨代写出含漏洞代码

    arXiv
    2609.17817
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Claude Sonnet 4.5, Qwen3.5-397B, gpt-oss-120b and others5

    Abstract论文报告了恶意基准能污染自修改代码智能体的进化过程并持续输出漏洞，警示系统设计需纳入安全约束。

    Paper analysisRead analysis
  8. Evaluation and benchmarksarXiv 2608.00711

    SCHEMA：面向科学 Agent 幻觉的拓扑感知评测框架

    提出 SCHEMA，用概念图与轨迹分评测科学 Agent 幻觉

    arXiv
    2608.00711
    Published
    Layer
    Application layer
    Setting
    science agent
    Evaluated models
    Kimi-K2.5, Qwen3.6-Plus, Llama-4-Scout and others10
    AbstractSCHEMA 用知识拓扑评估科学智能体幻觉，终答正确仍可能来自有缺陷的中间推理。

    SCHEMA 是面向科学智能体幻觉的证据锚定评测框架，实例化在生物医学的 Protein Domain 与 PathVQA-Enhanced。作者在摘要中称它是首个同时做到证据锚定和拓扑感知的此类框架。

    Paper analysisRead analysis
  11. Evaluation and benchmarksarXiv 2605.17062

    研究复现五个前沿模型的包名幻觉：跨模型共同幻觉 127 个包名，53 个仍可被注册

    复评前沿模型代码生成中的包名幻觉与抢注攻击面

    arXiv
    2605.17062
    Published
    Layer
    Model layer
    Setting
    coding agent
    Evaluated models
    Claude Sonnet 4.6, Claude Haiku 4.5, GPT-5.4-mini and others5

    Abstract评估显示前沿模型包幻觉率收窄但威胁仍在，作者识别出跨模型通用攻击面并呼吁联合防御。

    Paper analysisRead analysis
  13. DefensesarXiv 2605.08382

    SecureForge 通过提示词优化发现并减少 LLM 生成代码漏洞

    提出 SecureForge，在推理时优化系统提示以减少编码智能体的代码弱点

    arXiv
    2605.08382
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Qwen 2.5 Coder 7B, Qwen 2.5 Coder 14B, Qwen3 30B-A3B and others10
    AbstractSecureForge 审计良性 CWE 失败并优化系统提示词。

    SecureForge是一条只用 API 和静态分析、在推理时加固编码模型的流水线。

    Paper analysisRead analysis
  14. Evaluation and benchmarksarXiv 2601.22952

    Filtering the Noise: A Comparative Study of LLM Agents in Vulnerability False Positive Filtering

    评测代码 Agent 过滤静态告警误报的能力

    arXiv
    2601.22952
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Claude Sonnet 4, DeepSeek Chat, GPT-5
    Abstract智能体可去掉大量 SAST 噪声，但收益随骨干和 CWE 变化，并会把部分真漏洞标成误报。

    这是对三种 LLM 智能体框架过滤 SAST 误报的比较研究。

    Paper analysisRead analysis
  15. Evaluation and benchmarksarXiv 2509.08713

    论文指出 AI 科学家系统存在四类失效模式，仅看最终论文难以发现

    用 SPR 评测 AI 科学家系统的方法学缺陷

    arXiv
    2509.08713
    Published
    Layer
    Application layer
    Setting
    science agent
    Evaluated models
    gemini-2.5-flash-preview-05-20
    Abstract作者用 SPR 诊断两个开源系统的四种方法学缺陷，并建议审稿时提交日志与代码。

    作者诊断两个开源系统的全自动科研流程，看方法学缺陷会不会留在终稿看不见的决策里。

    Paper analysisRead analysis
You have reached the end