Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 25 papers

Another 240papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.09264

    研究者提出 PackHallu:经规则文件提示注入对编码 Agent 发起包幻觉攻击

    提出 PackHallu,经规则文件提示注入诱导编码 Agent 换用攻击者指定包

    Published
    Evaluated models
    Qwen2.5-Coder-7B, Qwen3-Coder-30B, Devstral-Small-2-24B and others19
    AbstractPackHallu 诱导规则文件换包。

    PackHallu 研究一种针对编程智能体规则文件的提示注入:让智能体在本应使用合法依赖时,改导入攻击者指定并控制的包。

    Paper analysisRead analysis
  2. AttacksarXiv 2610.05793

    研究者训练出按多智能体拓扑触发的代码后门模型

    提出拓扑条件后门,使代码模型在推断多智能体部署时植入漏洞

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, Qwen2.5-Coder-7B-Instruct

    Abstract论文证实了拓扑条件后门的可训练性与泛化性,展示了常规评测盲区,并提出差异化拓扑审计作为检测防御方向。

    Paper analysisRead analysis
  3. SAGE:定位 LLM Agent 修复中最早偏离安全意图的环节

    提出 SAGE,定位代码修复 Agent 最早偏离安全意图的轮次

    Published
    Evaluated models
    GPT-5.5, Claude Opus 4.8, Gemini 3.1 Pro and others6
    AbstractSAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离,类型比轮次更稳定。

    SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上,定位最早可归因的安全意图偏离。。

    Paper analysisRead analysis
  4. DefensesarXiv 2610.00850

    AuraForge:为训练安全编码 Agent 扩展安全监督

    提出 AuraForge,从漏洞修复合成安全测试并训练编码 Agent

    Published
    Evaluated models
    Qwen3.5-4B, GLM 4.7 Flash, Qwen3-Coder-Next and others7
    AbstractAuraForge 用攻击效果测试和防泄露环境做成 AuraGym,合成监督的误拒更低,训出的 4B 模型增益高于人工测试。

    AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务,用来监督编程智能体同时满足功能请求和隐含的安全要求。

    Paper analysisRead analysis
  5. AttacksarXiv 2609.17817

    论文:用投毒基准污染自改进编码 Agent,令其后续版本写出漏洞代码

    提出基准投毒攻击,使自修改编码 Agent 跨代写出含漏洞代码

    Published
    Evaluated models
    Claude Sonnet 4.5, Qwen3.5-397B, gpt-oss-120b and others5

    Abstract论文报告了恶意基准能污染自修改代码智能体的进化过程并持续输出漏洞,警示系统设计需纳入安全约束。

    Paper analysisRead analysis
  6. CS-Guard:首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准,评测代码生成护栏对虚构场景攻击的防御

    Published
    Attacker
    Black-box
    Evaluated models
    CodeLlama-13B-Instruct, DeepSeekCoder-V2-Lite-16B, GPT-OSS-20B and others7

    Abstract论文提出了代码安全护栏基准 CS-Guard,评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    Paper analysisRead analysis
  7. AttacksarXiv 2609.01023

    Akrasia:针对推理型代码 LLM 的隐蔽后门攻击

    提出隐蔽后门攻击 AKRASIA,在推理代码模型提示中植入触发器并伪装思维链

    Published
    Evaluated models
    Claude-Sonnet-5, GPT-5.5, Gemini-3.5-flash and others7

    Abstract论文针对推理代码大模型提出了隐蔽推断期后门攻击 AKRASIA,揭示了模型思维链可被利用进行欺骗性伪装的安全隐患。

    Paper analysisRead analysis
  8. AttacksarXiv 2608.04565

    Researchers propose Breadcrumbing long-range attack that can hijack the evidence chain of DeepResearch-style search agents

    提出权威链劫持与轨迹引导策略演化,劫持搜索 Agent 的证据链

    Published
    Setting
    web agent
    Evaluated models
    Qwen3.5-9B, Gemma4-31B, DeepResearch and others7

    Abstract论文揭示了多步搜索智能体在受限中间人操纵下的脆弱性,提出 ACH 策略与 TGSE 演化方法并完成系统验证。

    Paper analysisRead analysis
  9. AttacksarXiv 2607.03968

    The study reveals workflow-level jailbreaks in IDE programming agents: GitHub Copilot generated harmful content across four backends at 816/816

    提出工作流级越狱,让编程 Agent 在开发任务中写入有害示例

    Published
    Evaluated models
    Claude Sonnet 4.6, Claude Haiku 4.5, Gemini 3.1 Pro and others4
    Abstract作者报告 Copilot 后端会在编码工作流中生成其在单轮条件下通常拒绝的有害答案。

    这是一项生产 IDE 编码智能体的工作流越狱研究,受测对象是 Copilot 的四个模型后端,而非评测流水线中的名义目标。

    Paper analysisRead analysis
  10. 研究用消融移除代码 LLM 拒答方向,分离拒答与生成能力

    用 abliteration 消融代码 LLM 拒答方向,分离拒答与漏洞注入能力

    Published
    Evaluated models
    Qwen2.5-Coder-Instruct 3B, Qwen2.5-Coder-Instruct 7B, Qwen2.5-Coder-Instruct 14B
    Abstract拒答可用低秩编辑去掉,CWE-89 注入是否成功仍由模型规模决定。

    这项初步可行性研究用 abliteration 把代码 LLM 的拒答和 CWE 注入能力拆开:意愿可以被低秩编辑解锁,注入是否成功仍看参数规模。

    Paper analysisRead analysis
  11. 研究复现五个前沿模型的包名幻觉:跨模型共同幻觉 127 个包名,53 个仍可被注册

    复评前沿模型代码生成中的包名幻觉与抢注攻击面

    Published
    Evaluated models
    Claude Sonnet 4.6, Claude Haiku 4.5, GPT-5.4-mini and others5

    Abstract评估显示前沿模型包幻觉率收窄但威胁仍在,作者识别出跨模型通用攻击面并呼吁联合防御。

    Paper analysisRead analysis
  12. DefensesarXiv 2605.08382

    SecureForge 通过提示词优化发现并减少 LLM 生成代码漏洞

    提出 SecureForge,在推理时优化系统提示以减少编码智能体的代码弱点

    Published
    Evaluated models
    Qwen 2.5 Coder 7B, Qwen 2.5 Coder 14B, Qwen3 30B-A3B and others10
    AbstractSecureForge 审计良性 CWE 失败并优化系统提示词。

    SecureForge是一条只用 API 和静态分析、在推理时加固编码模型的流水线。

    Paper analysisRead analysis
  13. AttacksarXiv 2603.16960

    Adversarial attacks against modern vision-language models

    Conduct adversarial attacks on product images for open-source visual shopping agents and induce wrong purchases

    Published
    Setting
    web agent
    Evaluated models
    LLaVA-v1.5-7B, Qwen2.5-VL-7B
    AbstractThe authors state that LLaVA is easily induced by three attacks to buy the wrong item, while Qwen's correct purchase rate remains close to its clean condition.

    The authors compare the robustness of two open-source VLM shopping agents against image adversarial perturbations in a self-built e-commerce environment.

    Paper analysisRead analysis
  14. Filtering the Noise: A Comparative Study of LLM Agents in Vulnerability False Positive Filtering

    评测代码 Agent 过滤静态告警误报的能力

    Published
    Evaluated models
    Claude Sonnet 4, DeepSeek Chat, GPT-5
    Abstract智能体可去掉大量 SAST 噪声,但收益随骨干和 CWE 变化,并会把部分真漏洞标成误报。

    这是对三种 LLM 智能体框架过滤 SAST 误报的比较研究。

    Paper analysisRead analysis