Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 16 papers

Another 201papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.09264

    研究者提出 PackHallu:经规则文件提示注入对编码 Agent 发起包幻觉攻击

    提出 PackHallu,经规则文件提示注入诱导编码 Agent 换用攻击者指定包

    Published
    Evaluated models
    Qwen2.5-Coder-7B, Qwen3-Coder-30B, Devstral-Small-2-24B and others19
    AbstractPackHallu 诱导规则文件换包。

    PackHallu 研究一种针对编程智能体规则文件的提示注入:让智能体在本应使用合法依赖时,改导入攻击者指定并控制的包。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.02432

    论文提出 LLM 输入扰动鲁棒性度量,并发布 ASA 攻击与 AttestMCP 防护

    提出 ASA 与 AttestMCP,度量并降低 LLM 对输入序列扰动的敏感

    Published
    Attacker
    Black-box
    Evaluated models
    Gemma-3-27B-Instruct, Gemma-3-4B-Instruct, Llama-3.2-3B-Instruct and others12
    Paper analysisRead analysis
  3. DefensesarXiv 2610.00348

    NEEDLE:通过权重正交化移除 LLM 后门

    提出 NEEDLE,用权重正交化在已知触发器时去除大模型后门

    Published
    Evaluated models
    Gemma-3-4B-IT, Qwen3-4B-Instruct-2507, Gemma-3-12B-IT

    AbstractNEEDLE 用闭式权重编辑去掉已知触发器的后门,并保住拒绝子空间。

    Paper analysisRead analysis
  4. DefensesarXiv 2609.31282

    基于区块链的 Agentic AI 框架:面向安全软件供应链的资源优化与能耗感知

    提出 AttestChain,将供应链安全智能体报告签名上链并据此控制发布

    Published
    Evaluated models
    GPT-class LLM
    AbstractAttestChain 将智能体报告与链上发布门控结合,现有证据来自受控合成构建的总体结果。

    AttestChain 是一个把 LLM 安全检查、智能体身份验证和许可链发布策略连接起来的软件供应链防御框架。。

    Paper analysisRead analysis
  5. AttacksarXiv 2609.30383

    研究者提出技能级联攻击

    提出技能级联攻击,把有害目标拆散到多个技能里绕过单技能扫描

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.4, GPT-5.4 Mini, Claude Opus 4.6 and others11

    Abstract论文探讨了多技能智能体系统面临的技能级联攻击风险,提出自动化红队框架与基准集,指出跨技能交互存在安全防护盲区。

    Paper analysisRead analysis
  6. AttacksarXiv 2609.17817

    论文:用投毒基准污染自改进编码 Agent,令其后续版本写出漏洞代码

    提出基准投毒攻击,使自修改编码 Agent 跨代写出含漏洞代码

    Published
    Evaluated models
    Claude Sonnet 4.5, Qwen3.5-397B, gpt-oss-120b and others5

    Abstract论文报告了恶意基准能污染自修改代码智能体的进化过程并持续输出漏洞,警示系统设计需纳入安全约束。

    Paper analysisRead analysis
  7. AttacksarXiv 2609.02774

    CodePoisonRAG:针对检索增强代码生成的知识投毒攻击

    提出 CodePoisonRAG,对检索增强代码生成的知识库投毒以植入漏洞

    Published
    Evaluated models
    Qwen 3.5 9B, Code Llama 13B, DeepSeek-Coder-V2 16B

    AbstractCodePoisonRAG 展示了 RACG 外部知识库的新攻击面,在较低投毒率下可定向诱发指定漏洞并部分抵御防御。

    Paper analysisRead analysis
  8. DefensesarXiv 2609.00786

    MROP:针对 Deep JSCC 后门攻击的掩码区域优化净化方法

    提出 MROP,在发射端推理时纯化输入以抵御训练投毒后门

    Published
    Evaluated models
    DeepJSCC, SwinJSCC
    AbstractMROP 不重训练,在发射端纯化补丁后门。

    MROP 是 deep JSCC 无线图像传输上的推理时输入纯化,对象是矩形补丁后门。

    Paper analysisRead analysis
  9. Abstract论文系统研究了智能体 C/R 的安全性,分析了合法回滚破坏执行连续性的机理,并实证评估了其普遍性与危害。

    Paper analysisRead analysis
  10. AttacksarXiv 2605.15338

    Hidden in Memory: Latent Memory Poisoning of LLM Agents

    提出潜伏记忆投毒,诱导 Agent 把外部文档写成持久伪造记忆

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.4, GPT-5.5, Claude Sonnet 4.6 and others12
    Abstract持久记忆成为跨会话攻击面:通用载荷可写入伪造记忆,并在相关后续任务中影响行为。

    sleeper memory poisoning 研究带持久记忆的 LLM 助手:外部文档能否让助手存下一则伪造的用户记忆,并在原文档消失后的新会话里被取回、用来改变回复或动作。

    Paper analysisRead analysis
  11. DefensesarXiv 2603.03206

    Understanding and mitigating dataset contamination in large language model steering

    Mitigating steering dataset contamination with Lee-Valiant robust means

    Published
    Evaluated models
    Llama-3.2-3B-Instruct, Mistral-7b-Instruct-v0.3, OLMo-2-1124-7B-Instruct
    AbstractData poisoning can alter steering; coordinated injection is strongest.

    The authors study how much behavioral control remains at inference time when contrastive steering's training data is contaminated, and whether the robust mean can catch it.

    Paper analysisRead analysis
  12. DefensesarXiv 2602.03085

    Triggers in the Haystack: Extracting and Reconstructing LLM Backdoor Triggers

    提出推理扫描器,在仅有模型文件时检测后门并重构触发词

    Published
    Evaluated models
    gemma-3-270m-it, DeepSeek-R1-Distill-Qwen-1.5B, Phi-4-mini-instruct and others8
    Abstract用记忆泄漏和内部信号重构触发词。

    这是一个只做推理的 sleeper agent 扫描器:在不知触发词和目标行为时,检测因果语言模型里的条件后门并重构触发词。。问题在于,后门只在触发词出现时偏离基线,而开放仓库和网页投毒使检测方通常没有触发词、目标或激活语料。

    Paper analysisRead analysis
You have reached the end