Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 36 papers
Filter7

Attack type

Prompt injection23Detection evasion9

Attack technique

Gradient and representation optimization6Cross-modal payloads4

Defense type

Instruction–data separation5Watermarking and provenance7

Impact

Unauthorized actions15Data and privacy leaks4Output manipulation7

System type

Models and APIs14LLM applications25AI Agent107coding agent7web agent22Browser and computer use7Multi-agent systems10

Attack surface / entry point

User input69Web pages and interfaces22Documents and messages13Tool responses5Retrieval corpus3Images, audio and video21Training data9Weights and gradients30Distribution channels4Inference services and hardware5

Layer

Model layer14Application layer22Infrastructure layer13

System component

Vision6Multimodal6
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 213papers have no tags yet and are not included in filtered results.
System type：Models and APIsSystem type：web agentAttack surface / entry point：Web pages and interfacesAttack surface / entry point：Documents and messagesAttack surface / entry point：Inference services and hardwareLayer：Model layerLayer：Application layerClear all

Another 213papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.11848

    SemField: training-free semantic watermark

    Proposes the semantic watermark SemField, which still identifies the attribution of generated text after paraphrasing and structural changes.

    arXiv
    2610.11848
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    Llama-3.2-1B, Qwen3-1.7B, OPT-1.3B
    AbstractTraining-independent document-level semantic watermark.

    SemField is a zero-bit semantic watermark embedded by the provider at generation time and detected later with a key, used to identify the provider's own model text after paraphrasing and sentence-level structural changes.

    Paper analysisRead analysis
  2. DefensesarXiv 2610.09469

    Secure-CUA: Constraining the Impact of Untrusted Content in Computer-Use Agents

    提出 Secure-CUA，用动作事务约束计算机使用智能体的不可信影响

    arXiv
    2610.09469
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    Claude Opus 5, Gemini 3.8 Flash, GPT-5.6-Sol
    AbstractSecure-CUA 用每步事务约束不可信影响，良性 TSR 接近 Vanilla-CUA。

    Secure-CUA 要限制图形界面里不可信内容对 CUA 决策和 GUI 执行的影响，同时保留合法任务所需的不可信信息。

    Paper analysisRead analysis
  3. AttacksarXiv 2610.09240

    WebMirage hijacks visual web agents' browser operations with adversarial images

    提出 WebMirage，用局部对抗图像劫持视觉网页 Agent 的浏览器操作

    arXiv
    2610.09240
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    LLaVA-v1.5-13B, LLaVA-v1.6-34B, MiniCPM-o-8B and others6
    Abstract论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    Paper analysisRead analysis
  6. AttacksarXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

    arXiv
    2610.05894
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Attacker
    Gray-box
    Evaluated models
    LLaDA-8B-Instruct, Dream-v0-Instruct-7B, LLaDA-MoE-7B-A1B-Instruct

    Abstract通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    Paper analysisRead analysis
  7. DefensesarXiv 2610.04763

    UT Austin 将 SynthID 水印嵌入基因组语言模型，凭 DNA 序列和密钥追溯 AI 生成片段

    把 SynthID 嵌入基因组语言模型采样，并用位置无关检测追溯生成序列

    arXiv
    2610.04763
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    Carbon-500M, GENERator-v2-eukaryote-1.2b-base
    Abstract两个六碱基基因组模型嵌入 SynthID 后，位置无关验证能找回水印，作者称这只是统计检测。

    作者在两个六碱基基因组模型的采样里嵌入 SynthID，并让验证者在不知道起点、链和 token phase 时做一次校正后的检出。

    Paper analysisRead analysis
  9. DefensesarXiv 2609.37310

    AutoMark：让自动研究流程自主发现更优 LLM 水印方案

    提出 AutoMark，自动搜索并统计检验 LLM 文本水印

    arXiv
    2609.37310
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen3.8-27B, GPT-6 Astra and others5
    AbstractAutoMark 的贡献同时包含搜索出的水印，以及用于约束自动研究误报与评测漏洞的验证框架。

    AutoMark 是一套自动水印研究框架：先检查生成分布和误报性质，再比较检测、编辑鲁棒性与质量，最后人工分析组件并做留出评测。

    Paper analysisRead analysis
  10. DefensesarXiv 2609.36372

    TTMark：超越单 token 熵的成对无失真水印

    提出成对无失真水印 TTMARK，增强低熵下的机器文本检测

    arXiv
    2609.36372
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    Llama3.2-3B-Instruct, Mistral-v0.3-7B-Instruct, Qwen2.5-7B-Instruct
    AbstractTTMARK 用水印化相邻 token 对利用条件熵，在多种无失真方案上提高检测并保持生成质量。

    TTMARK 是一种成对、无失真的文本水印：对相邻 token 的联合分布重加权，而不是逐 token 独立重加权。

    Paper analysisRead analysis
  12. Evaluation and benchmarksarXiv 2609.19140

    AgentLSD：在对抗性任务污染下评测 AI 安全 Agent

    评测安全 Agent 在对抗性任务污染下的解题成功与开销

    arXiv
    2609.19140
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    Gemma-4 31B, DeepSeek-V4 Flash, GPT-OSS 120B and others6
    AbstractAgentLSD 用配对 web CTF 表明，欺骗性环境证据会改变安全智能体的解题率与工作量。

    AgentLSD 是一个对照框架，用来测量安全智能体在任务本身不变时，对对抗性任务污染的反应。

    Paper analysisRead analysis
  14. DefensesarXiv 2609.14257

    DenMark：面向扩散语言模型的鲁棒语义水印

    提出 DenMark，在扩散语言模型去噪时注入可抵抗保义编辑的语义水印

    arXiv
    2609.14257
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    LLaDA-8B, LLaDA1.5-8B, LLaDA2.0-mini and others4
    AbstractDenMark 用 rollout 在 DLM 去噪中累积语义水印，扫描检测以抵抗保义编辑。

    DenMark 是面向扩散语言模型的语义水印：在去噪的局部更新里注入密钥相关语义信号，并在编辑改变 token 边界后仍检测。现有句子级语义水印要先完成整个语义单元再打分取舍，而 DLM 以任意顺序更新掩码，中间单元不完整。DenMark 把续写划成固定 token 区域，对每个局部候选做不提交的 rollout 补全，按语义分 gb 的平均选择更新，从而沿轨迹累积证据。

    Paper analysisRead analysis
  17. AttacksarXiv 2608.04741

    LoginTrap：针对 LLM Web Agent 的任务无关钓鱼式间接提示注入攻击

    提出 LoginTrap，以网页弹窗诱导 Web Agent 提交敏感信息

    arXiv
    2608.04741
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    GPT-4o, Gemini 3 Flash, Claude Sonnet 4 and others7

    Abstract揭示网络智能体在黑盒网页下的登录诱导风险，利用模糊测试生成话术并跨骨干和架构验证了隐私泄露威胁。

    Paper analysisRead analysis
  18. AttacksarXiv 2608.04565

    Researchers propose Breadcrumbing long-range attack that can hijack the evidence chain of DeepResearch-style search agents

    提出权威链劫持与轨迹引导策略演化，劫持搜索 Agent 的证据链

    arXiv
    2608.04565
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    Qwen3.5-9B, Gemma4-31B, DeepResearch and others7

    Abstract论文揭示了多步搜索智能体在受限中间人操纵下的脆弱性，提出 ACH 策略与 TGSE 演化方法并完成系统验证。

    Paper analysisRead analysis
  19. Evaluation and benchmarksarXiv 2607.24177

    EXE-Bench：为真实可用性对 AI Windows 恶意软件检测器进行权衡排名

    提出 EXE-Bench 比较 Windows 恶意软件检测器的可用性权衡

    arXiv
    2607.24177
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    EmberGBDT, BBDnn, BBDnnFDRS and others15
    Abstract统一四指标后，手工特征的 EmberGBDT 综合居首，只看准确率会误导部署。

    EXE-Bench 用同一设置给 AI Windows 恶意软件检测器做四指标排序，而不是只比一次测试集准确率。。

    Paper analysisRead analysis
Load more