跳到正文
10月10日 · 周六

全部论文

找到 5 篇
筛选7

攻击面/入口

用户输入18网页与界面3文档与消息7工具返回10工具与技能描述5代码仓库与依赖1图像与音视频2分发渠道4推理服务与硬件2

层

模型层2应用层3

系统组件

记忆3护栏与评审7监控器2权限与沙箱5视觉15音频8图像生成8嵌入3多模态29
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 282 篇还没打标签，不在筛选结果里。
攻击面/入口：代码仓库与依赖攻击面/入口：图像与音视频攻击面/入口：推理服务与硬件层：模型层层：应用层系统组件：监控器系统组件：嵌入清除全部

另有 282 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.35659

    Tracekit：面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改

    arXiv
    2609.35659
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Claude Code (claude -p, version 2.1)、独立评审（同一 CLI，无工具）
    摘要Tracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。

    深度解读完整解读
  3. 防御arXiv 2609.01931

    Agent Flight Recorder：为长时程工具调用智能体提供链上锚定的防篡改审计追踪

    提出 Agent Flight Recorder，为长时程工具智能体构建链上锚定的防篡改审计追踪

    arXiv
    2609.01931
    发表
    层
    应用层
    场景
    AI Agent
    摘要语义事件加哈希链、Merkle 与链上锚定，用来在争议中核验长程智能体的动作序列。

    Agent Flight Recorder 把长程工具智能体的动作收成可被第三方独立核验的审计记录，面向运营方本身可能改写历史的争议。

    深度解读完整解读
  4. 防御arXiv 2607.14737

    GeoDetect：面向视觉语言预训练模型的几何对抗检测方法

    提出 GeoDetect 以几何分数检测视觉语言预训练模型的对抗样本

    arXiv
    2607.14737
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    CLIPViT (ViT-B/16)、CLIPCNN (ResNet-50)、ALBEF 等 4 个
    摘要GeoDetect 用几何分数检测 VLP 对抗样本。

    GeoDetect 是面向视觉-语言预训练模型的对抗样本检测方法，用嵌入几何而不是任务 logits 区分干净样本与对抗样本。

    深度解读完整解读
  5. 攻击arXiv 2606.12716

    PaperGuard：针对多模态 AI 同行评审的攻击与防御基准

    提出 PaperGuard，用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

    arXiv
    2606.12716
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Claude-sonnet-4.5、GPT-4o、GPT-4.1 等 11 个
    摘要PaperGuard 测到提示注入与白盒视觉抬分，并比较分块检索防御。

    PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。

    深度解读完整解读
已经到底了