防御arXiv:2610.05870 · 10月5日MBZUAI 提出可校准的真实图像认证方法提出校准重合成认证,仅当已知生成器都不能保真重构时签发真实图像证书模型与 API攻击者白盒·测试SD2.1、SD3、SD3.5 等 10 个·模型层检测与过滤检测规避图像生成摘要论文提出基于反演保真度与阈值校准的健全认证框架,在对抗扰动下维持错误率界限,并指出真实内容可认证性随生成器演进而萎缩。完整解读
评测与基准arXiv:2609.08258 · 9月8日研究实测五套 Agent 记忆系统均不执行撤销标记评测智能体记忆软撤回是否生效,并提出陈旧检索防护AI Agent·测试GPT-5.5、Grok-4、DeepSeek-V4-Flash 等 9 个·应用层检测与过滤Agent 危险操作记忆摘要系统揭示了记忆系统软撤回在检索时普遍未执行的安全漏洞,证明写回会击穿现有防御,并提出读取端防护作为必要控制手段。完整解读
防御arXiv:2609.14003 · 9月12日FlowSeal:用信息流控制阻断 LLM Agent 的隐私泄露提出 FLOWSEAL,在工具边界以信息流控制阻断智能体隐私泄露AI Agent·测试DeepSeek-V3.2、DeepSeek-R1、GPT-4.1-mini 等 4 个·应用层指令与数据隔离提取与窃取权限与沙箱+1+1摘要作者分析大模型智能体隐私检查与攻击面重合问题,提出外部拦截防御 FLOWSEAL 并验证有效性。完整解读