SBW:面向 LLM 智能体的语义行为水印方法
提出 SBW,为 LLM Agent 轨迹做抗改写与伪造的语义行为水印
- arXiv
- 2610.08668
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Qwen2.5-3B-Instruct、LLaMA-3.2-3B、Qwen2.5-7B 等5个
摘要SBW 在语义簇上做溯源水印,改写检测高于精确符号,链式重放仍开放。
SBW 是免训练的智能体行为水印,把所有者标识放在离散动作选择上,而不是输出 token。
另有261篇论文还没打上分类标签,暂不在筛选结果里。
提出 SBW,为 LLM Agent 轨迹做抗改写与伪造的语义行为水印
SBW 是免训练的智能体行为水印,把所有者标识放在离散动作选择上,而不是输出 token。
提出 STCA,对驾驶视频 VLM 构造可迁移的时空对抗扰动
提出监控深伪基准 CCDF,在统一编码后评测检测器对伪造犯罪事故录像的识别
摘要提出消除格式捷径的监控深度伪造基准 CCDF,揭示现有检测器难以识别商用生成视频。
提出 ATLAS 用水平集估计恢复黑盒分类器的对抗输入集合
ATLAS 是一个查询式 black-box 框架,用来构造诱发失败的对抗输入集合,供鲁棒性审计使用。
构建多语言音视频 DeepFake 基准 BabelFake 并评测检测器
BabelFake 是经同意与 IRB 批准采集的多语音视频 DeepFake 检测基准,用来把视觉操纵和语音合成拆开比较。
提出校准重合成方法,以生成器反演保真度认证真实图像并防御对抗扰动
摘要论文提出基于反演保真度与阈值校准的健全认证框架,在对抗扰动下维持错误率界限,并指出真实内容可认证性随生成器演进而萎缩。
提出 THRIVE,为自回归 TTS 嵌入抗重建的多比特语音水印
提出 LiBRA,在潜空间双向优化以规避图像水印双侧检测
摘要LiBRA 用双向潜空间优化规避双侧水印检测,并提高相对反转基线的保真。
提出 ASA 与 AttestMCP,度量并降低 LLM 对输入序列扰动的敏感
提出推理时 Unicode 归一化的检测器,识别遭字符级扰动的 AI 生成文本
DeBERTa-ConPara 是一个面向部署的 AI 文本检测器:DeBERTa-v3-large 在多数据集原始文本上训练,推理前做确定性 Unicode 归一化,用一个固定阈值面对没有目标域标签的场景。
提出 TAILOR,按请求组合图像水印以满足抗攻击与画质延迟规格
提出带密钥的 SNW,抵御事后图像水印的身份伪造
Gesny 与 Giboulot 针对生成内容追溯所依赖的多比特事后图像水印,批评端到端 DNN 方案既无容量理论、又无密钥。
提出检索器后门攻击操纵智能体搜索,并用 DOU 逃避检测
摘要论文展示了通过恶意检索器操纵智能体多轮搜索并利用诱饵重塑表征隐蔽后门的可行性与系统风险。
提出 ClaimMirage,以域名自述声称改变 LLM 威胁告警判断
摘要作者称自述声称可增减告警。
提出 BoundStyle 与 StyleAT,对抗训练防御人脸识别语义攻击
StyleAT 用可调的 StyleGAN3 潜空间攻击 BoundStyle 对人脸识别做对抗训练,以抵抗一般语义编辑,并在评测中面对训练时未见的 DiffPrivate。
提出 RemTraceNet,少样本识别图像是否经过指定去除流水线
提出 ALIBI,向恶意二进制注入不执行掩护叙事使分析器误判为良性
ALIBI 是针对 LLM 恶意软件分诊的语义掩护叙事攻击:不覆盖系统指令,而把仍可见的可疑静态证据重释成良性安全产品的预期行为。
复现 Tree-Ring 语义水印的黑盒伪造并恢复检测统计量
提出 OBELISK 三级流水线,权衡恶意软件检测的准确率、开销与鲁棒性
OBELISK 把 Windows PE 恶意软件检测做成 YARA、EMBER-GBDT 与 Nebula 的顺序流水线,用来同时看检出、计算开销和对抗鲁棒性。
提出内容不变样式包装,翻转安全评审器的判定
这是一项关于大语言模型自动化安全评审系统表面样式脆弱性的评估研究。