跳到正文
10月9日 · 周五

全部论文

找到 2 篇
筛选3

攻击类型

投毒与后门1模型篡改1提取与窃取1

攻击技术

潜伏触发1诱导选用1

防御类型

模型加固1

影响

有害内容1数据与隐私泄露1

系统形态

模型与 API1AI Agent1

攻击者权限

白盒1

攻击面/入口

用户输入19网页与界面4文档与消息2工具返回2工具与技能描述2代码仓库与依赖1检索语料4记忆写入1Agent 间消息2图像与音视频3训练数据1权重与梯度4分发渠道2

层

应用层1训练与数据层1

系统组件

记忆1微调与开源权重1

被测模型厂商

Qwen（阿里）37OpenAI24Google24Meta22DeepSeek17Anthropic15Mistral11智谱 GLM7Kimi（月之暗面）5xAI5MiniMax5其他37
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 432 篇还没打标签，不在筛选结果里。
攻击面/入口：记忆写入攻击面/入口：训练数据被测模型厂商：Microsoft清除全部

另有 432 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 防御arXiv 2610.00320收录

    研究显示少样本微调可绕过安全层局部冻结与修复防御

    检验层冻结与奇异方向截断能否挡住少样本有害微调

    arXiv
    2610.00320
    收录
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    测试
    Phi-3-mini-4k、Llama-3.1-8B-Instruct、Llama-3.1-Tulu-3-8B-DPO 等 10 个
    摘要定位与恢复可以复现，但知情攻击能把损伤移出冻结带，并打败跨检查点的截断修复。

    这篇工作检验：把拒答定位到某些层或更新方向之后，能不能在攻击者知情时还守住拒答。。

    深度解读完整解读
已经到底了