跳到正文
原文
公众号 为机器立心·本站收录· 原文发表· 防御 →· 扫描记录里的位置 →

北航与阿里团队提出PASP框架,以多感知视图和对抗自博弈提升大模型识别伪装有害内容能力

北航:肉眼一眼识破,大模型却被蒙骗!PASP框架,攻克伪装有害内容检测难题

AI 导读

北京航空航天大学SKLCCSE实验室与阿里巴巴Yuvion团队提出PASP(Perception-Aware Adversarial Self-Play)框架,用多感知视图与对抗自博弈训练提升大模型识别谐音替换、emoji暗语、藏头诗等伪装有害内容的能力,论文已发布arXiv预印本。框架对每条输入构建文本、无调拼音、渲染成图三组视图;攻击者基于6大类22种规避策略、根据防御模型反馈生成逃逸样本;防御模型用改进的GRPO强化学习,按意图对齐、审核正确性、输出格式三重奖励训练,抓底层有害意图而非表面混淆符号。论文称实验以中文场景为主,多语言迁移仍待探索。

阅读原文mp.weixin.qq.com