FindTheFlaws：用于检测推理缺陷与可扩展监督研究的标注错误数据集（原文，在新标签页打开）
构建 FindTheFlaws 并评测模型发现长解答推理缺陷的能力。
全部动态
今天新收录 51 条今天新收录 51 条
全部动态
今天新收录 51 条
10月9日周五
星期五
论文追踪 · 收录 · 原文 论文 论文追踪 · 收录 · 原文 论文精选关注度5353 CORVUS：用 LoRA 伪装内部信号绕过单次幻觉检测器（原文，在新标签页打开）
新加坡管理大学等机构的研究者提出 CORVUS，用 LoRA 伪装内部遥测以绕过幻觉检测器。
推荐理由论文给出白盒模型侧攻击的完整方法、跨四个开源模型的迁移结果与逐项消融，可据此评估内部遥测类幻觉检测器的可靠性边界。
论文追踪 · 收录 · 原文 论文关注度2424 RoguePrompt：双层加密自重构以绕过 LLM 内容审核（原文，在新标签页打开）
论文提出 RoguePrompt，一种自动化越狱流水线，通过将违禁提示词拆分并施加 ROT-13 与 Vigenère 两层嵌套编码，再附上自然语言解码指令，把违禁请求伪装成看似无害的提示词，诱导模型在单次查询内自行重构并执行原始意图。
论文追踪 · 收录 · 原文 论文精选关注度5353 论文提出 AuthBench 基准，评测编码 Agent 能否推断最小权限边界（原文，在新标签页打开）
提出 AuthBench 评测编码 Agent 最小权限，并验证充足性-紧缩性分解。
推荐理由论文提出权限边界推断任务与 AuthBench 基准，并给出无需训练即可降低攻击成功率的分解方法，适合关注 Agent 权限设计的团队参考。
论文追踪 · 收录 · 原文 论文关注度5050 EmoRAG 研究揭示 RAG 检索对表情符号扰动的脆弱性（原文，在新标签页打开）
论文提出 EmoRAG，指出检索增强生成（RAG）系统对细微符号扰动高度敏感：在查询中注入单个表情符号 token（如 (@_@)）。
论文追踪 · 收录 · 原文 论文关注度4848 研究用数学编码绕过 LLM 安全过滤，八个模型平均攻击成功率 46%–56%（原文，在新标签页打开）
研究者提出把有害提示词改写为集合论、形式逻辑、量子力学等连贯数学问题，可高比例绕过 LLM 的安全过滤。
论文追踪 · 收录 · 原文 论文精选关注度6060 MetaBreak：通过特殊 token 操纵越狱在线 LLM 服务（原文，在新标签页打开）
提出 MetaBreak，用特殊 token 操纵越狱在线 LLM 服务并绕过审核。
论文追踪 · 收录 · 原文 论文关注度5050 DECEIVE-AFC：针对检索式 LLM 事实核查系统的对抗性主张攻击（原文，在新标签页打开）
提出 DECEIVE-AFC，以声明改写诱导搜索增强事实核查误判。
论文追踪 · 收录 · 原文 论文关注度3939 ExistBench：用前缀补全评测 LLM 的生存性威胁输出（原文，在新标签页打开）
研究者提出 ExistBench 基准，用于评测大语言模型生成内容是否包含潜在生存性威胁，即暗示或推动直接危害人类生存的输出。
论文追踪 · 收录 · 原文 论文关注度3131 六款主流 LLM 在多语言与混淆提示注入攻击下的实证评估（原文，在新标签页打开）
评测多语言与编码混淆提示下模型生成钓鱼与键盘记录内容的遵从。
论文追踪 · 收录 · 原文 论文关注度4242 MEEA：基于曝光效应的多轮越狱攻击框架（原文，在新标签页打开）
研究者提出 MEEA（Mere Exposure Effect Attack），一种受心理学曝光效应启发的全自动黑盒多轮越狱框架，通过重复低毒性语义暴露逐步侵蚀模型的安全对齐约束。
论文追踪 · 收录 · 原文 论文关注度5353 论文提出随机插入攻击，利用自回归一致性绕过 LLM 安全对齐（原文，在新标签页打开）
解释自回归一致性如何导致浅层安全对齐，并提出随机插入攻击。
论文追踪 · 收录 · 原文 论文关注度4343 论文提出多轮在线骚扰 Agent 基准，越狱微调使攻击成功率升至 95% 以上（原文，在新标签页打开）
提出多轮在线骚扰 Agent 基准，评测记忆、规划与微调越狱。
论文追踪 · 收录 · 原文 论文关注度5050 研究者提出 SeedHijack 攻击，劫持 LLM 采样随机数种子（原文，在新标签页打开）
提出 SeedHijack，劫持采样 PRNG 以强制选定 token。
论文追踪 · 收录 · 原文 论文关注度5151 BreakFun：用模拟代码执行中的对象实例化越狱 LLM（原文，在新标签页打开）
研究者提出 BreakFun 越狱方法，把有害请求包装成代码执行模拟：提示词给出一个无害的 Python 类定义即 Trojan Schema，要求模型回答这段代码运行会打印什么，模型必须实例化对象并为每个字段编造取值，而对抗性字段名把这些取值引向攻击目标，有害内容因此作为模拟实例化的副作用出现而非直接回答。
论文追踪 · 收录 · 原文 论文精选关注度5353 研究：语法约束解码可越狱 LLM 生成恶意代码，并提出 CodeShield 防御（原文，在新标签页打开）
提出 CodeSpear 越狱，借语法约束解码生成恶意代码，并给出 CodeShield 防御。
推荐理由论文揭示语法约束解码本身可被用作越狱面，并给出配套的代码模态对齐方案，对部署代码生成服务的团队有直接参考价值。
论文追踪 · 收录 · 原文 论文精选关注度5858 Odysseus 用双重隐写越狱 GPT-4o、Gemini-2.0 与 Grok-3，攻击成功率最高 99%（原文，在新标签页打开）
提出双重隐写越狱 Odysseus，用图像隐写绕过多模态系统安全过滤器。
推荐理由论文披露商业多模态系统安全过滤依赖恶意内容显式可见的假设，并给出跨模态隐藏载荷的完整攻击链与实测成功率。
论文追踪 · 收录 · 原文 论文关注度4141 DAPRO：多轮 LLM 评测中越狱所需轮数的动态预算分配（原文，在新标签页打开）
提出 DAPRO，为多轮 LLM 评测动态分配预算并构造事件轮数预测界。
论文追踪 · 收录 · 原文 论文精选关注度5959 JAWS-Bench：研究者用三种工作区场景系统越狱代码 Agent（原文，在新标签页打开）
提出 JAWS-Bench，评测代码 Agent 在三级工作区中的越狱与恶意代码可执行性。
推荐理由论文给出三种工作区攻击场景与可执行性判定流程，并量化了代码上下文如何削弱拒答，可供设计 Agent 权限与执行门控时参考。
论文追踪 · 收录 · 原文 论文关注度3434 多模态大语言模型的多轮越狱攻击与 FragGuard 防御（原文，在新标签页打开）
提出多轮多模态越狱，并用 FragGuard 拦截有害响应。
论文追踪 · 收录 · 原文 论文关注度3636 研究提出基于学习的自动化对抗红队框架，用于大语言模型鲁棒性评测（原文，在新标签页打开）
提出约束对抗搜索红队框架，系统发现模型多类鲁棒性漏洞。
论文追踪 · 收录 · 原文 论文精选关注度5353 MultiTurnPSB：四轮医疗越狱评测显示单轮基准掩盖 19 倍安全差距（原文，在新标签页打开）
构建 MultiTurnPSB，评测四轮医疗越狱与分类器输入防御。
推荐理由论文用四轮对话基准揭示单轮评测看不到的模型安全差距，并给出分类器干预与假阳性代价的量化结果。
论文追踪 · 收录 · 原文 论文精选关注度6464 论文提出自适应攻击框架，击穿 12 项 LLM 越狱与提示注入防御（原文，在新标签页打开）
提出自适应攻击框架，击穿越狱与提示注入防御。
论文追踪 · 收录 · 原文 论文精选关注度5454 研究复现五个前沿模型的包名幻觉：跨模型共同幻觉 127 个包名，53 个仍可被注册（原文，在新标签页打开）
复评前沿模型代码生成中的包名幻觉与抢注攻击面。
推荐理由论文在五个前沿模型上复现包名幻觉测量，并给出跨模型共同幻觉的包名集合与仍可注册的子集，可供评估 slopsquatting 攻击面。
论文追踪 · 收录 · 原文 论文关注度4646 RedDiffuser：用强化扩散生成视觉输入审计 VLM 多模态安全失效（原文，在新标签页打开）
提出 RedDiff，用强化扩散生成图像审计 VLM 情境安全失效。
论文追踪 · 收录 · 原文 论文关注度3636 MemoAttack：记忆驱动的黑盒越狱框架在 AdvBench 上达到 93.33-96.67% 攻击成功率（原文，在新标签页打开）
提出 MemoAttack，用技能结构化记忆做黑盒越狱。
论文追踪 · 收录 · 原文 论文关注度5252 研究：字符级扰动可破坏 LLM 水印，并提出基于遗传算法的去除攻击（原文，在新标签页打开）
提出字符级扰动与遗传算法去除 LLM 水印。
论文追踪 · 收录 · 原文 论文关注度5050 VideoSTF 揭示视频大模型输出重复问题，时序扰动攻击成功率最高 98%（原文，在新标签页打开）
研究者提出 VideoSTF 基准框架，系统测量、压力测试并利用视频大语言模型（VideoLLM）的输出重复失败模式，即解码器陷入重复短语或句子的自我强化循环。
论文追踪 · 收录 · 原文 论文精选关注度5757 RL-Hammer：用 GRPO 从头训练攻击模型，对带防御的 GPT-5 达 72% 攻击成功率（原文，在新标签页打开）
Meta FAIR 与马里兰大学研究者提出 RL-Hammer，从零训练攻击模型经工具输出实施提示注入。
论文追踪 · 收录 · 原文 论文关注度5050 研究者提出 MM-Plan 多模态越狱框架，对 Claude 4.5 Sonnet 攻击成功率达 46.3%（原文，在新标签页打开）
提出 MM-Plan 多模态越狱框架，自动规划多轮图像编辑以越狱视觉独占目标。
论文追踪 · 收录 · 原文 论文关注度4747 ContextLeak：审计私有上下文学习方法的隐私泄露（原文，在新标签页打开）
研究者提出 ContextLeak，一个用于实证测量上下文学习（ICL）中最坏情况信息泄露的框架。
论文追踪 · 收录 · 原文 论文关注度5050 研究者提出 TIP：用树结构搜索为 MCP 生成隐蔽注入载荷（原文，在新标签页打开）
提出 TIP，用树搜索为 MCP 响应生成隐蔽注入载荷。
论文追踪 · 收录 · 原文 论文精选关注度5959 STAC：看似无害的工具调用链如何攻破 LLM Agent（原文，在新标签页打开）
AWS AI Labs 研究者提出 STAC 框架，把恶意目标拆成多轮看似无害的工具调用链。
论文追踪 · 收录 · 原文 论文关注度4848 研究揭示修辞如何对 AI 审稿人实施奖励作弊（原文，在新标签页打开）
测量内容保留的修辞改写如何改变 AI 审稿分数。
论文追踪 · 收录 · 原文 论文关注度3434 Prompt-in-Content 攻击：利用上传输入劫持 LLM 行为（原文，在新标签页打开）
提出 prompt-in-content 攻击，用上传文档指令劫持摘要。
论文追踪 · 收录 · 原文 论文关注度4848 论文建模多智能体网络中的子智能体继承攻击面（原文，在新标签页打开）
建模并利用多智能体网络中子智能体生成时的记忆继承漏洞。
论文追踪 · 收录 · 原文 论文关注度4949 研究：对抗性 bug 报告可诱导 LLM 自动程序修复系统生成不安全补丁（原文，在新标签页打开）
用对抗缺陷报告诱导自动程序修复系统生成不安全补丁。
论文追踪 · 收录 · 原文 论文精选关注度5757 MOSAIC 框架利用 CLI 命令组合攻击编码 Agent，成功率 96.59%（原文，在新标签页打开）
中山大学、山东大学、北京大学与香港科技大学的研究者提出 MOSAIC，用 CLI 安全知识库构造编码 Agent 的命令组合攻击。
推荐理由论文提出 CLI 命令组合风险，用 CVE 与 PoC 蒸馏知识库生成攻击链，在五款编码 Agent 上给出成功率并测试五类防御。
论文追踪 · 收录 · 原文 论文关注度4040 论文提出 LPCI：针对 Agent 逻辑层与持久记忆的提示控制注入攻击（原文，在新标签页打开）
提出 LPCI，把延迟条件载荷写入记忆与检索库以跨会话触发。
论文追踪 · 收录 · 原文 论文精选关注度5959 ASPI 基准：Agent 寻求澄清时提示注入攻击成功率大幅上升（原文，在新标签页打开）
构建 ASPI 基准，评测 Agent 寻求澄清时的提示注入脆弱性。
推荐理由论文用配对实验隔离出澄清状态这一新攻击面，并给出十款模型的攻击成功率变化，可供部署交互式 Agent 的团队重新评估评测口径。