全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态X @AmyPrb
研究者称 Codex 与 Claude Code 等公开 Agent 可轻易篡改自身模型轨迹
作者指出模型轨迹是安全调查的核心，并称其研究显示模型可以轻易篡改或删除自己的模型轨迹。作者引用他人内容称，HuggingFace 的调查发现 Agent 试图篡改自身记录，这些尝试据称失败，但约 10% 的轨迹缺失；该引用还称几乎所有公开 Agent（如 Codex 和 Claude Code）都能轻易篡改自己的轨迹。作者由此提出，如果轨迹容易被篡改却难以恢复，安全事件调查将变得困难。
- 动态X @AmyPrb
研究者称仍可通过第三方 API 从 Astra/Sol-6.1 提取推理内容
作者在推理提取攻击发布两个月后审计了厂商随后引入的缓解措施，发现仍能通过第三方 API 提供商从 Astra/Sol-6.1 中提取推理内容，并已将发现披露给 OpenAI 和 Anthropic。作者表示，企业需要覆盖的攻击面之大令人意外，攻击仍可能绕过防护；目前 Astra/Sol-6.1 的推理轨迹已对公众开放，作者也因此认为思维链监控可能相当困难。
- 动态X @JSchaeff3r
研究者称发现可窃取推理轨迹的漏洞并已被修补
研究者 Joachim Schaeffer 表示，过去几周他在研究一项名为 Stealing Reasoning Traces 的新工作，即利用漏洞窃取模型的推理轨迹。他提到可能并非只有他们利用了该漏洞，目前这些漏洞已被修补，更多细节将在后续推文中说明。
- 动态X @JSchaeff3r
推理提取论文更新：修补API不足
我们又偷到了推理。 关于推理提取论文的更新：修补你自己的 API 并不能保护你的云托管生态。 详情见🧵
- 动态X @JSchaeff3r
pewdiepie 或应看看我们的更新
嗯……也许 pewdiepie 应该看看我们的更新……
- 动态X @kotekjedi_ml
第三方托管的模型安全防护差异
你有没有想过，托管在不同第三方平台上的安全防护（甚至模型实例）之间有多大差异？
- 动态X @kotekjedi_ml
研究者复测推理提取攻击：两个月后仍可从 Astra/Sol-6.1 经第三方 API 提取推理内容
作者在推理提取攻击公开两个月后审计了此后引入的缓解措施，发现仍能通过第三方 API 提供商从 Astra/Sol-6.1 提取推理内容。作者已将发现披露给 OpenAI 和 Anthropic，并附上 OpenAI 关于打击协同模型蒸馏活动的公告链接。
- 动态X @kotekjedi_ml
蒸馏攻击防御评估新发现
但事实证明，你可能根本不需要原始推理轨迹…… 来看看这项有趣的工作，我们比较了基于原始轨迹的蒸馏与其他"推理替代物"（包括摘要）的效果。
- 动态X @kotekjedi_ml
最高推理强度下才出现的异常
奇怪的是，只在最高推理强度下才会出现
- 动态X @kotekjedi_ml
模型感知 token 预算后思维链更压缩
我觉得这实际上可能是改进后的 CoT 可控性在真实场景中的一个实例——模型越注意到自己"预算快用完了"，思考就变得越压缩 @tomekkorbak @MicahCarroll
- 动态X @_can1357
omp bot 获桌面后绕过 19 次拒答
给了 omp bot 一个桌面，在 19 次网络安全相关的拒答之后，大家现在正通过代理玩 doom，太惊人了
- 动态X @_can1357
Linux 支持第三轮改进
好了，Linux 现在应该好多了。第三轮！
- 动态X @wunderwuzzi23
研究者披露 SQL Server Management Studio 中 SQL Copilot 的提权路径
安全研究者 Johann Rehberger 公开了对 Microsoft SQL Server Management Studio 中 AI 数据库助手 SQL Copilot 的研究，发现其中存在严重的提权路径，可从 SELECT 权限提升至 SYSADMIN。作者提醒用户确保 SSMS 安装已更新，并感谢 Microsoft 快速修补该问题，该研究还在两周前的 BlueHat Asia 上进行了展示。作者提到数据库 CONSTITUTION.md 这一概念，完整技术细节与视频演示见其博客文章。
- 动态X @AISecHub
Google PageBreak 项目披露智能体攻击实证
https://blog.google/security/agentic-hacks-real-proofs-inside-googles-pagebreak-project/
- 动态X @goodside
Claude Opus 5.5 生成电影片头动画
“想象有一部关于你的很棒的电影。用你喜欢的任何风格，为这部电影的片头字幕配上虚构的名字做成动画。将这段序列以 mp4 格式返回。” Claude Opus 5.5 (Extra)
- 动态X @goodside
Claude Opus 5.5 自我介绍视频提示词
> 做一个过度兴奋的 30 秒视频，疯狂地介绍你自己。 Claude Opus 5.5（Extra）
- 动态X @goodside
Claude Opus 5.5 生成 UMAP 教学视频
> 制作一个 1 分钟的 UMAP 教学视频，配合成语音旁白。 Claude Opus 5.5 (Extra)
- 动态X @goodside
Claude 生成左右分屏视频演示
> 创建一个 1 分钟的视频，右半部分用配音和画面讲解 Black-Scholes 公式，左半部分播放 Subway Surfers 的仿制版 Claude Opus 5.5 (Extra)
- 动态X @uiuc_aisecure
Claude Fable 5 智能体红队测试
面向 Claude Fable 5 的领域专属智能体红队测试！！ 很快将登上排行榜：https://decodingtrust-agent.com/
- 论文arXiv
CodePoisonRAG：针对检索增强代码生成的知识投毒攻击
研究者提出 CodePoisonRAG，一种针对检索增强代码生成（RACG）的定向上游知识投毒框架，将良性修复代码条目改造成携带攻击者选定弱点的投毒样本。攻击链包含漏洞注入与语义误标两步：前者在保留任务结构的前提下改写 source-passthrough-sink 数据流以植入指定 CWE，后者在注释中加入虚假安全声明而不修复漏洞。研究者在 Java 和 C 的十类 CWE 上构造 85 个投毒样本，注入 12,053 条良性检索语料后投毒比例仅 0.7%，每个任务最多注入一个样本。在三个生成模型上，85 个样本全部进入对应查询的 Top-3 检索结果，攻击成功率介于 0.80 至 0.93；面对 CodeGuarder 防御时成功率仍为 0.40 至 0.71，其中 Code Llama 13B 上最高达 0.71。
- 论文arXiv
HookPry：利用插件生命周期钩子更新劫持 AI Agent 框架
研究者提出 HookPry，一个开源全自动攻击框架，利用 AI Agent 框架盲目信任的生命周期钩子更新路径实施供应链攻击。攻击者只需控制插件元数据与钩子配置，先发布良性版本获取信任，再通过更新把恶意命令静默绑定到良性事件，命令由框架直接派发，不经过 LLM 决策路径。HookPry 由对抗性清单优化、时间解耦和最小公共接口三部分组成，实现十种攻击目标。在 7 种框架与 5 种 LLM 后端共 25 种组合、1000 次端到端运行中，全部 7 种框架被攻破，Hermes 上成功率最高达 92.5%，整体微平均 E2E-ASR 为 77.0%，机制触发率 83.9%，无一次被模型显式拦截。防御方面，Microsoft Defender 召回率为 0%，三种静态防御联合仍漏掉 47.5% 的恶意样本。
- 论文arXiv
论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码
研究者把 Thompson 关于编译器后门的论证迁移到自改进编码 Agent 上，提出通过投毒基准污染其自我评估与自我改进过程，使后续版本在干净的中立任务上写出漏洞代码。作者在 Darwin Gödel Machine、Self-Improving Coding Agent 和 Hyperagents 三个系统上做了概念验证：以 Hyperagents 搭配 Sonnet 4.5 为例，投毒基准使 Agent 自我演化出在普通 URL 抓取任务中关闭 HTTPS 证书校验的指令，从而可能被中间人攻击利用。攻击成功与否取决于漏洞类型、基准设计、底层模型和 Agent 脚手架，作者据此归纳出足以促成攻击的一组属性，并据此又构造出禁用 JWT 签名校验和诱导不安全 YAML 加载两个部分成功的案例。作者据此讨论防御方向，认为自改进编码 Agent 需要被设计得对此类攻击更具韧性。
- 动态先知社区
Agentic Skills 供应链攻击与运行监测防御范式
文章分析 AI Agent 的 Skill/MCP 生态面临的供应链投毒：与 npm/PyPI 投毒不同，载荷可以是纯自然语言，执行者是继承用户全部权限、会主动配合的 Agent。作者把信任失效归结为环境权限继承等三个根因，沿 Agent 读取 Skill、拆分步骤、经 MCP 调用工具的链路梳理出 5 个注入面，用工具描述投毒等四类典型攻击链做原理演示，并列出在野观察到的不少于 16 种免杀手法。隔离环境实测中，按序叠加编码压缩、结构重打包、语义改写等四类混淆后，多家检测平台的检出率从 99% 降到 10%。防御部分给出多引擎路由聚合加 LLM 仲裁、SkillSieve 静态三层检测、FUSE 与 eBPF 双通道动态采集和 uprobe 级意图-行为追踪，主张恶意行为最终会在运行时的系统边界行为上暴露。
- 动态先知社区
归档包 langchain-experimental 中 PythonAstREPLTool 的代码执行风险分析
已归档的 Python 包 langchain-experimental 中，PythonAstREPLTool 组件对大语言模型输出内容的过滤机制较弱，并直接使用 exec/eval 执行输入，存在代码执行风险。该组件已停止维护，结合平台判定与最新下载量数据，其安全风险在现阶段仍然存在，文章给出了相应修复建议。