Unit 42 用行为聚类识别云身份角色,覆盖 125 个云环境逾 4 万个身份
Unit 42 提出基于云审计日志的行为聚类模型,用 UMAP 与 HDBSCAN 将云身份映射为管理员、备份服务、安全工具、DevOps 等功能角色,数据来自 125 个云环境、逾 4 万个身份、为期两个月。
开源红队、评测与防护工具。
在这个话题内搜索或按分类筛选Unit 42 提出基于云审计日志的行为聚类模型,用 UMAP 与 HDBSCAN 将云身份映射为管理员、备份服务、安全工具、DevOps 等功能角色,数据来自 125 个云环境、逾 4 万个身份、为期两个月。
Unit 42 开源了 LLM 驱动的分析引擎 OperTraitor,它从本地 Operator 和 OperatorHub 目录读取原始 RBAC 配置,比对 Operator 文档功能与实际授予权限的差异,并给出 1–10 的风险评分。
Google 漏洞奖励计划(VRP)2025 年迎来 15 周年,向全球 700 多名研究者发放超 1700 万美元奖金,创历史新高,较 2024 年增长逾 40%。
OpenAI 开源了其思维链可监控性研究中的大部分评测数据集、g-mean 2 指标计算代码,以及一种让干预式估计更抗噪声的交叉拟合过滤策略,代码托管在 GitHub 仓库 openai/monitorability-evals。
推荐理由OpenAI 开源思维链可监控性评测数据集与参考代码,并给出降低噪声实例干扰的交叉拟合过滤方法,可供其他团队复现同类评测。
FORGE-plus 是一个双层机器人装配框架,由冻结的纯文本 LLM 担任“预算设定者”和“恢复选择者”,按物体材质、质量与几何设定力上限 Fmax,底层 60–120 Hz 控制器用 ForceClamp 将所有指令力饱和至该上限,并以 120 N 全局硬上限防止模型幻觉。
Lean 所有 4.33.1 及之前的稳定版本存在一个字符串切片漏洞,攻击者可借此制造矛盾并“证明”费马大定理。问题出在 String.Pos.Raw.extract:在超大位置提取一字节切片时,逻辑定义返回空字符串,而编译后的原生代码返回整个原字符串,两者不一致即可推出空串等于非空串。
Trail of Bits 质疑 1Password 的 FLAWED 漏洞补丁评测,认为样本选择、故意引导错误修法以及禁止编译测试等条件影响了头条结论。其复算在另一组实验条件下得到较高的阻断给定 exploit 比例,但明确指出阻断该测试不等于完整修复,两个比例不能直接比较。文章也讨论自动评分局限;Trail of Bits 与 OpenAI 合作开展补丁项目,存在相关利益关系。这里保留反驳方论点,不将其视为对原报告的独立裁定。
Snapcompact 提出一种本地压缩方案:上下文窗口填满后,将文本渲染为 6×10 像素字体位图并以图像形式回传,40k 字符约合 3,279 image tokens,输入价格降至约三分之一。
Trail of Bits 在审计 Miden 零知识虚拟机前,用六个月时间让 AI Agent 从零构建了 LSP 服务器、反编译器和静态分析引擎,并发现一个高危漏洞:mod_12289 过程中 prover 提供的余数未经验证,恶意 prover 可借此伪造 Falcon 签名并盗取账户资金。
推荐理由Trail of Bits 复盘了用 Agent 从零搭建 LSP、反编译器和 Lean 模型来审计 Miden zkVM 的完整流程,可迁移到缺乏工具链的代码审计场景。
针对现有机器人开颅多为"开环"系统、无法应对术中配准误差与颅骨位移的问题,研究者提出一套融合多模态感知与自适应控制的框架,用双轮廓融合轨迹规划配合球头工具单级螺旋铣削。其 CMA-TCN-Transformer 网络融合力信号与铣削声音,再经自适应贝叶斯滤波抑制误触发,并在检测到穿透后原位修正辅助轨迹。牛肋与离体羊颅实验显示,闭环系统在进度 ξ≥0.9 时将进给速度降至 vsafe=1mm/s。
作者用 Claude 做猜数字实验,对比五种工具接口(单次比较、批量、打包、向量、纯 emoji 回复)的效率与胜率,结果纯 emoji 方案反而比前沿模型少用约 2 倍 token。文章指出大语言模型每次只输出下一个 token 的概率分布,所谓"模型决定调用工具"并不存在,工具 schema 只是作为开发者消息拼进上下文,校验实际发生在调用方代码里。
研究者提出 LabRobFail 框架,用 LabRobFail-Sim 的 FailureGenerator 在控制、物理、语义三个层级注入扰动,构建含 2 万余条轨迹、70 多个任务场景的 LabRobFail-Data,并建立 5 大类 11 细类的实验室故障分类体系。
在 TEE 内运行 MPC 协议时,若未考虑不可信主机,恶意主机可在阈值签名者删除已用预签名后回滚文件系统状态,导致 nonce share 被重用并泄露私钥分片。TEE 的机密性、完整性与远程证明可把半诚实协议提升到恶意安全级别,但前提是将其视为纵深防御层而非健全协议的替代品。部署时需验证 quote 签名、证书链与测量值,并借助可复现构建和二进制透明日志绑定 MPC 参与方身份。
陈等人提出世界认知模型(WCM),用 SLAK 架构将感知、逻辑、动作、知识四模块解耦,并采用异步运行时让推理、人机交流与物理执行并行。在 9 项真实物理交互任务上平均成功率为 73.8%,剩余 26.2% 未处理任务余量被作者视为红队测试的诊断入口。异步设计也带来延迟与状态失同步风险,机器人可能基于已失效的世界状态行动。
DiG-bench(Discovery in Games)发布,用 70 款规则与目标均隐藏、需靠交互探索的文本游戏评测 AI 的发现能力,其中 21 款已公开。
研究者发布 pikit,一个用于系统评测间接提示注入威胁的可组合工具包,覆盖 13 种攻击方法、16 种文本与文件载体以及 9 种防御策略和 3 种离线检测基线。
Redwood Research 提议 AI 公司定期披露并接受第三方核验其架构在多大程度上支持潜在推理或智能体间潜在通信,并以"不透明串行深度"作为最小侵入的代理指标。报告应覆盖所有能力不低于六个月前最佳公开模型的近前沿模型,包括纯内部研发原型,第三方可通过员工访谈与举报渠道核验,无需直接查看架构。公司还应每 6 个月公开可监控性压力测试结果、发布相关架构政策,并说明性能与可监控性之间的权衡。
Redwood Research 的 Arun Jose 发现,CoTControl 评测对提示词高度敏感,用 Claude Opus 4.6 迭代提示模板后,开源模型的合规率提升约 2-3 倍,例如 GPT-OSS-120B 从 5.5% 升至 15%。
推荐理由作者用提示词迭代把开源模型的 CoT 可控性提升 2-3 倍,说明现有评测可能低估了模型隐藏思维链的能力。
Google DeepMind 启动 Fairwind Program,向 Google Cloud 客户、政府机构与网络安全合作伙伴限量开放 Gemini 3.8 Flash Cyber 与 CodeMender 组合,用于自主发现、验证并修复漏洞,可在数分钟内生成可部署补丁。