跳到正文

工具与开源

开源红队、评测与防护工具。

479条动态与论文相关主题红队防御与护栏安全评测
在这个话题内搜索或按分类筛选

新闻与论文

第 461–479 条 · 共 479 条
9月30日周三
  1. Unit 42 · 收录 · 原文 30

    OperTraitor:Kubernetes Operator 如何背离你的安全态势

    Unit 42 开源了 LLM 驱动的分析引擎 OperTraitor,它从本地 Operator 和 OperatorHub 目录读取原始 RBAC 配置,比对 Operator 文档功能与实际授予权限的差异,并给出 1–10 的风险评分。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  2. OpenAI Alignment Research · 收录 · 原文 50

    OpenAI 开源思维链可监控性评测数据集与参考代码

    OpenAI 开源了其思维链可监控性研究中的大部分评测数据集、g-mean 2 指标计算代码,以及一种让干预式估计更抗噪声的交叉拟合过滤策略,代码托管在 GitHub 仓库 openai/monitorability-evals。

    推荐理由OpenAI 开源思维链可监控性评测数据集与参考代码,并给出降低噪声实例干扰的交叉拟合过滤方法,可供其他团队复现同类评测。

  3. Failure-First · 收录 · 原文 15

    FORGE-plus:用冻结 LLM 监督者实现力预算约束的接触密集装配恢复

    FORGE-plus 是一个双层机器人装配框架,由冻结的纯文本 LLM 担任“预算设定者”和“恢复选择者”,按物体材质、质量与几何设定力上限 Fmax,底层 60–120 Hz 控制器用 ForceClamp 将所有指令力饱和至该上限,并以 120 N 全局硬上限防止模型幻觉。

  4. Trail of Bits · 收录 · 原文 32

    Lean 4.33.1 及更早版本存在字符串切片漏洞,可“证明”费马大定理

    Lean 所有 4.33.1 及之前的稳定版本存在一个字符串切片漏洞,攻击者可借此制造矛盾并“证明”费马大定理。问题出在 String.Pos.Raw.extract:在超大位置提取一字节切片时,逻辑定义返回空字符串,而编译后的原生代码返回整个原字符串,两者不一致即可推出空串等于非空串。

  5. Trail of Bits · 收录 · 原文 43

    Trail of Bits 称 1Password 的 AI 补丁基准具有误导性

    Trail of Bits 质疑 1Password 的 FLAWED 漏洞补丁评测,认为样本选择、故意引导错误修法以及禁止编译测试等条件影响了头条结论。其复算在另一组实验条件下得到较高的阻断给定 exploit 比例,但明确指出阻断该测试不等于完整修复,两个比例不能直接比较。文章也讨论自动评分局限;Trail of Bits 与 OpenAI 合作开展补丁项目,存在相关利益关系。这里保留反驳方论点,不将其视为对原报告的独立裁定。

  6. Trail of Bits · 收录 · 原文 47

    Trail of Bits 用 AI Agent 自建工具链审计 Miden zkVM

    Trail of Bits 在审计 Miden 零知识虚拟机前,用六个月时间让 AI Agent 从零构建了 LSP 服务器、反编译器和静态分析引擎,并发现一个高危漏洞:mod_12289 过程中 prover 提供的余数未经验证,恶意 prover 可借此伪造 Falcon 签名并盗取账户资金。

    推荐理由Trail of Bits 复盘了用 Agent 从零搭建 LSP、反编译器和 Lean 模型来审计 Miden zkVM 的完整流程,可迁移到缺乏工具链的代码审计场景。

  7. Failure-First · 收录 · 原文 8

    受人类手术启发的机器人开颅框架:多模态融合与自适应轨迹调整

    针对现有机器人开颅多为"开环"系统、无法应对术中配准误差与颅骨位移的问题,研究者提出一套融合多模态感知与自适应控制的框架,用双轮廓融合轨迹规划配合球头工具单级螺旋铣削。其 CMA-TCN-Transformer 网络融合力信号与铣削声音,再经自适应贝叶斯滤波抑制误触发,并在检测到穿透后原位修正辅助轨迹。牛肋与离体羊颅实验显示,闭环系统在进度 ξ≥0.9 时将进给速度降至 vsafe=1mm/s。

  8. Can.ac · 收录 · 原文 15

    工具调用的细枝末节:从邮件分类到 Claude 猜数字实验

    作者用 Claude 做猜数字实验,对比五种工具接口(单次比较、批量、打包、向量、纯 emoji 回复)的效率与胜率,结果纯 emoji 方案反而比前沿模型少用约 2 倍 token。文章指出大语言模型每次只输出下一个 token 的概率分布,所谓"模型决定调用工具"并不存在,工具 schema 只是作为开发者消息拼进上下文,校验实际发生在调用方代码里。

  9. Trail of Bits · 收录 · 原文 22

    别让 TEE 破坏你的 MPC:TEE 与阈值签名结合的安全陷阱与最佳实践

    在 TEE 内运行 MPC 协议时,若未考虑不可信主机,恶意主机可在阈值签名者删除已用预签名后回滚文件系统状态,导致 nonce share 被重用并泄露私钥分片。TEE 的机密性、完整性与远程证明可把半诚实协议提升到恶意安全级别,但前提是将其视为纵深防御层而非健全协议的替代品。部署时需验证 quote 签名、证书链与测量值,并借助可复现构建和二进制透明日志绑定 MPC 参与方身份。

  10. Failure-First · 收录 · 原文 25

    WCM:面向通用人机交互的世界认知模型

    陈等人提出世界认知模型(WCM),用 SLAK 架构将感知、逻辑、动作、知识四模块解耦,并采用异步运行时让推理、人机交流与物理执行并行。在 9 项真实物理交互任务上平均成功率为 73.8%,剩余 26.2% 未处理任务余量被作者视为红队测试的诊断入口。异步设计也带来延迟与状态失同步风险,机器人可能基于已失效的世界状态行动。

  11. Redwood Research · 收录 · 原文 28

    Redwood Research 提议追踪架构对思维链可监控性的影响

    Redwood Research 提议 AI 公司定期披露并接受第三方核验其架构在多大程度上支持潜在推理或智能体间潜在通信,并以"不透明串行深度"作为最小侵入的代理指标。报告应覆盖所有能力不低于六个月前最佳公开模型的近前沿模型,包括纯内部研发原型,第三方可通过员工访谈与举报渠道核验,无需直接查看架构。公司还应每 6 个月公开可监控性压力测试结果、发布相关架构政策,并说明性能与可监控性之间的权衡。

  12. Redwood Research · 收录 · 原文 50

    Redwood Research:CoT 可控性评测存在严重提示词欠激发

    Redwood Research 的 Arun Jose 发现,CoTControl 评测对提示词高度敏感,用 Claude Opus 4.6 迭代提示模板后,开源模型的合规率提升约 2-3 倍,例如 GPT-OSS-120B 从 5.5% 升至 15%。

    推荐理由作者用提示词迭代把开源模型的 CoT 可控性提升 2-3 倍,说明现有评测可能低估了模型隐藏思维链的能力。

  13. Google DeepMind · 收录 · 原文 15

    Google DeepMind 推出 Fairwind Program,向政府与企业提供 Gemini 3.8 Flash Cyber 主动网络防御能力

    Google DeepMind 启动 Fairwind Program,向 Google Cloud 客户、政府机构与网络安全合作伙伴限量开放 Gemini 3.8 Flash Cyber 与 CodeMender 组合,用于自主发现、验证并修复漏洞,可在数分钟内生成可部署补丁。