跳到正文

工具与开源

开源红队、评测与防护工具。

42条精选相关主题红队防御与护栏安全评测

最新精选

第 41–42 条 · 共 42 条
9月30日周三
  1. Trail of Bits · 收录 · 原文 27

    Trail of Bits 用 AI Agent 自建工具链审计 Miden zkVM

    Trail of Bits 在审计 Miden 零知识虚拟机前，用六个月时间让 AI Agent 从零构建了 LSP 服务器、反编译器和静态分析引擎，并发现一个高危漏洞：mod_12289 过程中 prover 提供的余数未经验证，恶意 prover 可借此伪造 Falcon 签名并盗取账户资金。

    工具#工具/开源#Agent 安全#供应链

    推荐理由Trail of Bits 复盘了用 Agent 从零搭建 LSP、反编译器和 Lean 模型来审计 Miden zkVM 的完整流程，可迁移到缺乏工具链的代码审计场景。

  2. Redwood Research · 收录 · 原文 28

    Redwood Research：CoT 可控性评测存在严重提示词欠激发

    Redwood Research 的 Arun Jose 发现，CoTControl 评测对提示词高度敏感，用 Claude Opus 4.6 迭代提示模板后，开源模型的合规率提升约 2-3 倍，例如 GPT-OSS-120B 从 5.5% 升至 15%。

    对齐#对齐#思维链#工具/开源

    推荐理由作者用提示词迭代把开源模型的 CoT 可控性提升 2-3 倍，说明现有评测可能低估了模型隐藏思维链的能力。