Skip to content

Translation in progress Some entries still include text in the original language.

Failure-First·Indexed by this site · Originally published

AI Safety Daily 2026 年 4 月 9 日:红队方法学、评测创新与安全团队重组

[AI Safety Daily] AI Safety Daily — April 9, 2026

AI summary

Failure-First 的 AI Safety Daily 汇总了 2026 年 4 月 9 日的安全研究动态。CMU 的 Feffer 等人分析 104 篇论文与六个行业案例(含 Bing Chat 和 DEFCON),指出红队测试在目的、产物、威胁模型、场景和结果五个维度上存在分歧,使现有安全评测难以横向比较。FLIP 通过从回答反推原始提示词来衡量对齐,比 LLM-as-judge 高出 79.6%,且对奖励作弊更稳健。OpenAI 的 Mission Alignment 团队于 2026 年 2 月解散,此前 Superalignment 和 AGI Readiness 团队已相继解散,负责人 Joshua Achiam 转任 Chief Futurist。DeepSeek V4 的 Engram 记忆架构侧重成本效率与专用编码性能,而非通用对话安全。

Read originalfailurefirst.org