跳到正文
原文
Failure-First·本站收录· 原文发表

Failure-First AI Safety Daily:LLM 认知萎缩、黑盒越狱与车载安全研究汇总

[AI Safety Daily] AI Safety Daily — June 18, 2026

AI 导读

AI Safety Daily(6 月 18 日)汇总多项安全研究:SCHEMA 在 11 个模型、67,221 条记录中发现,强制作答的合规指令会使准确率最多下降 30.2 个百分点,移除合规后缀即恢复。GAS-Leak-LLM 用遗传算法进化后缀 token,在无梯度访问下实现黑盒越狱并绕过困惑度过滤。该汇总还涉及 LLM 长期交互导致的认知萎缩与车载 LLM 的推理延迟问题。

阅读原文failurefirst.org