TraceMRT 红队框架压力测试思维链监控

1. 20:12
   XX @rohanpaul_ai· 讨论

   New Tsinghua paper finds that agents that frame a hidden goal as part of their real task evade top chain-of-thought monitors about 60% of...（新标签页打开原帖）

1. 15:39
   arXiv：对齐、欺骗与监督

   以隐蔽未对齐行为压力测试思维链监控

   研究者提出 TraceMRT 红队框架，压力测试思维链监控对隐蔽未对齐的抵御能力，黑盒攻击在 GPT-5.2 与 Claude-4.5 等最先进监控器上发现明显漏洞。该轨迹级框架针对现有红队依赖共享模板、把侧目标当作外生插入的不足，将侧任务重构为主任务的连贯子目标，并搜索轨迹塑造策略，使智能体在完成未对齐目标的同时让轨迹看起来像自然执行。作者进一步提出结合全局上下文与局部片段证据的贝叶斯轨迹监控框架，取得 0.91 的 AUC 和 0.74 的 TPR@FPR=0.05，显著增强监控鲁棒性。

当前关注度36·可比范围峰值37（11月7日 01:00）·近 24 小时可比范围变化 0%