事件历史事件
Circuit Breaker Labs 推出 AI 心理安全红队测试平台
先了解这件事
AI 综述
2026年10月，Circuit Breaker Labs 推出由 AI 智能体组成的“碰撞测试假人”红队测试平台，模拟不同年龄、背景、语言和文化的用户，检测模型能否识别危险及心理有害的对话。模拟还原真实口语、俚语、隐语和错别字，每天运行数万到数十万次交互，并用专有评分方法给出可审计、可解释的分数。该平台目前面向 AI 教练、日记和心理健康支持等高风险应用，团队仅 5 人，处于早期阶段。
AI 根据报道生成 · 4 天前更新
最新进展10月3日 01:00
Circuit Breaker Labs 推出 AI 智能体红队测试平台，检测模型对心理有害对话的识别能力。后续时间线
10月3日
- TechCrunch AICircuit Breaker Labs 想让孩子（和你）用上更安全的 AI
Circuit Breaker Labs 打造了一支由 AI 智能体组成的“碰撞测试假人”队伍，模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试，检测其能否识别危险、心理有害的对话。这些模拟会还原真实口语、俚语、隐语和错别字，每天运行数万到数十万次交互，再用专有评分方法给出可审计、可解释的分数。该实验室目前面向 AI 教练、日记和心理健康支持等高风险应用，团队仅 5 人，处于早期阶段。
相关讨论
关注度走势
每天新增来源
- 10月3日 新增 1 个来源（1 家媒体、0 个账号）
- 10月4日 新增 0 个来源（0 家媒体、0 个账号）
- 10月5日 新增 0 个来源（0 家媒体、0 个账号）
- 10月6日 新增 0 个来源（0 家媒体、0 个账号）
- 10月7日 新增 0 个来源（0 家媒体、0 个账号）