事件历史事件
Circuit Breaker Labs 推出 AI 心理安全红队测试平台
先了解这件事
AI 综述
2026年10月，Circuit Breaker Labs 推出由 AI 智能体组成的“碰撞测试假人”红队测试平台，模拟不同年龄、背景、语言和文化的用户，检测模型能否识别危险及心理有害的对话。模拟还原真实口语、俚语、隐语和错别字，每天运行数万到数十万次交互，并用专有评分方法给出可审计、可解释的分数。该平台目前面向 AI 教练、日记和心理健康支持等高风险应用，团队仅 5 人，处于早期阶段。
AI 根据报道生成 · 10 天前更新
后续时间线
10月3日
- TechCrunch AICircuit Breaker Labs 想让孩子（和你）用上更安全的 AI
Circuit Breaker Labs 打造了一支由 AI 智能体组成的“碰撞测试假人”队伍，模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试，检测其能否识别危险、心理有害的对话。这些模拟会还原真实口语、俚语、隐语和错别字，每天运行数万到数十万次交互，再用专有评分方法给出可审计、可解释的分数。该实验室目前面向 AI 教练、日记和心理健康支持等高风险应用，团队仅 5 人，处于早期阶段。
相关讨论
关注度走势
每天新增来源
- 10月3日新增1个来源（1家媒体、0个账号）
- 10月4日新增0个来源（0家媒体、0个账号）
- 10月5日新增0个来源（0家媒体、0个账号）
- 10月6日新增0个来源（0家媒体、0个账号）
- 10月7日新增0个来源（0家媒体、0个账号）
- 10月8日新增0个来源（0家媒体、0个账号）
- 10月9日新增0个来源（0家媒体、0个账号）
- 10月10日新增0个来源（0家媒体、0个账号）
- 10月11日新增0个来源（0家媒体、0个账号）
- 10月12日新增0个来源（0家媒体、0个账号）
- 10月13日新增0个来源（0家媒体、0个账号）