EventPast event
Circuit Breaker Labs 推出 AI 心理安全红队测试平台
Start here
AI overview
2026年10月，Circuit Breaker Labs 推出由 AI 智能体组成的“碰撞测试假人”红队测试平台，模拟不同年龄、背景、语言和文化的用户，检测模型能否识别危险及心理有害的对话。模拟还原真实口语、俚语、隐语和错别字，每天运行数万到数十万次交互，并用专有评分方法给出可审计、可解释的分数。该平台目前面向 AI 教练、日记和心理健康支持等高风险应用，团队仅 5 人，处于早期阶段。
Generated by AI from reports · Updated 10 days ago
Latest update
Circuit Breaker Labs 想让孩子（和你）用上更安全的 AIProgress timeline
Oct 3
- TechCrunch AICircuit Breaker Labs 想让孩子（和你）用上更安全的 AI
Circuit Breaker Labs 打造了一支由 AI 智能体组成的“碰撞测试假人”队伍，模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试，检测其能否识别危险、心理有害的对话。这些模拟会还原真实口语、俚语、隐语和错别字，每天运行数万到数十万次交互，再用专有评分方法给出可审计、可解释的分数。该实验室目前面向 AI 教练、日记和心理健康支持等高风险应用，团队仅 5 人，处于早期阶段。
Related discussion
Attention trend
New sources per day
- Oct 3New1 sources (1 outlets,0 accounts)
- Oct 4New0 sources (0 outlets,0 accounts)
- Oct 5New0 sources (0 outlets,0 accounts)
- Oct 6New0 sources (0 outlets,0 accounts)
- Oct 7New0 sources (0 outlets,0 accounts)
- Oct 8New0 sources (0 outlets,0 accounts)
- Oct 9New0 sources (0 outlets,0 accounts)
- Oct 10New0 sources (0 outlets,0 accounts)
- Oct 11New0 sources (0 outlets,0 accounts)
- Oct 12New0 sources (0 outlets,0 accounts)