Circuit Breaker Labs：用模拟用户做红队测试，让 AI 在心理安全场景中识别风险

Circuit Breaker Labs 致力于通过跨语言、跨文化的红队测试提升 AI 心理安全。该公司由 Shirali 和 Arul Nigam 兄妹创立，针对 AI 陪伴、心理咨询等高风险场景构建了覆盖不同年龄、口音、俚语和拼写错误的拟真用户模拟智能体，每天可运行数万到数十万次交互，并使用专有评分方法生成可审计的分数。