跳到正文
热点事件观察中

Circuit Breaker Labs入选TechCrunch Startup Battlefield 200,主做AI心理安全红队测试

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

Circuit Breaker Labs入选TechCrunch Startup Battlefield 200,专注于AI心理安全领域的红队测试。公司由Shirali和Arul Nigam兄妹创立,针对AI陪伴、心理咨询等高风险场景,构建覆盖不同年龄、口音、俚语和拼写错误的拟真用户模拟智能体。该公司每天可运行数万到数十万次跨语言、跨文化的交互测试,并采用专有评分方法生成可审计的风险识别分数,旨在提升AI在心理安全场景中的风险识别能力。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月3日
  1. TechCrunch · AI
    Circuit Breaker Labs:用模拟用户做红队测试,让 AI 在心理安全场景中识别风险

    Circuit Breaker Labs 致力于通过跨语言、跨文化的红队测试提升 AI 心理安全。该公司由 Shirali 和 Arul Nigam 兄妹创立,针对 AI 陪伴、心理咨询等高风险场景构建了覆盖不同年龄、口音、俚语和拼写错误的拟真用户模拟智能体,每天可运行数万到数十万次交互,并使用专有评分方法生成可审计的分数。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。