Circuit Breaker Labs 希望让 AI 对儿童（以及你）更安全

Circuit Breaker Labs 开发模拟不同年龄、背景、语言和文化用户的 AI agents，测试模型识别危险及心理伤害互动的能力。该公司与人类领域专家构建模拟用户，用真实语言、俚语、coded language 和 typos 进行 red-team 测试，每天运行数万至数十万次模拟互动。目前公司作为高风险 AI 应用的安全测试实验室运营，并通过专有评分方法生成可审计、可解释的分数。