TechCrunch · AI· Aditya Mehta·· 4 小时前AI 评分44
Goodfire 发布"由内而外"AI 智能体监控器，成本大幅降低
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI 导读
AI 可解释性初创公司 Goodfire 周四发布新型 AI 智能体监控器，通过读取模型内部激活信号而非复读其输出进行监督。该系统已在 Baseten 平台上线，用户可自定义监控攻击性黑客、化学与生物武器滥用等风险并设置自动响应。
来源：TechCrunch · AI · techcrunch.com