Goodfire 发布基于内部激活信号的低成本 AI 智能体监控工具

Goodfire 推出新型 AI 监控工具，通过读取模型前向传播的内部激活信号而非单独运行大模型来检测恶意行为。在 Kimi K3 的测试中，该方法以约 51 美元的成本监控了 1500 个会话，捕获了 94% 的恶意黑客行为，且仅增加不到 2% 的响应延迟。该工具已面向 Baseten 客户开放，支持针对黑客攻击、生物武器滥用等风险的自动化响应。