热点事件观察中

Goodfire推出模型内部监控器

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Goodfire 发布了一种新的 AI 智能体监控方案，通过探针读取模型内部激活信号，而非重新阅读模型输出，并已通过模型托管平台 Baseten 向客户上线。Baseten 客户可自行选择监控哪些风险（包括攻击性黑客行为、化生武器滥用和奖励黑客），并决定自动响应方式：记录事件、转人工审查或直接拒绝请求。在 Kimi K3 上约 1500 次会话的测试中，该监控成本约 51 美元，而用较便宜的 AI 模型逐步检查需 233 美元、顶级模型约 10000 美元；探针捕获了 94% 的恶意黑客会话，同时将 8.7% 的无害会话送交二次检查。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道，了解事件的不同侧面。

10月9日

00:00
TechCrunch · AI
Goodfire 推出 inside-out 监控器，以更低成本拦截失控 AI 智能体
Goodfire 发布了一种新的 AI 智能体监控方案，通过探针读取模型内部激活信号而非重新阅读模型输出，并已在 Baseten 客户中上线。在 Kimi K3 上约 1500 次会话的测试中，监控成本约 51 美元，而用较便宜的 AI 模型逐步检查需 233 美元、顶级模型约 10000 美元；探针捕获了 94% 的恶意黑客会话，并将 8.7% 的无害会话送交二次检查。

本事件热度走势

可比范围当前: 4
可比范围峰值: 1010月9日 01:00
近 24 小时变化: -51%

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。