Baseten合作推出开源模型安全项目Beacon

2026年10月10日，Baseten在工程博客宣布与Goodfire AI合作推出Project Beacon，大规模为开源模型引入主动、内联的推理安全控制。该项目通过读取生成中的模型内部激活来检测不安全事件，并在输出到达用户或工具前采取行动。激活监测器与文本监测器并行分类且不阻塞生成，仅在两者不一致时才引入前沿模型。Baseten计划在接下来几个月内从选定模型和监测行为起步，并与少数早期合作伙伴推向市场。

AI 根据报道生成 · 6 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。