Project Beacon：大规模为开源模型引入安全信号

Baseten与Goodfire AI合作宣布Project Beacon，大规模为开源模型引入主动、内联的推理安全控制。该项目通过读取生成中的模型内部激活来检测不安全事件，并在输出到达用户或工具前采取行动；激活与文本监测器并行分类且不阻塞生成，仅在两者不一致时才引入前沿模型。Baseten计划在接下来几个月内从选定模型和监测行为起步，并与少数早期合作伙伴推向市场。