10M 参数的安全探针,在三项指标上压过了 8B 的守门员模型
蚂蚁 inclusionAI 刚在 Hugging Face 放出 SingProbe,给 DeepSeek-V4.1-Flash-1017 配了个流式安全护栏
它不另外跑一个大模型来审内容,而是直接读基座模型第 12、25、39 层隐状态,生成过程中逐 token 打分
查询意图 F1 0.8756、响应安全 F1 0.8668、流式安全响应 AUC 0.9907,对照的 8B 基线分别是 0.8714、0.8604、0.9640;幻觉检测 AUC 0.7951,略低于 DRIFT 的 0.8000;正常回复的误报率只有 0.009%
权重已在 Hugging Face 开放,配 SGLang 的 token-probe 分支就能跑