上线前别只看平均 token 数

分词器质量与安全审计台

把规范化、特殊 token、不可见字符、混合脚本、offset 与截断放进同一张检查表。这里的告警是可解释的最小规则,不替代业务侧 Unicode 安全策略或红队测试。

审计输入

样例含全角字符、形似拉丁字母的西里尔字符、特殊 token 字面量、零宽空格和 emoji。

审计结果

原始文本
模型实际接收

告警与解释

截断预览