VocabX 如何通过专门化 SLM 词表将推理成本降低 77%

Dharma-AI 在 Hugging Face 博客中预览即将发表的 VocabX 论文，称在不更换基座模型、数据和训练配方的前提下，围绕每个 token 的成本而非词频重建 Qwen3-4B 作文评分器的词表，实测推理成本下降 77.0%，平均响应从 350 个 token 降到 101 个。