Dharma-AI介绍VocabX词表优化方法 称可降低77%推理成本

Dharma AI 介绍了针对特定领域小语言模型的词表优化方法 VocabX，称在不改动基座模型的前提下，通过依据 token 推理成本而非出现频率重构词表，将推理成本降低了 77%。 Dharma AI 表示，相关测试数据来自目前仍在同行评审中的论文版本，正式发表前可能发生变动，完整方法与实验记录将在后续发布的论文中公布。

AI 根据报道生成 · 51 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。