MiniMax 大模型为何无法输出“马嘉祺”？稀疏 token 遗忘的内部排查与修复

MiniMax 对 M2 系列的内部排查发现，后训练数据覆盖不均导致低频 token 的 lm_head 表征漂移，出现保留理解能力却无法正确生成的现象。