【@PP鲁 @赵乐子 @Excel情报局 @这么强假的吧 @娜塔丽圈圈 我们对重塑470M和2.8B参数密集专家的实验表明,Nexus在使用线性路由器和密集合并(权重平均)的基准重塑MoE上表现优异。】