热门

最新

红包

立Flag

投票

同城

我的

发布
weixin_41975548
umiyuki_ai
2 年前
trueweixin_41975548

昨今,针对LLM(大型语言模型)自夸基准得分的现象,开发团队“狸”对llm-jp-13b进行了微调,创建了一个被称为Tanuki-Zero的模型,并宣布了这一消息。看起来这个模型似乎是开玩笑地制作的。有人说其基准得分超过了GPT-3.5!但实际上,是因为它直接在基准测试上进行了学习。这完全是作弊,所以得分当然高。总的来说,他们想要表达的是LLM的基准得分根本不可靠。只看基准得分,我们也不能说它有多么厉害或不厉害,这是个问题。→RT

CSDN App 扫码分享
分享
评论
37
  • 复制链接
  • 举报
下一条:
Transformer的缩放法则不是线性的,而是幂律的,所以即使将训练的计算量增加10倍,损失也只会减少12%(性能不会提升10倍),因此,无论投入多少资金,性能都很难大幅提升,普遍都会变得越来越困难。到某个点就会达到“再怎么投入资金也完全没意义”的阶段。或者说已经达到了这个阶段,因此才会考虑改变架构,也许这就是为什么开始尝试使用MoE(Mixture of Experts)的原因吧。https://www.youtube.com/watch?v=n1QYofU3_hY
立即登录