奥特曼不仅仅赌对 了,而且在参数量激增到1750亿之后,量变引起了质变。GPD3产生了一定程度的智能涌现现象,即使在没有经过专门训练的领域,它也能表现出出色的能力,一下子就领先于其他模型,可谓一骑绝尘。这种巨大的差距一旦形成,就只能被动地追赶。百度在看到大规模预训练语言模型的威力后,加大了在这个领域的投入,将GBT的自回归域训练方式融入到2021年推出的千亿参数大模型3.0中。然而,在这段时间内,Open AI已经开始通过人工反馈强化学习来加强GPT的对话能力。结果,Chat GT在2022年底横空出世并爆红,上线两个月日活跃用户就破亿。看到Chat GT的巨大商业价值,谷歌和百度也只能匆忙应对。