【转】ChatGPT的技术基础是什么？
ChatGPT的背后是一个叫做语言模型的一个数学模型在发挥作用，换句话说，ChatGPT的背后是一个数学模型。在今天，这项技术显得很强大的原因主要是三个：第一，它用到的计算量很大；第二，它的数据量很大；第三，今天训练语言模型的方法比以前要好很多。
我们今天看到的ChatGPT，就是一个大的语言模型，它就是会挑一个概率最大的、最有可能发生的这样一个文本来给你看。总体来讲，ChatGPT生成结果的过程，是一个用大量的计算资源来计算的过程。它需要非常庞大的数据量来支撑，有很多很多的GPU（电脑处理器）。没有这些东西的话，ChatGPT是做不起来的，而且今天这个ChatGPT，不光是技术，还有很多人工在背后。他们还雇了一家公司，专门负责审核ChatGPT产生的结果。比如说，ChatGPT产生了一百篇摘要，都挺好，我已经分辨不出来了，那么这些人就负责帮我分辨一下，到底哪一篇更像是准确的摘要。
那实际上，你可以看到，ChatGPT背后就是一个语言模型，而这一语言模型的技术是1972年就已经有了的。到现在，经过了五十年，现在行业内其实大家并不觉得它是一个什么了不得的东西。在此以前，这个语言模型其实已经做了很多的事情。
