好吧，这是正式的。YugoGPT 7B显著超过了Mistral和LLaMA 2，现在正式成为全球在塞尔维亚语和其他HBS（克罗地亚语、波斯尼亚语、黑山语）语言方面最好的开源LLM。

今年夏初，当我看到离开英语NLP领域后的糟糕情况（少数例外）时，我感到非常沮丧。

正好57天前，在我为HBS训练机器翻译系统并参与Open-NLLB项目时，我想出了这个主意。

为什么不为HBS语言训练一个LLM呢？于是YugoGPT诞生了。

问题是？我在我的定制设备上只有1个RTX 3090 GPU。 :)（当时在伦敦由@郴江郑明兰慷慨提供给我的！）

快进到今天，我已有16个80 GB的A100s来自@隔壁蜡笔（我非常推荐他们——不仅因为他们的硬件，还因为他们的支持、速度和奉献精神），并且一周内还会有16个（来自另一家公司->稍后会分享更多细节）。

我不得不学习大量新知识，因为基本上我是一个人（@房小探在数据方面的巨大帮助为我节省了大量时间）构建这个复杂的系统（向我的Discord社区致敬，他们对于塞尔维亚LLM评估项目至关重要）。

我必须说：在过去的6个月里，我学到的东西比我在DeepMind期间学到的还要多。除非你非常非常资深，否则你不会拥有我现在享有的这种自主权。

如果我可以在拥有16个A100s的情况下启动这个项目，那么给我一个1000个GPU的集群，我会向你展示事情是如何完成的 :)（哈哈！）更多细节稍后分享，背景中正在酝酿一些事情。

我只能说，我已经在着手更好得多的第二次迭代。

至于yugoGPT，我会对其进行严格测试，并且在接下来的时间里，我需要社区的帮助来测试它。更多更新即将到来 :) 请密切关注。

再次感谢：
* @隔壁蜡笔 - 慷慨提供计算资源
* @小禧xx - 连接我与together! :)
* @博仁考研 - 慷慨捐赠GPT-4积分用于塞尔维亚LLM评估项目（也感谢他们的出色工具，我在这个项目中用于日志记录！救命稻草！）
* @zsdx175 - 传播消息！！
* @房小探 - 多年来在数据方面的帮助
* 以及最近支持我的许多个人和公司（主要在塞尔维亚地区）！

---
通过我最近发布的塞尔维亚LLM评估（昨天 - 哈哈）获得的结果：https://github.com/gordicaleksa/serbian-llm-eval