一个小提示 - 直接以8位加载Llama 3 70B似乎会严重降低性能,所以如果可能的话,我建议以半或全精度进行评估。感谢阅读 🤗再次提醒,可以在这里找到模型:https://huggingface.co/collections/hamishivi/tulu-2-llama-3-update-6674a1cbd1bb4d33b5dec246