热门

最新

红包

立Flag

投票

同城

发布
weixin_42518981
awnihannun
2 年前
trueweixin_42518981

Llama 3.1 在 MLX 中：

1. pip install -U mlx-lm
2. mlx_lm.generate --model mlx-community/Meta-Llama-3.1-8B-Instruct-4bit --prompt "Hello!" --temp 0

在 🤗 Hub 上预转换的模型: https://huggingface.co/collections/mlx-community/llama-31-66a010f96106bf810eef80bc

感谢 @huhucs2018 和 @13661398245 团队的移植

5
56
  • 复制链接
  • 举报
下一条：
- ChatGPT 3.5 于 2022年11月30日发布。- 开源模型在2024年7月追赶上OpenAI产品线的质量。可能是历史上最快贬值的资产。