MLX Swift 示例也可以使用 QLoRA 微调 Llama 3.2。

这是在我的 iPhone 15 Pro 上以超过 150 toks/sec 的速度进行的 1B 微调。以这个速度，只需几分钟就可以在设备上完全学习一些不错的适配器。