热门

最新

红包

立Flag

投票

同城

我的

发布
weixin_40593030
JOKERLUOLIN
1 年前
trueweixin_40593030

我们通过使得稀疏微调(SFT)在LLMs(如Llama 2)上既参数又内存高效化,实现了性能的提升!

SFT指令调整性能通常优于具有可比较速度和内存负载的LoRA。

论文链接:
https://arxiv.org/abs/2401.16405
代码链接:https://github.com/AlanAnsell/peft (SFT PEFT) https://github.com/ducdauge/sft-llm (实验)

@不思蜀小众旅行 @曾根安娜 @闫勇臣 @Aelius Censorius

CSDN App 扫码分享
分享
评论
9
  • 复制链接
  • 举报
下一条动态
立即登录