热门

最新

红包

立Flag

投票

同城

发布
weixin_40912980
exploit-cat
2 年前
trueweixin_40912980

Minish Lab发布Model2Vec：从任意句子转换器中提取小型超快速模型的AI工具

Model2Vec是一种蒸馏工具，可以为各种自然语言处理任务创建小型、快速且高效的模型。与传统模型通常需要大量数据和训练时间不同，Model2Vec无需训练数据即可运行，实现了前所未有的简便性和速度。

使用Model2Vec的蒸馏过程非常快。根据发布信息，使用MPS后端，在2024款MacBook上只需30秒即可蒸馏出一个模型。这种效率是在没有额外训练数据的情况下实现的，与传统依赖大规模数据集进行训练的机器学习模型有显著区别。蒸馏过程将一个句子转换器模型转换为一个小得多的Model2Vec模型，将其大小从1.2亿参数减小到仅750万参数。生成的模型在磁盘上只有30MB，非常适合在资源受限的环境中部署。

阅读全文请访问：https://www.marktechpost.com/2024/09/25/minish-lab-releases-model2vec-an-ai-tool-for-distilling-small-super-fast-models-from-any-sentence-transformer/

GitHub: https://github.com/MinishLab/model2vec?tab=readme-ov-file

HF页面: https://huggingface.co/minishlab

评论
8
  • 复制链接
  • 举报
下一条：