热门

最新

红包

立Flag

投票

同城

发布
weixin_34308792
DataStax
2 年前
trueweixin_34308792

打造卓越的电影搜索体验与向量搜索 https://x.com/i/broadcasts/1RDGlyXRZDdJL

评论
10
  • 复制链接
  • 举报
下一条：
量化后的Gemma 2B在我的iPhone 15 pro上通过MLX Swift运行得非常快。代码和文档：https://github.com/ml-explore/mlx-swift-examples/blob/main/Applications/LLMEval/README.md在@msysorg的基准测试中，其性能可与GPT 3.5 turbo和Mixtral 8x7B相媲美，但可以高效地在iPhone上运行。真是太疯狂了。