热门

最新

红包

立Flag

投票

同城

我的

发布
devkrrish
Anoxia D
1 年前
truedevkrrish

5️⃣ LiteLLM 新增内容

🦙 支持 Llama 3 副本和 Bedrock
🔥 支持 Mistral API 的 'response_format'
🛠️ 修复了在使用流式处理时聊天完成度大于2的错误,感谢
@不敢说话不敢动
🛠️ 修复了 vertex ai stream=false 的错误
💪 将被拒绝的代理调用日志记录到 @zy yuan

CSDN App 扫码分享
分享
评论
11
  • 复制链接
  • 举报
下一条:
🤖 离线LLMs的新模型层出不穷,与其看测评不如亲自上手试试。视频里是Phi 3 4k mini在我的MBP M1上的实测效果,可以预想到在更强的硬件上基本可以秒出,但聪明程度也就3.5的水平了🧐- 工具:LM Studio https://lmstudio.ai- 支持:Llama 3/Phi 3/Falcon/Gemma等
立即登录