热门

最新

红包

立Flag

投票

同城

我的

发布
weixin_41975548
umiyuki_ai
1 年前
trueweixin_41975548

ollama-grid-search。这是一个可以在ollama本地LLM上实现类似AutoWebUI中的XYZPlot自动化的工具。最近有大量的本地LLM种类。比如,当你想写小说时,最终使用哪个模型和参数是最好的呢?如果有20个候选模型,一个一个加载并生成输出会很麻烦。使用这个工具可以自动对所有模型生成输出。据说可以轻松进行模型比较。
https://github.com/dezoito/ollama-grid-search

CSDN App 扫码分享
分享
评论
11
  • 复制链接
  • 举报
下一条:
llmsearch。LLM推理时的temperature和top_k等参数的各种组合进行逐一评估,寻找最佳参数设置的工具。这种工具也很重要。https://www.reddit.com/r/LocalLLaMA/comments/1dbkqc1/i_built_a_small_tool_to_run_hyperparameter_search/
立即登录