开源LLMs是否可以在单个查询中执行一系列指令？我们发现效果并不好。然而，它们可以通过以下方式学习这种能力：- 使用来自公共SFT混合物的示例自动增加带有指令链的示例- 对它们执行顺序指令调整这提高了性能在：- 推理任务中- 多语言任务中（翻译然后回答）- 多模态任务中（题注然后回答）📄 https://arxiv.org/abs/2403.07794🧑💻 https://github.com/hanxuhu/Seq_IT@山空夜雨 @牧羊的男孩儿 @涂玮
