当需要经历multiagent得到优质结果时
往往会遇到一个问题 就是内容生成时间较长
因为节点式传输总是由 A-->B-->C 的串行
当然,也存在A -->B,C的这种
可不论怎样,你总要从上一个节点拿到所有output后,才输入进下一个agent
这就会导致整体效率非常缓慢
但当我们规范了所有的input 和output数据结构后
这个过程将得以加速
比如在节点1的输出结果是
{kv1,kv2,kv3,kv4,kv5}
之前只能全部输出后,送入节点2
但实际上可以分批处理成{kv1}送入节点2,{kv2}送入节点2
把串行流程转化为并发处理,拿回结果时也会是并行的
这很适合标准化输出的multiagent场景,大家有想到什么类似这种效率提升后,对体验有巨幅影响的场景吗?