热门

最新

红包

立Flag

投票

同城

我的

发布
weixin_41160206
terence zhang
2 年前
trueweixin_41160206

当需要经历multiagent得到优质结果时
往往会遇到一个问题 就是内容生成时间较长
因为节点式传输总是由 A-->B-->C 的串行
当然,也存在A -->B,C的这种

可不论怎样,你总要从上一个节点拿到所有output后,才输入进下一个agent

这就会导致整体效率非常缓慢

但当我们规范了所有的input 和output数据结构后
这个过程将得以加速

比如在节点1的输出结果是
{kv1,kv2,kv3,kv4,kv5}

之前只能全部输出后,送入节点2

但实际上可以分批处理成{kv1}送入节点2,{kv2}送入节点2

把串行流程转化为并发处理,拿回结果时也会是并行的

这很适合标准化输出的multiagent场景,大家有想到什么类似这种效率提升后,对体验有巨幅影响的场景吗?

CSDN App 扫码分享
分享
2
30
  • 复制链接
  • 举报
下一条:
【验证:附实演】Nijijourney 个性化功能的使用方法① 在官网点击“Tasks -> Rank Niji”② 从两张插画中选择一张自己喜欢的→大约选择200张③ 在创建插画时,在提示词后输入“--p”与“woman”标签的普通插画相比,会自动生成符合自己喜好的风格↓
立即登录