我们引入了分解技术，通过将预填充和解码分配到不同的GPU上，从根本上消除了干扰。请求首先进入一个预填充工作器生成第一个令牌。然后，它迁移到解码工作器，并一直逐个生成令牌，直到完成。