热门

最新

红包

立Flag

投票

同城

发布
weixin_35799294
郑瑜伊
2 年前
trueweixin_35799294

有机会试用了来自us-central的gpt-4o API，文本生成速度相当快。相比于https://thefastest.ai，这个性能是gpt-4-turbo的5倍TPS，类似于许多llama-3-8b的部署。
TTFT：0.34秒
Tokens：100（124 tokens/秒）
总时间：1.11秒

评论
10
  • 复制链接
  • 举报
下一条：
GPT-4o 也能够处理和生成图像标记，详情请见 https://openai.com/index/hello-gpt-4o/。我在想为什么他们没有展示这一点，但图像生成几乎肯定是基于扩散的，因此可能非常慢。