o1 强调了 AI 产品构建者面临的持续权衡。

其推理能力强大。

但这些能力伴随着增加的 token 使用量和延迟。

这种紧张局势定义了当前的格局：

• 更强大的模型 = 更高的成本，较慢的响应
• 更快、更便宜的模型 = （可能）较低的准确性

目标是为每个用例找到最佳平衡。

在决定使用哪种模型时需要考虑的一些问题：

> 实际需要什么程度的推理？
> 任务的时间敏感性如何？
> 对增加成本的容忍度是多少？