很多人都在推荐 Azure OpenAI(Azure OAI),我们 team 在工作上用的也是它。因为 Azure OAI 本质上 serving/client 和 OAI 是不同的,有很多代理可以把这个不同弥合。这里有点 tricky 的是原生 OAI 风格的 function calling:我们在用的是 LiteLLM,几个月之前找了一圈只有它支持 OAI 原生 function calling,不知道现在还有没有其他选项。
https://github.com/BerriAI/litellm/