SambaNovaAI推出了全球最快的AI平台。这个平台通过以全精度运行Llama 3.1 405B,以每秒132个tokens的惊人速度打破了性能基准。这一突破使AI推理速度比现今最先进的GPU快10倍,而Llama 3.1 405B——仅在SambaNova的平台上可用——在16位精度下以每秒超过100个tokens的速度运行,这是一个独特的提供。最棒的是什么?它还提供免费的API访问。你可以在这里访问它> https://cloud.sambanova.ai