热门

最新

红包

立Flag

投票

同城

发布
weixin_36025176
01268
2 年前
trueweixin_36025176

Meta宣布推出第二代推理芯片MTIAv2。
* 708TF/s Int8 / 353TF/s BF16
* 256MB SRAM，128GB内存
* 90W热设计功耗（TDP）。每个节点24颗芯片，每个机架3个节点。
* 灵活性的标准PyTorch堆栈（Dynamo, Inductor, Triton）

该芯片采用台积电5纳米工艺制造，完全可以通过标准PyTorch堆栈进行编程，通过Triton驱动软件内核。

这款芯片是一款推理性能强大的产品，软件工作完全由PyTorch团队驱动，使得可用性成为首要考虑；看到它在Meta的各种工作负载上运行非常令人振奋。
https://ai.meta.com/blog/next-generation-meta-training-inference-accelerator-AI-MTIA/

11
225
  • 复制链接
  • 举报
下一条：