开发者可以在 ai.nvidia.com 免费试用 NVIDIA 微服务。《英伟达发布超强AI芯片及多项新技术》的关键要点总结: 1. 英伟达CEO黄仁勋在GTC 2024大会上发布了新一代AI芯片Blackwell B200,它是专门针对超大规模参数大模型设计的,性能超越H100 GPU,拥有2080亿个晶体管,采用台积电4NP工艺,能够支持训练10万亿参数的AI模型。 2. B200 GPU相比H100在成本和能耗上降低了高达25倍。例如,以前训练一个1.8万亿参数模型需8000个GPU和大量电力,现在只需2000个Blackwell GPU即可实现,且功耗大幅下降。 3. 英伟达推出了GB200 NVL72集群方案,集成了36个CPU和72个Blackwell GPU,具备强大的AI训练和推理能力,可用于部署更大规模的AI模型,如可容纳27万亿参数的模型,而目前的GPT-4约为1.7万亿参数。 4. NIM(Nvidia Inference Manager)是一种新型AI部署技术,它将优化的推理引擎、API和AI模型封装于容器中,方便用户在各种环境中(云端、本地服务器等)快速部署和运行AI模型,无论是开源模型还是私有模型,并支持老旧NVIDIA GPU的AI推理,显著降低用户采购新硬件的成本。 5. Project GR00T是英伟达推出的人形机器人通用基础模型平台,旨在帮助机器人理解和处理多种类型的数据输入(如文本、语音、视频等),进而执行复杂动作并与现实世界互动,助力全球多个顶尖机器人研究团队在通用机器人技术领域取得突破。 6. Earth-2云平台是一项气候模拟技术,结合CUDA-X微服务软件和CorrDiff GenAI模型,能够高效生成高分辨率的地球气候模拟,比现有数值模型快上千倍,同时更加节能。Earth-2 API提供实时天气预测和预警功能,有助于改善灾害响应和挽救生命,并通过与Omniverse集成,增强了对真实天气数据的三维可视化和模拟分析。 7. 英伟达发布Omniverse Cloud API,将Omniverse的核心功能整合进现有软件应用中,简化工作流程,加速创建用于工业应用的数字孪生体,并与Vision Pro等工具深度集成,提升视觉计算效率,为企业节省成本。