重磅!老黄带着他的最强AI 芯片来了!性能提高30倍、可支持10 万亿参数 AI 模型
刚刚,英伟达首席执行官黄仁勋在年度 GTC 会议上宣布推出采用Blackwell 架构的B200系列和GB200芯片。
“更大的 GPU!”
B200拥有2080亿个晶体管(H100/H200 上有 800 亿个晶体管),采用台积电4NP工艺制程,可以支持多达 10 万亿个参数的 AI 模型,而OpenAI 的 GPT-3 参数是1750 亿。它通过单个 GPU 提供 20 petaflops 的 AI 性能——单个 H100 最多可提供 4 petaflops 的 AI 计算。
值得注意的是,Blackwell B200 并不是传统意义上的单一 GPU。它由两个紧密耦合的芯片组成,这两个芯片通过 10 TB/s NV-HBI(Nvidia 高带宽接口)连接进行连接,以确保其能够作为单个完全一致的芯片正常运行。
“Blackwell 将成为我们历史上最成功的产品发布,”黄仁勋说道。Blackwell 专为万亿参数生成人工智能模型而设计,它在推理方面击败了 Hopper:输出提高了 30 倍。老黄还表示,Blackwell 驱动的设备可以再次降低计算成本和能源需求。
新芯片预计将于今年晚些时候上市,但价格不知。据悉,AWS、戴尔科技、谷歌、Meta、微软、OpenAI 和特斯拉计划使用 Blackwell GPU。
此外,英伟达还发布了GB200 NVL72液冷机架系统和一款名为 HGX B200 的服务器主板。
“我们实际上是一家人工智能铸造厂”黄仁勋说道。
英伟达还推出了 Nvidia 推理微服务:NIM,可以将模型和依赖项整合到一个简洁的包中,根据用户的堆栈进行优化,并与易于使用的 API 连接。
黄仁勋表示,英伟达表示正认真考虑从根本上重新设计整个底层软件堆栈,希望借AI之力为人类生成更优质的代码。“这就是我们未来编写软件的方式”——通过组装一堆人工智能。据悉,英伟达内部已运行 NIM。
黄仁勋还表示,机器人技术的“ChatGPT”时刻可能即将到来,机器人技术与人工智能和 Ominverse/Digital Twin 工作一起成为英伟达的关键支柱。
英伟达希望通过另一个新的 API 集合Project GROOT来推动人形机器人的开发。
网站开发网络凭借多年的网站建设经验,坚持以“帮助中小企业实现网络营销化”为宗旨,累计为4000多家客户提供品质建站服务,得到了客户的一致好评。如果您有网站建设、网站改版、域名注册、主机空间、手机网站建设、网站备案等方面的需求...
请立即点击咨询我们或拨打咨询热线:13245491521 13245491521 ,我们会详细为你一一解答你心中的疑难。 项目经理在线