英伟达最强GPU今年发货 成本和能耗较前代改善25倍!
在整个AI算力硬件的搭建中,英伟达毫无疑问站在最顶端,其GPU的动态发展,直接关乎了行业的发展。
在今天开幕的GTC 2024上,黄仁勋带来了新的B200 GPU,其拥有2080亿个晶体管,可提供高达20petaflops的FP4算力。
至于GB200,就是将两个GPU和一个Grace CPU结合在一起,可为LLM推理工作负载提供30倍的性能,同时还可能大大提高效率。
英伟达也形象给出了提升的高度,比如训练一个1.8万亿个参数的模型以前需要8000个Hopper GPU和15兆瓦的电力。如今,2000个Blackwell GPU就能完成这项工作,耗电量仅为4兆瓦。
在具有1750亿个参数的GPT-3 LLM基准测试中,GB200的性能是H100的7倍,而训练速度是H100的4倍。这些显著性能的提升下,新一代 NVLink交换机起到了关键效果,可让576个GPU相互连接,双向带宽达到每秒1.8TB。
按照黄仁勋的说法,搭载B200芯片的GB200 Grace Blackwell计划今年晚些时候发货,英伟达目前并未公布GB200以及整套方案的售价信息,但目前的现状是有钱你也不一定能买到,中国厂商也是看看就行了。
黄仁勋表示,Blackwell带来了“令人难以置信的兴奋”:“我们将会把Blackwell推广给全球的AI公司,全球各地都在签约启动Blackwell,这款Blackwell将成为我们历史上最成功的产品发布。”
Blackwell平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI,而成本和能耗比前身低25倍。
本文链接:http://www.hongyuedao.com/content-12-687-1.html
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
-
火灾事故致16死,亲历者躲小房间等待救援,四川省成立调查组彻查!
以下是为您生成的文章: 火灾事故致 16 死,四川省成立调查组彻查 近日,一起令人痛心的火灾事故震惊了众人。这场灾难导致了 16 人不 [详细] -
《歌手2024》第七期歌单公布,今晚8点不见不散!
《歌手2024》第七期歌单 《歌手2024》第七期的歌单已经在今天正式公布,今晚(6月21日)20:00将进行直播。以下是本次歌单的具体内容: 歌 [详细] -
棋逢对手阵容搭配,王者荣耀模拟战S1赛季*强大魏天下阵容搭配及玩法
老铁们,大家好,相信还有很多朋友对于棋逢对手阵容搭配和王者荣耀模拟战S1赛季*强大魏天下阵容搭配及玩法的相关问题不太懂,没关系,今天 [详细] -
孙悟空出装 s36猴子出装
一、王者荣耀孙悟空,应该怎么出装呢哈喽,大家好,我是天问说游。今天我们要讨论一个话题。就是王者荣耀孙悟空应该怎么出装?我们都知道王 [详细] -
三国群侠传 三国单机手游
一、三国侠传全功略一些网上攻略没有的物品说明【彩珠环】避瘴3【镇邪腰带】破邪3【流风冠】鬼才2快速射击好象只要128以上的速度就可以不停 [详细] -
乌龟能吃吗?全面解析乌龟与食用的关系
乌龟能吃吗?全面解析乌龟与食用的关系 在探讨乌龟是否能吃这个问题之前,我们首先需要明确乌龟的种类繁多,并不是所有的乌龟都适合作为食 [详细] -
三国志战略版剧本阵容搭配 三国志战略版剧本顺序一览表
大家好,感谢邀请,今天来为大家分享一下三国志战略版剧本阵容搭配的问题,以及和三国志战略版剧本顺序一览表的一些困惑,大家要是还不太明 [详细] -
斗战神重枪神将 斗战神重枪神将的定位以及装备选择问题
一、斗战神重枪神将的定位以及装备选择问题如题,关于神将的筋骨*近一直被吵吵的很凶,但是基本都是黑的,仔细看了回复,本人不才,简单谈 [详细] -
暗影部落阵容搭配,暗影部落小程序萨满流派攻略大全
各位老铁们好,相信很多人对暗影部落阵容搭配都不是特别的了解,因此呢,今天就来为大家分享下关于暗影部落阵容搭配以及暗影部落小程序萨满 [详细] -
热血江湖刺客加点 热血江湖刺客加点顺序
一、热血江湖刺客加点详细点1-10级(9点):荆轲1三花1连环1必杀0心神611-35级(25点,合计34点):荆轲1三花1连环1必杀0心神11致手2036-60级(5 [详细]