继良品率低后,英伟达Blackwell又过热,说好的明年初发货呢?

2024-11-19 10:31:46机器之心Pro

发言人将「工程迭代」称为「正常且在意料之中」。

今年的的GTC大会,英伟达将AI芯片的标杆推向了难以想象的高度。

为了帮助世界构建更大、更智能的AI,英伟达首先拿出了世界上最先进的GPU——Blackwell系列。

Blackwell拥有2080亿个晶体管,在同一颗芯片上集成了两个GPU。其两块小芯片之间的互联速度高达10TBps,彻底解决了内存瓶颈和缓存问题。

与前代产品H100相比,Blackwell的性能提升同样令人瞩目,达到了Hopper的30倍。

以训练一个1.8万亿参数的GPT模型为例,如果使用Hopper,需要8000个GPU,消耗15兆瓦电力,训练3个月;而换成Blackwell,仅需2000个GPU,就能在同样的时间内完成,能耗只需4兆瓦,实现了性能和效率的双重突破。

Blackwell的量产问世,无疑将为AI模型训练和人形机器人的发展注入强劲动力,对整个AI应用生态也将产生深远影响。

自3月份发布,6月份宣布投产以来,Blackwell最初定于2024年第二季度发货,全球科技公司都在疯狂求购。

但在原定的发货时间,传出了Blackwell因为良品率低,将推迟发货的消息。

当时,黄仁勋在2025财年第二季度财报电话会议上表示,设计上的问题都已修复,有望在第四季度实现量产。

现在,英伟达的客户又在担心一个新问题,当芯片连接到Nvidia自己的服务器机架时,会过热。

据TheInformation报道,英伟达BlackwellGPU在72核的服务器上暴露了过热隐患。这些服务器每个机架的功耗预计高达120千瓦,过热问题不仅限制了GPU的性能,还可能损坏组件。为此,英伟达不得不多次重新评估服务器机架的设计方案。

这引发了谷歌、Meta和微软等大客户对能否按时在其数据中心部署Blackwell的担忧。

为此,英伟达已要求供应商对机架进行多项设计变更,进一步推迟了预期发货日期。该公司发言人将「工程迭代」描述为「正常且在意料之中」。

此前,由于GPU良率不高的问题,Blackwell的量产计划就推迟了一次。

今年8月,有媒体称Blackwell存在设计缺陷。由于Blackwell是英伟达首个采用MCM(多芯片封装)设计的GPU,在同一个芯片上集成了两个GPU。

这种「二合一」的创新,显然不能再通过传统方式来打造。Blackwell的B100和B200GPU两个型号使用台积电的CoWoS-L封装技术连接两个芯片,该技术依赖于配备局部硅互连(LSI)桥接器的RDL中介层,以实现约10TB/s的数据传输速。

然而,由于GPU芯片、LSI桥、RDL中介层和主板基板之间的热膨胀特性不匹配,导致封装结构出现弯曲,从而引发系统故障。

对此,黄仁勋表示:「我们的Blackwell芯片存在设计缺陷,虽然可以正常使用,但该设计缺陷导致良率低下」。

更多详情可参见:《100%英伟达的错:黄仁勋确认Blackwell缺陷修复,明年初出货》

最终修订版的BlackwellGPU直至10月底才开始量产,这意味着英伟达最快也要等到明年1月底才能向客户交付这些处理器。

而Blackwell正在面临前所未有的需求。近期,黄仁勋在摩根士丹利举办的投资者会议上透露,Blackwell已经全部售罄。摩根士丹利分析师JoeMoore指出,英伟达高管称,BlackwellGPU产品的订单积压已达12个月。

AWS、CoreWeave、谷歌、Meta、微软和甲骨文等科技巨头,已经采购了英伟达及其制造合作伙伴台积电在未来四个季度内能生产的所有BlackwellGPU。

这种旺盛的需求表明,尽管AMD、英特尔以及各大云服务商正努力分得一杯羹,英伟达在AIGPU的领导地位还将进一步巩固并扩大。

作为人类历史上估值最高的股票,英伟达将于本周三公布收益。与8月份的情况相似,在类似的时间节点,又传出了有关下一代Blackwell芯片出问题的消息。

在英伟达承认Blackwell存在设计缺陷导致良品率低后,当时刚创下历史新高的英伟达股票收跌2.81%,又回落到了140美元以下。

这一次,英伟达的股价又会发生怎样的变化呢?

https://www.theinformation.com/articles/nvidia-customers-worry-about-snag-with-new-ai-chip-servers

https://www.tomshardware.com/pc-components/gpus/nvidias-data-center-blackwell-gpus-reportedly-overheat-require-rack-redesigns-and-cause-delays-for-customers

猜你喜欢:

网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图