英伟达芯片,最新路线图

2023-10-11 19:22:29 来源:网络

众所周知,随着生成式AI的大热,英伟达正在数据中心领域大杀四方,这也帮助他们实现了更好的业绩。根据公司公布的数据,截至 2023 年 7 月 30 日的第二季度,英伟达收入为 135.1 亿美元,较上一季度增长 88%,较去年同期增长 101%。

不过,英伟达目前的业绩预期很多都是基于当前的芯片和硬件所做的。但有分析人士预计,如果包含企业 AI 及其 DGX 云产品,该数据中心的市场规模将至少是游戏市场的 3 倍,甚至是 4.5 倍。

瑞银分析师Timothy Arcuri也表示,英伟达目前在DGX云计算方面的收入约为10亿美元。但在与客户交谈后,他认为,该公司每年可能从该部门获得高达100亿美元的收入。他给出的理由是Nvidia仍然可以在DGX云上添加额外的产品,包括预先训练的模型,访问H100 GPU等等。他说,现在这些领先GPU仍然“非常难”获得访问,能够根据需要扩大和缩小规模,并与现有的云或内部部署基础设施“基本上无缝集成”。

因此,英伟达在最近公布了一个包括H200、B100、X100、B40、X40、GB200、GX200、GB200NVL、GX200NVL 等新部件在内的产品路线图,这对英伟达未来的发展非常重要。

数据中心路线图

根据servethehome披露的路线图,英伟达的一项重大变化是他们现在将其基于 Arm 的产品和基于 x86 的产品分开,其中 Arm 处于领先地位。作为参考,普通客户现在甚至无法购买 NVIDIA Grace 或 Grace Hopper,因此在 2023-2025 年路线图的堆栈中显示它是一个重要的细节。以下是 NVIDIA 提出的路线图:

图片

在Arm方面,英伟达计划将在2024年推出GH200NVL,在2024年推出GB200NVL,然后在2025年推出GX200NVL。我们已经看到 x86 NVL 系列与NVIDIA H100 NVL一起推出,但这些都是基于 Arm 的解决方案。然后是 2024 年推出的 GH200NVL。还有快速跟随的 GB200NVL,然后是 GX200NVL。还有非 NVL 版本。

在NVIDIA 宣布推出双配置的新型 NVIDIA Hopper 144GB HBM3e 型号(可能最终成为 GH200NVL)的时候,我们介绍了具有 142GB/144GB 内存的 GH200 (非 NVL)。据介绍,与当前一代产品相比,双配置的内存容量增加了 3.5 倍,带宽增加了 3 倍,包括一台具有 144 个 ArmNeoverse 核心、8 petaflops 的 AI 性能和 282GB 最新 HBM3e内存技术的产品。

图片

GB200 将成为 2024 年的下一代加速器,GX200 将成为 2025 年的下一代加速器。

面向 x86 市场,英伟达预计 2024 年将推出 H200,它会在 Hopper 架构上进行更新,并具有更多内存。B100和B40是下一代架构部件,随后是2025年的X100和X40。考虑到B40和X40位于“企业”赛道上,而当前的L40S是PCIe卡,因此这些可能是PCIe卡。

在网络方面,Infiniband 和以太网都将于 2024 年从 400Gbps 发展到 800Gbps,然后在 2025 年达到 1.6Tbps。鉴于我们已经在 2023 年初研究了 Broadcom Tomahawk 4 和交换机,并看到了合作伙伴今年的800G Broadcom Tomahawk 5 交换机,感觉有点像 NVIDIA 以太网产品组合在以太网方面明显落后。Broadcom 的 2022-2023 年 800G 系列似乎与 NVIDIA 的 2024 年升级保持一致,NVIDIA 在 2023 年中期宣布了 Spectrum 4,而Tomahawk 5 则在大约 21-22 个月前宣布。在业界,芯片发布与投入生产之间通常存在很大的差距。

图片

由此可见,在 Infiniband 方面,NVIDIA 是孤军奋战。从该路线图中,我们没有看到 NVSwitch/NVLink 路线图。

其他人工智能硬件公司应该会被 NVIDIA 的企业人工智能路线图吓到。在人工智能训练和推理领域,这意味着 2024 年将更新当前的 Hopper,然后在 2024 年晚些时候过渡到 Blackwell 一代,并在 2025 年采用另一种架构。

在 CPU 方面,我们最近已经看到了令人激动的更新节奏,x86 方面的核心数量之战出现了大幅增长。例如,英特尔的顶级 Xeon 核心数量预计从 2021 年第二季度初到2024 年第二季度将增加 10 倍以上。NVIDIA 在数据中心领域似乎也在紧跟这一步伐。对于构建芯片的人工智能初创公司来说,考虑到 NVIDIA 的新路线图步伐,这现在是一场竞赛。

对于英特尔、AMD,或许还有 Cerebras 来说,随着 NVIDIA 销售大型高利润芯片,他们的目标将会发生变化。它还将基于 Arm 的解决方案置于顶级赛道中,这样它不仅可以在 GPU/加速器方面获得高利润,而且可以在 CPU 方面获得高利润。

一个值得注意的落后者似乎是以太网方面,这感觉很奇怪。

精准的供应链控制

据semianalysis说法,英伟达之所以能够在群雄毕至的AI芯片市场一枝独秀,除了他们在硬件和软件上的布局外,对供应链的控制,也是英伟达能坐稳今天位置的一个重要原因。

英伟达过去多次表明,他们可以在短缺期间创造性地增加供应。英伟达愿意承诺不可取消的订单,甚至预付款,从而获得了巨大的供应。目前,Nvidia 有111.5 亿美元的采购承诺、产能义务和库存义务。Nvidia 还额外签订了价值 38.1 亿美元的预付费供应协议。单从这方面看,没有其他供应商可以与之相媲美,因此他们也将无法参与正在发生的狂热AI浪潮。

自 Nvidia 成立之初起,黄仁勋就一直积极布局其供应链,以推动 Nvidia 的巨大增长雄心。黄仁勋曾在重述了他与台积电创始人张忠谋的早期会面中表示:

“1997 年,当张忠谋和我相遇时,Nvidia 那一年的营收为 2700 万美元。我们有 100 个人,然后我们见面了。你们可能不相信这一点,但张忠谋曾经打销售电话。你以前经常上门拜访,对吗?你会进来拜访客户,我会向张忠谋解释英伟达做了什么,你知道,我会解释我们的芯片尺寸需要有多大,而且每年都会变得越来越大而且更大。你会定期回到英伟达,让我再讲一遍这个故事,以确保我需要那么多晶圆,明年,我们开始与台积电合作。Nvidia 做到了,我认为是 1.27 亿,然后,从那时起,我们每年增长近 100%,直到现在。”

图片

张忠谋一开始不太相信英伟达需要这么多晶圆,但黄仁勋坚持了下来,并利用了当时游戏行业的巨大增长。英伟达通过大胆供应而取得了巨大成功,而且通常情况下他们都是成功的。当然,他们必须时不时地减记价值数十亿美元的库存,但他们仍然从超额订购中获得了积极的收益。

如果某件事有效,为什么要改变它?

最近这一次,英伟达又抢走了SK海力士、三星、美光HBM的大部分供应,这是GPU和AI芯片正在追逐的又一个核心。英伟达向所有 3 个 HBM 供应商下了非常大的订单,并且正在挤出除Broadcom/Google之外的其他所有人的供应。

此外,Nvidia 还已经买下了台积电 CoWoS 的大部分供应。但他们并没有就此止步,他们还出去考察并买下了Amkor的产能。

Nvidia 还利用了 HGX 板或服务器所需的许多下游组件,例如重定时器、DSP、光学器件等。拒绝英伟达要求的供应商通常会受到“胡萝卜加大棒”的对待。一方面,他们可以从英伟达那里获得看似难以想象的订单,另一方面,他们也面临着被英伟达现有供应链所设计的问题。他们仅在供应商至关重要并且无法设计出来或多源时才使用提交和不可取消。

每个供应商似乎都认为自己是人工智能赢家,部分原因是英伟达从他们那里订购了大量订单,而且他们都认为自己赢得了大部分业务,但实际上,英伟达的发展速度是如此之快,甚至已经超出了他们的想想。

回到上面的市场动态,虽然 Nvidia 的目标是明年数据中心销售额超过 700 亿美元,但只有 Google 拥有足够的上游产能,能够拥有超过 100 万个规模的有意义的单元。即使AMD最新调整了产能,他们在AI方面的总产能仍然非常温和,最高只有几十万台。

精明的商业计划

众所周知,Nvidia 正在利用 GPU 的巨大需求,利用 GPU 向客户进行追加销售和交叉销售。供应链上的多位消息人士告诉semianalysis,英伟达正在基于多种因素对企业进行优先分配,这些因素包括但不限于:多方采购计划、计划生产自己的人工智能芯片、购买英伟达的 DGX、网卡、交换机和光学器件等。

Semianalysis指出,CoreWeave、Equinix、Oracle、AppliedDigital、Lambda Labs、Omniva、Foundry、Crusoe Cloud 和 Cirrascale 等基础设施提供商所面临的分配的产品数量远比亚马逊等大型科技公司更接近其潜在需求。

据semianalysis所说,事实上,Nvidia 的捆绑销售非常成功,尽管之前是一家规模很小的光收发器供应商,但他们的业务在 1 季度内增长了两倍,并有望在明年实现价值超过 10 亿美元的出货量。这远远超过了 GPU 或网络芯片业务的增长率。

而且,这些策略是经过深思熟虑的,例如目前,在 Nvidia 系统上通过可靠的 RDMA/RoCE 实现 3.2T 网络的唯一方法是使用 Nvidia 的 NIC。这主要是因为Intel、AMD、Broadcom缺乏竞争力,仍然停留在200G。

在Semianalysis开来,Nvidia正在趁机管理其供应链,使其 400G InfiniBand NIC 的交货时间明显低于 400G 以太网 NIC。请记住,两个 NIC (ConnectX-7) 的芯片和电路板设计是相同的。这主要取决于 Nvidia 的 SKU 配置,而不是实际的供应链瓶颈。这迫使公司购买 Nvidia 更昂贵的 InfiniBand 交换机,而不是使用标准以太网交换机。当您购买具有 NIC 模式 Bluefield-3 DPU 的 Spectrum-X 以太网网络时,Nvidia 会破例。

事情还不止于此,看看供应链对 L40 和 L40S GPU 的疯狂程度就知道了。

Semianalysis透露,为了让那些原始设备制造商赢得更多的 H100 分配,Nvidia 正在推动 L40S的销售,这些 OEM 也面临着购买更多 L40S 的压力,进而获得更好的 H100 分配。这与 Nvidia 在 PC 领域玩的游戏相同,笔记本电脑制造商和 AIB 合作伙伴必须购买大量的 G106/G107(中端和低端 GPU),才能为更稀缺、利润率更高的 G102/G104 获得良好的分配(高端和旗舰 GPU)。

台湾供应链中的许多人都被认为 L40S 比 A100 更好,因为它的 FLOPS 更高。需要明确的是,这些 GPU 不适合 LLM 推理,因为它们的内存带宽不到 A100 的一半,而且没有 NVLink。这意味着除了非常小的模型之外,以良好的总体拥有成本在它们上运行LLM几乎是不可能的。高批量大小(High batch sizes)具有不可接受的令牌/秒/用户(tokens/second/user),使得理论上的 FLOPS 在实践中对于 LLM 毫无用处。

Semianalysis说,OEM 厂商也面临着支持 Nvidia 的 MGX 模块化服务器设计平台的压力。这有效地消除了设计服务器的所有艰苦工作,但同时也使其商品化,创造了更多竞争并压低了 OEM 的利润。戴尔、HPE 和联想等公司显然对 MGX 持抵制态度,但台湾的低成本公司,如超微、广达、华硕、技嘉、和硕和华擎,正在急于填补这一空白,并将低成本“企业人工智能”商品化。

当然,这些参与 L40S 和 MGX 游戏的 OEM/ODM 也获得了 Nvidia 主线 GPU 产品更好的分配。

虽然英伟达正在面临着芯片厂商和系统厂商自研芯片的夹击。但这些布局,似乎短期内都能让英伟达高枕无忧。他们依然会是AI时代最成功的“卖铲人”。

,英伟达芯泰剧网tv 片,最新路线图

相关:

华为参与编制!自动驾驶重磅文件出炉:12月施行作为智能汽车重要特征,智能驾驶已经成为目前新车竞争的一大卖点,智能驾驶发展的同时,相关规章的制定也尤为重要。日前,交通运输部发布《公路工程设施支持自动驾驶技术指南》(JTG/T 2430-2023,简称《指南》),对相关方面的技术提出了规范。《指南》由交通运输部公路科学研究员主编,华为、百度智行科技等参与编制,将于今年12月1日起施行。据介绍,为了更好地支持车辆在公路上进行自动驾驶,针对当前我国自动驾驶测试和试..

免签国+1!安哥拉对中国公民旅游单方面免签​​安哥拉近日颁布第189/23号总统令,宣布自2023年9月29日起,对包括中国公民在内的98国公民单方面实行免签入境旅游政策。具体如下:一、短期来安哥拉旅游(含短期商务访问)的中国公民可免签证多次入境,每次入境停留期不超过30天,每年可免签入境停留累计不超过90天。二、免签入境人员仍须遵守边检、海关防疫等规定,持剩余有效期长于停留期的有效护照和国际疫苗接种证明(可使用“疫苗接种或预防措施国际证书”,俗称“小黄..

曝黄子韬夜店大屏表白徐艺洋:love u Yi Yang近日,有网友在社交平台晒照称,在夜店偶遇黄子韬、徐艺洋,评论区有网友补充说,黄子韬在韩国夜店大屏表白徐艺洋 “love u Yi Yang”。对此,网友猜测双方传出多次恋情依旧没回应是因为女方不愿意公开。徐艺洋是女子演唱组合LEGAL HIGH成员。2020年,参加节目《创造营2020》。徐艺洋老板还是黄子韬。

“恋爱上头酒”,580一杯“众里寻他千百度,蓦然回首,那人却在,灯火阑珊处”,这是不是你所憧憬的爱情?但是要当心,你以为的真爱降临,可能只是一场精心策划的骗局……9月19日通州警方在北京朝阳区及河北省廊坊市集中收网一举打掉一涉嫌诈骗团伙抓获犯罪嫌疑人6名涉案金额10余万元5月28日通州公安分局梨园派出所接到郭先生报警称在通州区某咖啡酒水店有人诈骗事主郭先生称自己是在某交友网站上认识了女子杨某两人在2、3天你来我往的交谈中互相感觉不..

最高人民检察院依法对殷美根决定逮捕记者今天(11日)从最高人民检察院获悉,江西省人大常委会原党组副书记、副主任殷美根涉嫌受贿一案,由国家监察委员会调查终结,移送检察机关审查起诉。日前,最高人民检察院依法以涉嫌受贿罪对殷美根作出逮捕决定。该案正在进一步办理中。(总台央视记者 程琴)

复旦退休教授王德峰讲座时吸烟被投诉?最新进展近日,有网友反映复旦大学退休教授王某某在参加讲座时,在台上公然吸烟。10月10日,深圳卫健委发文介绍事件经过。据了解,上述一事发生于2023年6月9日,王某某受邀到深圳,在“华董书院经营塾”活动上开讲。网络视频显示,王某某坐着边抽边讲,主持人与其当面交流时还主动帮忙递烟。国庆节前夕,有市民将此事投诉到深圳市控烟办。10月8日,深圳市南山区卫生监督所的执法人员来到涉事地址,进行调查取证。执法人员一眼看到,该公..

小红书的“买手电商”能走通吗?作者 |范文编辑 |钊继抖音、京东之后,小红书也宣布了平台的双11计划。9月26日,小红书举办2023小红书双十一电商伙伴动员会,公布了今年双11对商家和买手的扶持政策,加上上个月豪言百亿流量补贴做好买手模式,小红书电商到了验收成果的时刻了。年初以董洁直播间打响头炮,随后靠着章小蕙直播首秀出圈,8月小红书还调整了组织架构,将电商业务升格为一级部门。小红书将直播业务整合成新的交易部,与社区部、商业部平行,而后关..

张峰也走了,雷军留不住合伙人?文|孟帅 编|深海在多位合伙人相继告别小米后,雷军苦心经营的小米再失一名合伙人,这一次要离开的是张峰。近日,有消息称,小米内部进行最新架构调整,小米集团合伙人、高级副总裁、大家电部总裁张峰将离职,其将于今年12月完成工作交接后离职。随后,张峰本人转发相关微博,向外界证实了自己将要离开小米的消息。张峰从小米出走后,其执掌的大家电部也将迎来新的调整,原小米大家电部电视部将并入手机部,同时公司会成立新大家..

Nothing 推出旗下最便宜的产品,仅 154 人民币Nothing 开始做啤酒生意了。是的你没看错,这家由前一加联合创始人裴宇创立的公司,近日宣布推出 Nothing Beer(5.1%)。厂商拓展业务已是常态,隔壁小米就靠着生态链业务拿下了中国智能家居前三名的成就。但如果说小米拓展的业务还和主业相关,那 Nothing 可算是拓展了了个八竿子打不着的业务。其实 Nothing 早在几个月前就官宣了准备跨界做啤酒的消息,今年愚人节, Nothing 曾在 X 上发布了一张图片并配文「Introd..

扫地机公司搞的车企,一台车没造就获投10亿美金最近,刚成立没多久的极石汽车收到了一笔巨款,来自魏桥创业集团的 10 亿美元战略投资。这笔投资的手笔有多大?我们来对比一下, 6 月份中东 “ 土豪 ” 阿布扎比主权基金对蔚来的投资是将近 11 亿美元,大众集团入股小鹏则花了约 7 亿美元。能收到这样大笔的投资,这个名不见经传的极石汽车到底是何方神圣?就在前不久的 8 月底,极石推出了旗下首款车型——中大型增程式混动 SUV 极石 01 , 6 座版预售价..