业界动态
英伟达GPU,警钟敲响,公司,亿美元,Nvidia
2024-07-07 06:50:43
英伟达GPU,警钟敲响,公司,亿美元,Nvidia

在传(chuan)出法(fa)国(guo)将对英伟达发(fa)起反垄断调查后不久,又有新的不好(hao)消息传(chuan)出。

据彭博社引述欧盟竞争(zheng)事务负(fu)责人玛格丽特·维斯塔格 (Margrethe Vestager) 的警(jing)告(gao)称,英伟达公司的 AI 芯片供应存在“巨大瓶颈(jing)”,但表示(shi)监管机构仍在考虑如(ru)何(he)解决这个(ge)问题。

“我们(men)一直在向他们(men)询问问题,但这还只是初步(bu)问题,”她在新加坡之行(xing)中告(gao)诉(su)彭博社。到目前为止,这“还不具备监管行(xing)动的条件”。

自从英伟达成(cheng)为人工智(zhi)能支出热潮(chao)的最大受益者(zhe)以来,监管机构就一直关注着它。它的图形处理单元(简(jian)称 GPU)因(yin)其能够处理开发(fa) AI 模型所需的大量信息的能力(li)而受到数据中心(xin)运营(ying)商(shang)的青睐。

芯片已成(cheng)为科技(ji)界最热门的商(shang)品之一,云计算提(ti)供商(shang)相(xiang)互竞争(zheng)以获取这些芯片。据估计,Nvidia 的 H100 处理器需求旺(wang)盛,已帮(bang)助(zhu)他们(men)获得 80% 以上的市场份额(e),领先于竞争(zheng)对手(shou)英特尔公司和超(chao)微半导(dao)体公司。

尽管供应紧张,但 Vestager 表示(shi),人工智(zhi)能芯片供应的二(er)级市场可能有助(zhu)于激发(fa)创新和公平竞争(zheng)。

但她表示(shi),占主导(dao)地位的公司未来可能会面临某(mou)些行(xing)为限制。

“如(ru)果你在市场上拥(yong)有这种主导(dao)地位,那么有些事情你不能做,而小公司可以做,”她说。“但除此之外,只要你做你的生意(yi)并尊重这一点,你就很好(hao)。”

6000亿美(mei)元的“大难题”

尽管高(gao)科技(ji)巨头在人工智(zhi)能基础设(she)施方面投入了大量资金,但人工智(zhi)能带来的收入增长尚未实现,这表明生态系统的最终用户价值(zhi)存在巨大差(cha)距。事实上, 红杉资本分析师戴维·卡恩( David Cahn)认(ren)为,人工智(zhi)能公司每年必须赚取约 6000 亿美(mei)元才能支付其人工智(zhi)能基础设(she)施(例如(ru)数据中心(xin))的费用。

去年,Nvidia 的数据中心(xin)硬件收入达到 475 亿美(mei)元(其中大部分硬件是用于 AI 和 HPC 应用的计算 GPU)。AWS、Google、Meta、Microsoft等公司在 2023 年为 OpenAI 的 ChatGPT 等应用在其 AI 基础设(she)施上投入了巨额(e)资金。然而,他们(men)能赚回这笔投资吗?David Cahn 认(ren)为,这可能意(yi)味着我们(men)正在目睹金融泡沫的增长。

按照David Cahn的算法(fa),6000亿美(mei)元这个(ge)数字,可以通过一些简(jian)单的数学运算来得出。

你所要做的就是将 Nvidia 的运行(xing)率收入预(yu)测乘以 2 倍,以反映(ying) AI 数据中心(xin)的总成(cheng)本(GPU 占总拥(yong)有成(cheng)本的一半,另(ling)一半包括能源、建筑物、备用发(fa)电机等)。然后你再乘以 2 倍,以反映(ying) GPU 最终用户的 50% 毛利率(例如(ru),从 Azure 或 AWS 或 GCP 购(gou)买 AI 计算的初创公司或企业,他们(men)也需要赚钱)。

我们(men)看看,自 2023 年 9 月(在当时,他认(ren)为人工智(zhi)能是2000亿美(mei)元难题)以来发(fa)生了什么变化?

一、供应短缺已经消退:2023 年末(mo)是 GPU 供应短缺的高(gao)峰期。初创公司正在给风险投资公司打(da)电话,给任何(he)愿意(yi)与他们(men)交(jiao)谈的人打(da)电话,寻(xun)求帮(bang)助(zhu)以获得 GPU。如(ru)今,这种担忧(you)几乎完全消除了。对于我交(jiao)谈过的大多数人来说,现在以合理的交(jiao)货时间获得 GPU 相(xiang)对容易。

二(er)、GPU 库存不断增长:Nvidia 在第四季度报告(gao)称,其数据中心(xin)收入的一半左右来自大型云提(ti)供商(shang)。仅微软一家就可能占Nvidia 第四季度收入的约 22%。超(chao)大规模资本支出正在达到历史水平。这些投资是大型科技(ji)公司 2024 年第一季度收益的主要主题,首席(xi)执行(xing)官们(men)有效地告(gao)诉(su)市场:“无论你喜不喜欢,我们(men)都会投资 GPU。”囤积(ji)硬件并不是一个(ge)新现象,一旦库存足够大以至于需求下降,就会成(cheng)为重置的催化剂。

三、OpenAI 仍然占据着 AI 收入的最大份额(e):The Information 最近(jin)报道称,OpenAI 的收入现在为34 亿美(mei)元,高(gao)于 2023 年底的 16 亿美(mei)元。虽然我们(men)已经看到少数初创公司的收入规模达到不到 1 亿美(mei)元,但 OpenAI 与其他公司之间的差(cha)距仍然很大。除了 ChatGPT,消费者(zhe)今天真正使用了多少 AI 产品?想想你每月花 15.49 美(mei)元从 Netflix 或每月花 11.99 美(mei)元从 Spotify 获得多少价值(zhi)。从长远来看,AI 公司需要为消费者(zhe)提(ti)供巨大的价值(zhi),才能继续掏钱。

四、1250 亿美(mei)元的缺口现在变成(cheng)了 5000 亿美(mei)元的缺口:在最后的分析中,我慷慨地假设(she)谷歌、微软、苹果和 Meta 每年都能从新的 AI 相(xiang)关收入中产生 100 亿美(mei)元。我还假设(she)甲骨文、字节跳动、阿里巴巴、腾讯、X 和特斯拉每年都有 50 亿美(mei)元的新 AI 收入。即(ji)使这仍然是正确的,并且我们(men)在名单上再添(tian)加几家公司,1250 亿美(mei)元的缺口现在也会变成(cheng) 5000 亿美(mei)元的缺口。

这还没完——B100 即(ji)将问世: 今年早些时候,Nvidia 宣布推出 B100 芯片,其性能提(ti)升了 2.5 倍,而成(cheng)本仅增加了 25%。我预(yu)计这将导(dao)致 NVDA 芯片需求的最终激增。与 H100 相(xiang)比,B100 的成(cheng)本与性能相(xiang)比有了显著的改(gai)善,而且由于每个(ge)人都想在今年晚些时候买到 B100,因(yin)此很可能再次出现供应短缺。

在之前提(ti)出关于GPU的问题时,David Cahn收到的最主要反驳之一是“GPU 资本支出就像修建铁(tie)路”,最终火(huo)车会开过来,目的地也会到来——新的农业出口、游乐园、购(gou)物中心(xin)等。

David Cahn表示(shi),其实他也同意(yi)这一点,但他认(ren)为这个(ge)论调忽略(lue)了几点:

一、缺乏(fa)定(ding)价权:在物理基础设(she)施建设(she)的情况(kuang)下,您正在建设(she)的基础设(she)施具有一些内在价值(zhi)。如(ru)果您拥(yong)有旧金山和洛杉矶之间的轨道,那么您可能拥(yong)有某(mou)种垄断定(ding)价权,因(yin)为 A 地和 B 地之间只能铺(pu)设(she)这么多轨道。在 GPU 数据中心(xin)的情况(kuang)下,定(ding)价权要小得多。GPU 计算正日益成(cheng)为一种按小时计量的商(shang)品。与成(cheng)为寡头垄断的 CPU 云不同,构建专用 AI 云的新进(jin)入者(zhe)继续涌入市场。在没有垄断或寡头垄断的情况(kuang)下,高(gao)固定(ding)成(cheng)本 + 低边际(ji)成(cheng)本的企业几乎总是会看到价格竞争(zheng)到边际(ji)成(cheng)本(例如(ru)航空公司)。

二(er)、投资浪费:即(ji)使是铁(tie)路行(xing)业,以及许多新技(ji)术行(xing)业,投机性投资狂潮(chao)也常常导(dao)致高(gao)额(e)的资本浪费。《The Engines that Moves Markets 》是一本关于技(ji)术投资的最佳教(jiao)科书,其主要观点(确实,重点关注铁(tie)路行(xing)业)是,许多人在投机性技(ji)术浪潮(chao)中损失惨重。挑选赢家很难,但挑选输家(就铁(tie)路行(xing)业而言,运河)要容易得多。

三、折旧:从技(ji)术发(fa)展史中我们(men)得知,半导(dao)体趋于越(yue)来越(yue)好(hao)。Nvidia 将继续生产更好(hao)的下一代芯片,如(ru) B100。这将导(dao)致上一代芯片的折旧速度加快。由于市场低估了 B100 和下一代芯片的改(gai)进(jin)速度,因(yin)此它高(gao)估了今天购(gou)买的 H100 在 3-4 年后的价值(zhi)。同样,物理基础设(she)施不存在这种相(xiang)似(si)性,它不遵循(xun)任何(he)“摩尔定(ding)律”类(lei)型的曲线,因(yin)此成(cheng)本与性能的关系不断改(gai)善。

四、赢家与输家:我认(ren)为我们(men)需要仔细研究(jiu)赢家和输家——在基础设(she)施建设(she)过剩的时期,总会有赢家。人工智(zhi)能很可能是下一波变革性技(ji)术浪潮(chao),GPU 计算价格的下降实际(ji)上也有利于长期创新,也有利于初创企业。如(ru)果David Cahn的预(yu)测成(cheng)真,它将主要对投资者(zhe)造(zao)成(cheng)伤害。创始人和公司建设(she)者(zhe)将继续在人工智(zhi)能领域发(fa)展——他们(men)将更有可能取得成(cheng)功,因(yin)为他们(men)将受益于较(jiao)低的成(cheng)本和在这一试验期间积(ji)累的经验。

五(wu)、人工智(zhi)能将创造(zao)巨大的经济价值(zhi)。专注于为最终用户提(ti)供价值(zhi)的公司创建者(zhe)将获得丰厚的回报。我们(men)正在经历一场可能定(ding)义一代人的技(ji)术浪潮(chao)。像 Nvidia 这样的公司在推动这一转变方面发(fa)挥了重要作用,值(zhi)得称赞(zan),并且很可能在未来很长一段时间内在生态系统中发(fa)挥关键作用。

不过David Cahn也重申,投机狂潮(chao)是技(ji)术的一部分,所以没什么好(hao)害怕(pa)的。那些在这一刻保持(chi)头脑清醒的人有机会创建极其重要的公司。但我们(men)必须确保不要相(xiang)信现在已经从硅(gui)谷蔓延到全国(guo)乃至全世界的妄想。这种妄想认(ren)为我们(men)都会快速致富,因(yin)为 AGI 明天就会到来,我们(men)都需要储存唯一有价值(zhi)的资源,那就是 GPU。

“事实上,前面的道路将是漫长的。它会有起有落。但几乎可以肯定(ding),它是值(zhi)得的。”David Cahn强调。

潜在的挑战者(zhe)

虽然这是一个(ge)谈了很多次,但似(si)乎也有了结果的论调。如(ru)Futurum Group 首席(xi)执行(xing)官丹尼尔·纽曼所说,“目前,世界上没有英伟达的天敌。”

原因(yin)如(ru)下:Nvidia 的图形处理单元 (GPU) 最初于 1999 年为 PC 视(shi)频游戏(xi)中的超(chao)快 3D 图形而创建,后来被证明非常适合训练大规模生成(cheng)式 AI 模型,来自 OpenAI、Google、Meta、Anthropic 和 Cohere 等公司推动的模型的规模越(yue)来越(yue)大,进(jin)而需要使用大量 AI 芯片来做训练。多年来,Nvidia 的 GPU 一直被认(ren)为是最强大的,也是最抢手(shou)的。

这些成(cheng)本当然不菲:训练顶级生成(cheng)式 AI 模型需要数万个(ge)最高(gao)端的 GPU,每个(ge) GPU 的价格为 3 万至 4 万美(mei)元。例如(ru),埃隆·马斯克 (Elon Musk)最近(jin)表示(shi),他的公司 xAI 的 Grok 3 模型需要在 10 万个(ge) Nvidia 顶级 GPU 上进(jin)行(xing)训练才能成(cheng)为“特别的东西”,这将为 Nvidia 带来超(chao)过 30 亿美(mei)元的芯片收入。

然而,Nvidia 的成(cheng)功不仅仅是芯片的产物,还有让芯片变得易于使用的软件。Nvidia 的软件生态系统已经成(cheng)为大量专注于 AI 的开发(fa)人员的首选,他们(men)几乎没有动力(li)去转换。在上周的年度股东大会上,Nvidia 首席(xi)执行(xing)官黄仁勋称该公司的软件平台 CUDA(计算统一设(she)备架构)是一个(ge)“良性循(xun)环”。随着用户的增多,Nvidia 有能力(li)投入更多资金升级该生态系统,从而吸引更多用户。

相(xiang)比之下,Nvidia 的半导(dao)体竞争(zheng)对手(shou)AMD控(kong)制着全球 GPU 市场约 12% 的份额(e),该公司确实拥(yong)有具有竞争(zheng)力(li)的 GPU,并且正在改(gai)进(jin)其软件,纽曼说。但是,虽然它可以为不想被 Nvidia 束缚的公司提(ti)供另(ling)一种选择,但它没有现有的开发(fa)者(zhe)用户群,这些开发(fa)者(zhe)认(ren)为 CUDA 易于使用。

此外,虽然亚马逊的 AWS、微软Azure 和谷歌云等大型云服务提(ti)供商(shang)都生产自己的专有芯片,但他们(men)并不打(da)算取代 Nvidia。相(xiang)反,他们(men)希望有多种 AI 芯片可供选择,以优化自己的数据中心(xin)基础设(she)施,降低价格,并向最广泛(fan)的潜在客户群销售他们(men)的云服务。

J. Gold Associates 分析师杰克·戈尔德 (Jack Gold) 解释说:“Nvidia 拥(yong)有早期发(fa)展势(shi)头,当你建立一个(ge)快速增长的市场时,其他人很难赶上。”他表示(shi) Nvidia 在创建其他人所没有的独特生态系统方面做得很好(hao)。

Wedbush 股票研究(jiu)高(gao)级副总裁 Matt Bryson 补充说,要取代 Nvidia 用于训练大规模 AI 模型的芯片将特别困难,他解释说,目前计算能力(li)的大部分支出都流向了这一领域。“我认(ren)为这种动态在未来一段时间内不会发(fa)生变化,”他说。

然而,越(yue)来越(yue)多的人工智(zhi)能芯片初创公司,包括 Cerebras、SambaNova、Groq 以及最新的 Etched和 Axelera ,都看到了从英伟达人工智(zhi)能芯片业务中分一杯羹的机会。他们(men)专注于满足人工智(zhi)能公司的特殊需求,尤(you)其是所谓的“推理”,即(ji)通过已经训练过的人工智(zhi)能模型运行(xing)数据,让模型输出信息(例如(ru),ChatGPT 的每个(ge)答案都需要推理)。

例如(ru),就在上周,Etched筹集了1.2 亿美(mei)元,用于开发(fa)一种专门用于运行(xing) transformer 模型的专用芯片Sohu,Transformer 模型是 OpenAI 的 ChatGPT、谷歌的 Gemini 和 Anthropic 的 Claude 使用的一种 AI 模型架构。据介绍,该芯片将由台积(ji)电采用其 4nm 工艺生产,该公司表示(shi)还已从“顶级供应商(shang)”那里获得高(gao)带宽内存和服务器供应,但没有透露这些公司的名字。Etched 还声称,Sohu 的速度比 Nvidia 即(ji)将推出的 Blackwell GPU“快一个(ge)数量级,而且更便宜(yi)”,八芯片 Sohu 服务器每秒可处理超(chao)过 500,000 个(ge) Llama 70B token。该公司通过推断已发(fa)布的 Nvidia H100 服务器 MLperf 基准测试数据做出了这一判断,该基准测试显示(shi),八 GPU 服务器每秒可处理 23,000 个(ge) Llama 70B token。Etched 首席(xi)执行(xing)官 Uberti在接受采访时表示(shi),一台Sohu服务器将取代 160 块 H100 GPU。

荷兰初创公司 Axelera AI 正在开发(fa)用于人工智(zhi)能应用的芯片,该公司上周宣称也已获得6800万美(mei)元美(mei)元融资,该公司正在筹集资金以支持(chi)其雄心(xin)勃勃的增长计划。这家总部位于埃因(yin)霍温(wen)的公司旨在成(cheng)为欧洲(zhou)版的 Nvidia,提(ti)供据称比竞争(zheng)对手(shou)节能 10 倍、价格便宜(yi) 5 倍的 AI 芯片。Axelera 创新的核(he)心(xin)是 Thetis Core 芯片,它在一个(ge)周期内可以执行(xing)惊人的 260,000 次计算,而普通计算机只能执行(xing) 16 次或 32 次计算。这种能力(li)使其非常适合 AI 神经网络计算,主要是矢量矩阵乘法(fa)。他们(men)的芯片提(ti)供了高(gao)性能和可用性,而成(cheng)本仅为现有市场解决方案的一小部分。这可以使 AI 普及,让更广泛(fan)的应用程序和用户能够使用它。

与此同时,据报道,专注于以闪电般的速度运行(xing)模型的 Groq 正在以25 亿美(mei)元的估值(zhi)筹集新资金,而 Cerebras据称在发(fa)布其最新芯片仅几个(ge)月后就秘密提(ti)交(jiao)了首次公开募股申请,该公司声称该芯片可以训练比 GPT-4 或 Gemini 大 10 倍的 AI 模型。

所有这些初创公司一开始都可能专注于一个(ge)小市场,比如(ru)为某(mou)些任务提(ti)供更高(gao)效、更快或更便宜(yi)的芯片。他们(men)也可能更专注于特定(ding)行(xing)业的专用芯片或个(ge)人电脑和智(zhi)能手(shou)机等人工智(zhi)能设(she)备。“最好(hao)的策(ce)略(lue)是开拓一个(ge)小众市场,而不是试图征服世界,而这正是他们(men)大多数人正在尝试做的,”Tirias Research 首席(xi)分析师 Jim McGregor 说。

因(yin)此,也许更切题的问题是:这些初创公司与云提(ti)供商(shang)以及 AMD 和英特尔等半导(dao)体巨头一起能够占领多少市场份额(e)?这还有待观察,尤(you)其是因(yin)为运行(xing) AI 模型或推理的芯片市场仍然很新。

参考链接

https://www.bloomberg.com/news/articles/2024-07-05/nvidia-ai-chips-are-huge-bottleneck-eu-s-vestager-warns

https://www.sequoiacap.com/article/ais-600b-question/

https://fortune.com/2024/07/02/nvidia-competition-ai-chip-gpu-startups-analysts/

本文来源:半导(dao)体行(xing)业观察 (ID:icbank),原文标题:《英伟达GPU,警(jing)钟敲(qiao)响》

风险提(ti)示(shi)及免责条款(kuan)

市场有风险,投资需谨慎(shen)。本文不构成(cheng)个(ge)人投资建议,也未考虑到个(ge)别用户特殊的投资目标、财务状况(kuang)或需要。用户应考虑本文中的任何(he)意(yi)见、观点或结论是否符(fu)合其特定(ding)状况(kuang)。据此投资,责任自负(fu)。

发(fa)布于:上海市
版权号:18172771662813
 
    以上就是本篇文章的全部内容了,欢迎阅览 !
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 移动站 , 查看更多   
sitemapsitemap1sitemap2sitemap3sitemap4sitemap5sitemap6sitemap7