英偉達電話會全文來了!Blackwell產能爬坡順利,Q4收入將超預期,Scaling Law沒放緩
AI芯片巨頭英偉達第三財季營收增長繼續放緩,預計本季度還將進一步放緩。雖然上季的收入高於分析師預期,但本季的指引中值未能達到買方分析師的高端預期。從股價表現看,投資者似乎覺得這樣的指引不夠炸裂,盤後英偉達股價下跌。
在財報公佈後的電話會上,英偉達發佈了預期指引,四季度英偉達Hopper需求將持續,Blackwell將實現初步增長,預計收入將超出之前預計的數十億美元收入。隨着Blackwell產品規模的擴大,預計毛利率將放緩至70%以下。
問答環節,分析師將“炮火”集中在Blackwell,圍繞該芯片進展情況提出了一系列問題,如潛在客戶是否會推動Blackwell 的更大需求?Blackwell是否存在供應限制?四季度是不是Blackwall對毛利率壓力最嚴重的時期?
以下是本次電話會要點:
科萊特-克雷斯,首席財務官:
第三季度又是一個創紀錄的季度,我們繼續實現令人難以置信的增長。收入達到351億美元,環比增長17%,同比增長94%,遠高於我們預期的325億美元。在英偉達加速計算和人工智能的推動下,所有市場平臺都實現了強勁的環比和同比增長。
從數據中心開始,數據中心再創新高。收入達到308億美元,環比增長17%,同比增長112%。英偉達Hopper的需求異常強勁,H200的銷售額連續大幅增長,達到兩位數的十億美元,是公司歷史上增長最快的產品。H200的推理性能提高了2倍,TCL提高了約50%。雲服務提供商約佔我們數據中心銷售額的一半,收入同比增長超過2倍。雲服務提供商部署了NVIDIA H200基礎架構和高速網絡,GPU安裝量達到數萬顆,以促進業務增長,滿足對人工智能訓練和推理工作負載快速增長的需求。AWS 和 Microsoft Azure 現已提供英偉達H200 驅動的雲實例,Google Cloud 和OCI也即將推出。在大型CSP大幅增長的同時,北美、歐洲、中東和非洲以及亞太地區的GPU雲收入也同比增長了2倍,原因是英偉達雲場景和主權雲建設不斷增加。
消費者互聯網收入同比增長了一倍多,企業擴大了英偉達Hopper 基礎設施的規模,以支持下一代人工智能模型、訓練、多模態和代理人工智能、深度學習推薦引擎以及生成式人工智能推理和內容創建工作負載。英偉達的Ampere和Hopper基礎架構正在推動客戶的推理收入增長。英偉達是全球最大的推理平臺,龐大的裝機量和豐富的軟件生態系統鼓勵開發人員針對英偉達進行優化,不斷提高性能和TCL。英偉達軟件算法的快速發展在一年內將Hopper推理吞吐量提高了驚人的5倍,時間縮短了5倍。
我們即將發佈的 NVIDIA NIM 將把 Hopper Inference 的性能再提高 2.4 倍,持續的性能優化是英偉達的一大特色,它爲整個公司的安裝用戶帶來了越來越多的經濟回報。在成功執行大規模變更之後,Blackwell 已經全面投入生產。我們在第三季度向客戶交付了13000個GPU樣品,其中包括首批開放人工智能的Blackwell DGX工程樣品。Blackwell是一個全堆棧、全基礎架構的人工智能數據中心規模系統,具有可定製的配置,可滿足從X86到ARM、從訓練到增強型GPU、從InfiniBand到以太網交換機以及從液冷到風冷等多樣化且不斷增長的人工智能市場的需求。
每個客戶都在爭先恐後地進入市場,Blackwell現在已掌握在所有主要合作伙伴的手中,他們正在努力提升自己的數據中心。我們正在將Blackwell系統集成到客戶的各種數據中心配置中。Blackwell的需求量驚人,我們正在加緊擴大供應,以滿足客戶對我們的巨大需求。客戶正在準備大規模部署Blackwell。甲骨文宣佈推出全球首個人工智能雲計算集羣,可擴展至超過131,000個Blackwell GPU,幫助企業訓練和部署一些要求最苛刻的下一代人工智能模型。昨天,微軟宣佈他們將成爲首家在私有預覽版中提供基於英偉達GB200和量子InfiniBand的Blackwell雲實例的CSP。上週,Blackwell 在最新一輪的訓練結果中首次亮相,在GPU基準測試中一舉奪魁,性能是Hopper的2.2 倍。
這些結果還證明了我們對降低計算成本的不懈追求。與256個H100相比,運行GPT3基準僅需64個Blackwell GPU,成本降低了4倍。英偉達Blackwell架構的交換機可將推理性能提高30倍,並將推理擴展吞吐量和響應時間提升到一個新的水平,非常適合運行OpenAI的o1模型等新的推理推斷應用。每一次新的平臺轉變,都會催生一波新創公司。數百家人工智能原生公司已經在提供人工智能服務方面取得了巨大成功。Anthropic、Perplexity、Mistral、Adobe Firefly、Runway、MidJourney、Lightrix、Harvey、Codium、Cursor 以及谷歌、Meta、微軟和OpenAI 等領頭羊,而數以千計的人工智能原生初創公司正在構建新的服務。
人工智能的下一波浪潮是企業人工智能和工業人工智能,企業人工智能正在全面展開。英偉達人工智能企業版包括NeMo和NIM微服務,是一個代理人工智能操作平臺。行業領導者正在使用英偉達人工智能來構建協同駕駛和代理,與英偉達公司合作的Cadence、Cohesity、NetApp、Nutanix、Salesforce、SAP和ServiceNow等公司正在加快這些應用的開發速度,並有可能在未來幾年內部署數十億個代理。埃森哲和德勤等諮詢業領軍企業正在將英偉達人工智能帶入全球企業。埃森哲成立了一個新的業務部門,擁有30000名接受過英偉達人工智能技術培訓的專業人員,以幫助推動這一全球建設。此外,擁有77萬多名員工的埃森哲正在內部利用英偉達支持的Agentic AI應用程序,其中一個案例將營銷活動中的人工步驟減少了25%至35%。
近1000家公司正在使用NVIDIA NIM,NVIDIA AI Enterprise的貨幣化速度可見一斑。我們預計AI企業版的全年營收將比去年增長2倍以上,而且我們的銷售渠道還在繼續擴大。總體而言,我們的軟件、服務和支持收入的年增長爲15億美元,預計今年的年增長將超過20億美元,工業人工智能和機器人技術正在加速發展。
這是由物理人工智能的突破所引發的,也就是能夠理解物理世界的基礎模型。與面向企業人工智能代理的 NVIDIA NeMo 一樣,我們爲開發人員構建了 NVIDIA Omniverse,用於構建、訓練和操作工業人工智能和機器人。世界上一些最大的工業製造商正在採用 NVIDIA Omniverse 來加快業務發展、實現工作流程自動化並將運營效率提升到新的水平。全球最大的電子產品製造商富士康正在使用基於 NVIDIA Omniverse 的數字孿生和工業人工智能來加快其Blackwells工廠的建設速度,並將效率提升到新的水平。僅在墨西哥工廠,富士康預計每年的千瓦時用量就將減少330%。分地區來看,我們在中國的數據中心收入連續增長,這得益於符合出口標準的銅產品的行業出貨量,但在數據中心總收入中所佔的比例仍遠低於出口管制開始前的水平。我們預計未來中國市場的競爭仍將非常激烈。我們將繼續遵守規定,並同時爲我們的客戶提供服務。
隨着各國紛紛採用英偉達加速計算技術來推動由AI驅動的新一輪工業革命,我們的主權人工智能(AI)計劃也在繼續蓄勢待發。印度領先的CSP(包括產品通信和Zoda數據服務)正在爲數以萬計的英偉達GPU建設人工智能工廠。到年底,他們將把印度的英偉達GPU部署量提高近10倍,TSC、Wipro正在採用英偉達AI Enterprise,並培訓近50萬名開發人員和顧問,幫助客戶在我們的平臺上構建和運行AI代理。在日本,軟銀正在利用英偉達DGX Blackwell和量子InfiniBand構建該國最強大的人工智能超級計算機。軟銀還與英偉達合作,利用英偉達AI Aerial和ARAN平臺將電信網絡轉變爲分佈式人工智能網絡,該平臺可在CUDA上處理5G RAN和人工智能。
我們正在美國與 T-Mobile 合作推出同樣的產品。包括 NEC 和 NTT 在內的日本領先企業正在採用英偉達AI Enterprise,包括 EY、Strategy 和 Consulting 在內的大型諮詢公司將幫助把英偉達AI技術引入日本各行業。網絡業務收入同比增長 20%。收入連續增長的領域包括 InfiniBand 和以太網交換機、SmartNex 和 BlueField DPU。雖然網絡收入連續下降,但網絡需求強勁且不斷增長,我們預計第四季度網絡收入將連續增長。
CSP和超級計算中心正在使用和採用英偉達InfiniBand平臺,爲新的H200集羣提供動力。NVIDIA Spectrum-X Ethernet for AI的收入同比增長了3倍多,我們的產品線還在不斷擴大,多家CSP和消費互聯網公司都在計劃部署大型集羣。傳統以太網並非爲人工智能而設計。英偉達Spectrum-X利用以前InfiniBand獨有的技術,使客戶能夠實現大規模的GPU計算。利用Spectrum-X,xAI的Colossus 100,000 Hopper超級計算機將實現零應用延遲,並保持95%的數據直通輸出,而傳統以太網僅爲60%。
現在談談遊戲和AIPC,遊戲收入爲33億美元,環比增長14%,同比增長15%。第三季度是遊戲業務大豐收的一個季度,筆記本電腦、遊戲機和臺式機收入均實現環比和同比增長。由於消費者繼續選擇 GeForce RTX GPU 和設備來支持遊戲、創意和人工智能應用,返校銷售的強勁勢頭推動了 RTX 的終端需求。渠道庫存保持健康,我們正在爲假日旺季做準備。我們開始從華碩(ASUS)和微星(MSI)出貨新的GeForce RTX AI PC,最多可配備321個AI頂點,預計第四季度將配備微軟的Copilot+功能。
這些機器利用RTX光線追蹤和人工智能技術的強大功能,爲遊戲、照片和視頻編輯、圖像生成和編碼提供了超級動力。上一季度,我們慶祝了全球首款GPU GeForce 256誕生 25 週年。英偉達GPU從改變計算圖形到點燃人工智能革命,一直是我們這個時代一些最具影響力的技術背後的驅動力。再來看ProViz,收入爲4.86億美元,環比增長7%,同比增長 17%。英偉達RTX工作站繼續成爲專業圖形、設計和工程相關工作負載的首選。
此外,人工智能正在成爲強大的需求驅動力,包括自動駕駛汽車模擬、用於生產力相關用例的生成式人工智能模型原型,以及媒體和娛樂領域的生成式人工智能內容創作。汽車行業收入達到創紀錄的4.49億美元,環比增長30%,同比增長72%。強勁的增長主要得益於英偉Orin自動駕駛技術提升以及終端市場對NAVs的強勁需求。
汽車公司正在推出基於英偉達Orin和DriveOS的全電動 SUV,現在來看損益表的其他部分。GAAP毛利率爲74.6%,非GAAP毛利率爲75%,環比下降主要原因是數據中心內的H100系統向更復雜、成本更高的系統混合轉移。由於推出新產品所需的計算、基礎設施和工程開發成本較高,GAAP 運營費用和非 GAAP 運營費用環比增長了 9%。第三季度,我們以股票回購和現金分紅的形式向股東返還了112億美元。
下面,請允許我談談第四季度的展望。總收入預計爲 375 億美元,增幅爲正負2%,其中包括對Hopper Architecture持續需求和 Blackwell 產品的初步增長。雖然需求大大超過供應,但隨着我們對供應情況的瞭解不斷增加,我們有望超過Blackwell之前預計的數十億美元收入。在遊戲方面,儘管第三季度銷售強勁,但由於供應限制,我們預計第四季度收入將連續下降。按照美國通用會計準則(GAAP)和非美國通用會計準則(Non-GAAP),毛利率預計分別爲73%和 73.5%,增幅爲正負50個基點。Blackwell是一種可定製的人工智能基礎架構,配備多種不同類型的英偉達內置芯片、多種網絡任務選項,適用於風冷和液冷數據中心。我們目前的重點是應對強勁的需求,提高系統可用性,併爲客戶提供最佳的配置組合。
隨着Blackwell 規模的擴大,我們預計毛利率將放緩至70%以下,Blackwell 的毛利率將在 70% 左右。按照美國通用會計準則(GAAP)和非美國通用會計準則(Non-GAAP),運營支出預計分別約爲 48 億美元和 34 億美元。我們是一家數據中心規模的人工智能基礎設施公司,我們的投資包括建設數據中心,以開發我們的硬件和軟件堆棧,並支持新產品的推出。按照美國通用會計準則(GAAP)和非美國通用會計準則(Non-GAAP),不包括非關聯投資收益和損失,其他收入和支出預計約爲 4 億美元。美國通用會計準則(GAAP)和非美國通用會計準則(Non-GAAP)稅率預計爲 16.5%加或減 1%,不包括任何離散項目。
更多財務細節,請參見首席財務官評論以及我們投資者關係網站上的其他信息。最後,請允許我重點介紹一下即將舉行的金融界活動,我們將參加12月3日在斯科茨代爾舉行的瑞銀全球技術與人工智能大會,1月 6 日Jensen將在拉斯維加斯舉行的CES上發表主題演講,第二天(1 月 7 日),我們將爲金融分析師舉辦問答會,敬請參加。我們將於 2025 年 2 月 26 日召開財報電話會議,討論 2025 財年第四季度的業績。現在開始接受提問。
Q&A環節
Q1 Cantor Fitzgerald分析師C.J. Muse:我想我只想問你一個問題,是關於大語言模型的縮放規則爭論,顯然我們現在還爲時尚早,但我很想聽聽你在這方面的想法。你們是如何幫助客戶解決這些問題的?很顯然,我們正在討論尚未從Blackwell受益的集羣,這是否會推動對 Blackwell 的更大需求?謝謝。
回答者:
訓練前的基礎模型縮放完好無損,而且還在繼續。大家都知道,這是經驗法則,而不是基本物理法則,但有證據表明,它仍在繼續訓練。然而,我們正在學習的是,這還不夠,我們現在還發現了另外兩種訓練方式,一種是後訓練,另一種是後訓練是強化學習的人類反饋,但現在我們有了強化學習的人工智能反饋和各種形式的合成數據生成的數據,這些都有助於後訓練的拓展。
最大的事件之一和最令人興奮的發展之一是草莓,即OpenAI的o1模型,它進行推理時間擴展,即所謂的推理時間。它思考的時間越長,得出的答案就越好、質量就越高,它考慮了思維鏈、多路徑規劃等方法,以及各種必要的反思技術等等。直觀地說,這有點像我們在回答問題前在腦子裡思考。
因此,我們現在有三種訓練方式,而且我們看到了所有三種訓練方式。因此,對我們基礎設施的需求非常大。你現在可以看到,上一代基礎模型的容量是大約10萬個Hopper芯片,而下一代則從10萬個Blackwell 芯片開始。你可以從中瞭解到行業在預訓練、後訓練、及現在非常重要的推理時間擴展方面的發展方向。
因此,出於所有這些原因,需求確實很大。但請記住,與此同時,我們公司的推理能力也在不斷增強。我們是當今世界上最大的推理平臺,因爲我們的裝機量非常大,而且所有的推理都是在和跳線上訓練出來的,令人難以置信。
隨着我們轉而使用 Blackwells 來訓練基礎模型,它也帶來了大量已安裝的用於推理的基礎設施。因此,我們看到推理需求不斷增加。我們看到推理時間在不斷延長。我們看到人工智能原生公司的數量持續增長。當然,我們也開始看到企業採用 Agentic AI,這確實是最近的流行趨勢。我們看到來自不同地方的大量需求。
Q2 高盛Toshiya Hari:Jensen你在今年早些時候實施了大規模的改革,上週末有一些關於發熱問題的報道。在此背景下,你們是否有能力執行今年在GTC上提出的路線圖,即明年推出Ultra以及在26年過渡到 Rubin。你能談談這個問題嗎?一些投資者對此表示質疑。如果你能談談你按時執行的能力,那將會非常有幫助。然後是Blackwell部分,關於供應限制,是衆多零部件造成了這種情況嗎?還是特別是HBM?是供應限制嗎?供應限制是否有所改善?是否在惡化?任何有關這方面的信息都會非常有用。謝謝。
回答者:
是的,謝謝,那麼讓我們來看看,回到第一個問題。Blackwell的生產已經全面啓動。事實上,正如科萊特之前提到的,本季度我們將交付比之前預計更多的Blackwells。因此,供應鏈團隊正在與我們的供應合作伙伴一起,爲增加Blackwells的產量而出色地開展工作。明年,我們將繼續努力增加Blackwell的產量。
現在的情況是供不應求,這也在意料之中,因爲衆所周知,我們正處於人工智能革命的起步階段。我們正處於新一代基礎模型的起步階段,這些模型能夠進行推理,能夠進行長期思考,當然,真正令人興奮的領域之一是物理人工智能,即現在能夠理解物理世界結構的人工智能。
因此,Blackwall的需求非常強勁。我們的執行工作進展順利。顯然,我們正在全球範圍內進行大量的工程設計。你現在看到的是戴爾和 Core Weave 正在安裝的系統。我想你也看到了甲骨文公司的系統正在投入使用。還有微軟的系統,他們即將預覽 Grace Blackwell系統。
谷歌有自己的系統,所有這些 CSP 都在爭先恐後。如你所知,我們與它們合作的工程設計相當複雜。其原因在於,儘管我們構建了全棧和全基礎設施,但我們將所有人工智能超級計算機拆分開來,並將其集成到世界各地架構中的所有定製數據中心中。
這個整合過程我們已經做了好幾代了,我們對此非常擅長,但目前仍有大量的工程工作要做。但正如你從所有正在安裝的系統中看到的那樣,Blackwell的狀況非常好。正如我們之前提到的,本季度的供應量和計劃發貨量超過了我們之前的預計。
關於供應鏈,有七種不同的芯片,七種定製芯片,我們內置訂購,以便我們提供Blackwell系統。Blackwell系統採用風冷或液冷、NVLink 8或NVLink 72或NVLink 8、NVLink 36、NVLink 72,我們有x86或GRACE,將所有這些系統集成到全球的數據中心堪稱奇蹟。
因此,要實現如此規模的增長,所需的組件供應鏈是必不可少的,你知道,你必須回過頭來看一看我們上個季度的Blackwell出貨量是多少,那是零。而本季度 Blackwell 系統的總出貨量將以十億爲單位,其增長速度令人難以置信。幾乎世界上所有的公司都參與了我們的供應鏈,我們有非常好的合作伙伴,包括臺積電和連接器公司安費諾、Vertiv、SK 海力士、美光、Amkor、KYEC、富士康、Quanta、WeWin、戴爾、惠普、超微、聯想等,公司數量之多令人難以置信。
我肯定還漏掉了參與Blackwell擴產的合作伙伴,對此我非常感激。總之,我認爲目前我們在產能爬坡方面的情況很好。
最後,關於我們執行路線圖的問題,我們正在執行年度路線圖,我們希望繼續執行年度路線圖。當然通過這樣做,我們可以提高平臺的性能,但同樣重要的是,當我們能夠提高性能並同時提高X個係數時,我們就降低了培訓成本,降低了推理成本,降低了人工智能的成本,從而使人工智能更加普及。
但另一個非常重要的因素是,當數據中心有一定的固定規模時,過去可能是10兆瓦,而現在大多數數據中心是100兆瓦到幾個100兆瓦的數據中心,以及計劃中的千兆瓦數據中心。數據中心有多大其實並不重要,電力是有限的。在電力有限的數據中心,每瓦最高的性能將直接轉化爲我們合作伙伴的最高收入。因此,一方面,我們的年度路線圖降低了成本。但另一方面,由於我們的每瓦特性能比其他任何產品都要好,因此我們能爲客戶創造儘可能多的收入。因此,這種年度節奏對我們來說非常重要,我們完全有意願繼續這樣做。據我所知,一切都在按計劃進行。
Q3 瑞銀 Timothy Arcuri:我想知道你能否談談今 Blackwall的發展軌跡。剛纔確實談到了Blackwall比一月份說的幾十億美元要好,聽起來公司要做的還不止這些。但我認爲在最近幾個月裡,你也說過Blackwall在四季度會超過Hopper。所以我想我有兩個問題要問,首先,四季度Blackwall將在與Hopper交叉,這種想法對嗎?然後,科萊特,你提到Blackwall的毛利率會下降到 70%以下。所以我想,如果四季度是交叉期,那是不是毛利率壓力最嚴重的時候?四月份毛利率就會降到 70%以下。我只是想知道你是否能爲我們描述一下。謝謝。
科萊特-克雷斯,首席財務官:
當然,讓我先回答你的問題,謝謝你關於我們毛利率的問題。我們討論過我們的毛利率,因爲我們在一開始就在提升Blackwall的性能,而且我們將向市場推出許多不同的配置、許多不同的芯片,我們將專注於確保我們的客戶在安裝時獲得最佳體驗。
我們的毛利率將開始增長,但我們相信在增長的第一階段,毛利率將在70%左右。所以,你說得沒錯,在之後的幾個季度裡,我們將開始提高毛利率,我們希望能很快達到70%。
Jensen Huang,首席執行官:
Hopper的需求將持續到明年,肯定是明年的前幾個季度。與此同時下一季度的出貨量將超過本季度。我們下一季度的 Blackwells 出貨量將超過第一季度。因此,從這個角度來看。我們正處於計算領域兩個重大根本性轉變的開端。第一個轉變是從在 CPU 上運行的編碼轉向在 GPU 上運行的創建神經網絡的機器學習。
目前,從編碼到機器學習的根本性轉變非常普遍。沒有公司不進行機器學習。因此,機器學習也是生成式人工智能的基礎。因此,一方面,正在發生的第一件事是,價值 1 萬億美元的計算系統和世界各地的數據中心正在爲機器學習進行現代化改造。另一方面,我想,在這些系統的基礎上,我們將創造出一種新型的人工智能能力。
當我們說“生成式人工智能”時,我們實質上是在說這些數據中心其實就是人工智能工廠。它們正在產生一些東西。就像我們生產電力一樣,我們現在也要生產人工智能。如果客戶數量龐大,就像電力消費者數量龐大一樣,這些發電機將全天候運行。如今,許多人工智能服務都在全天候運行,就像人工智能工廠一樣。因此,我們將看到這種新型系統的上線,我稱其爲人工智能工廠,因爲這確實非常接近它的本質。它不同於過去的數據中心。因此,這兩個基本趨勢纔剛剛開始。因此,我們預計這種增長--這種現代化和新產業的創建將持續數年。
Q4 美銀證券 Vivek Arya:科萊特,我想問一下,你認爲英偉達在25年下半年的毛利率能恢復到70%左右,這個假設合理嗎?然後,我的主要問題是,從歷史上看,當我們看到硬件部署週期時,不可避免地會包括一些消化過程。你認爲我們什麼時候會進入這個階段,還是現在討論這個問題還爲時過早,因爲Blackwells公司纔剛剛起步?你認爲需要多少個季度的出貨量才能滿足第一波的需求?到26年還能繼續增長嗎?我們應該如何做好準備,對吧,長期的、世俗的硬件部署的消化期?
科萊特-克雷斯,首席財務官:
讓我澄清一下你關於毛利率的問題,明年下半年我們的毛利率能否達到 70%。我認爲這是一個合理的假設,也是我們要做的一個目標,但我們得看看爬坡的混合情況如何,但是這絕對是有可能的。
Jensen Huang,首席執行官:
我認爲,在我們將1萬億美元的數據中心現代化之前,是無法消化的。因此,縱觀全球的數據中心,絕大多數都是在手工編寫應用程序並在CPU上運行的時代建造的。現在這樣做已經不合理了。如果每家公司的資本支出,如果他們準備在明天建立一個數據中心,他們就應該爲未來的機器學習和生成式人工智能而建,對嗎?
因爲他們有很多老舊的數據中心。那麼,在接下來的X年裡會發生什麼呢?讓我們假設在4年裡,隨着我們在 IT 領域的發展,全世界的數據中心都將實現現代化。大家都知道,IT每年的增長速度大約爲20%、30%。比方說,到2030年,全球用於計算的數據中心將達到幾萬億美元。我們必須適應這種增長。從編碼到機器學習,我們必須實現數據中心的現代化。這是第一點。第二部分是生成式人工智能。我們現在正在創造一種世界上從未有過的新型能力,一個世界上從未有過的新的細分市場。
如果你看看 OpenAI,它並沒有取代任何東西。它是一種全新的東西。在很多方面,它就像 iPhone 誕生時一樣,是完全嶄新的。它並沒有取代任何東西。因此,我們會看到越來越多這樣的公司。他們將從自己的服務中創造和生成本質上的智能,其中一些將是數字藝術家智能。
有些是基礎智能,如 OpenAI。有些是法律智能,如哈維數字營銷智能,如作家等等。這些公司的數量數以百計,它們被稱爲人工智能原生公司,幾乎每一個平臺都在發生變化,否則,就像你記得的那樣,以前有互聯網公司,有云優先公司,有移動優先公司,現在它們都是人工智能原生公司。它們是移動爲先的公司,而現在它們是人工智能原生公司。這些公司之所以誕生,是因爲人們看到了平臺的轉變,看到了做全新事情的全新機會。
因此,我的感覺是,我們將繼續建設現代化的信息技術,首先是現代化的計算,其次是創建人工智能工廠,打造人工智能生產的新產業。
Q5 Bernstein Research分析師Stacy Rasgon:澄清的問題是,當你說毛利率低至70%時,73.5%算不算低至 70%,你是否有其他想法?至於我的問題,你在指導總收入,所以我的意思是,下一季度數據中心的總收入一定會增長几十億美元,但聽起來Blackwells現在的增長應該不止於此。但你也說過Hopper依然強勁。那麼Hopper下一季度是否會連續下滑?如果是,爲什麼?是因爲供應緊張嗎?中國市場一直很強勁,但進入第四季度後,中國市場會有所下滑。因此,如果您能告訴我們Blackwells的增長情況,以及Blackwells與Hopper在第四季度的表現,將非常有幫助。謝謝。
科萊特-克雷斯,首席財務官:
首先從你的第一個問題開始,關於我們的毛利率和定義的低點。當然,我們的毛利率會低於中位數,比如說我們的毛利率可能是71%,也可能是 72%,72.5%,我們會在這個範圍內。我們也有可能比這更高。我們得看看結果如何。我們確實希望在今年餘下的時間裡,能確保我們的產量和產品都能不斷提高,並持續改善,到那時我們將達到75%左右。
第二個問題是關於我們的Hopper,H200有了大幅增長,這不僅體現在訂單方面,還體現在立項的速度方面。這是一款令人驚歎的產品,也是我們所見過的增長最快的產品。
我們將繼續在本季度和第四季度銷售 Hopper。這涉及到我們所有不同的配置,我們的配置包括我們在中國可能採取的措施。但請記住,人們同時也在尋求建立自己的 Blackwell。
因此,我們在第四季度可能會同時出現這兩種情況。是的,Hopper是否有可能在第三季度和第四季度之間實現增長,這是可能的,但我們只能拭目以待。
Q6 摩根士丹利 約瑟夫-摩爾:我想請你談談你在推理市場上看到的情況。你已經談到了草莓和更長擴展推理項目的一些影響。但你也談到,隨着一些 Hopper 集羣的老化,你可能會使用一些 Hopper 潛在芯片進行推理。你是否預計推理將在未來12個月的時間內超過訓練?
Jensen Huang,首席執行官:
我們的希望和夢想是,有一天,全世界都能進行大量的推理。到那時,人工智能纔算真正成功了,對嗎?到那時,每家公司的營銷部門、預測部門、供應鏈部門、法律部門、工程部門,當然還有編碼部門,都會在公司內部進行推理。我們希望每家公司都能全天候進行推理,將有一大批人工智能原生初創企業和成千上萬家人工智能原生初創企業正在生成代幣和人工智能,從使用Outlook到製作 PowerPoint,或者當你坐在那裡使用 Excel 時,你的電腦體驗的方方面面都在不斷生成代幣。
每次閱讀 PDF、打開 PDF,都會生成一大堆token。我最喜歡的應用程序之一是 NotebookLM,谷歌推出的一款應用程序。我用得不亦樂乎,就是因爲它很有趣,你知道的。我把每個 PDF 文件、每份存檔文件都放進去,只是爲了聽一聽,以及掃一掃。所以我認爲,我們的目標就是訓練這些模型,以便人們使用它。現在,人工智能進入了一個全新的時代,一個被稱爲物理人工智能的全新人工智能流派,這些大型語言模型能夠理解人類的語言以及我們的思維過程。物理人工智能理解物理世界,它理解結構的含義,理解什麼是合理的,什麼是不合理的,什麼可能發生,什麼不會發生,它不僅理解,還能預測和推出一個短暫的未來。
這種能力對於工業人工智能和機器人技術來說,具有難以置信的價值。因此,許多人工智能原生公司、機器人公司和物理人工智能公司都因此火了起來,你可能也聽說過這些公司。這也是我們建立 Omniverse 的真正原因。Omniverse可以讓這些人工智能在Omniverse中創建和學習,並從合成數據生成和強化學習的物理反饋中學習,而不是從人類的反饋中學習。
爲了具備這些能力,我們創建了Omniverse,以便實現物理人工智能。因此,我們的目標是生成token。我們的目標是推理,而且我們已經開始看到這種增長。所以我對此感到非常興奮。現在讓我再說一件事。推理超級難。推理之所以超難,是因爲一方面你需要高精度,另一方面你需要高吞吐量。你需要高吞吐量,這樣成本才能儘可能低,但你也需要低延遲。而既要有高吞吐量,又要有低延遲的計算機是非常難以製造的。這些應用具有較長的上下文長度,因爲它們希望理解,希望能夠在理解上下文的情況下進行推理。因此,上下文長度越來越大。
另一方面,模型越來越大,而且是多模態的。要知道,推理創新的維度之多令人難以置信。這種創新速度正是英偉達架構的偉大之處,因爲我們的生態系統非常出色。每個人都知道,如果他們在英偉達架構的 CUDA 基礎上進行創新,他們就能更快地實現創新,而且他們知道一切都應該是可行的。
如果有什麼事情發生,很可能是他們的代碼而不是我們的。因此,我們有能力同時在各個方向上進行創新,擁有龐大的安裝基礎,這樣無論你創造了什麼,都可以在英偉達電腦上實現,並廣泛部署到全球的各個數據中心,一直到機器人系統的邊緣,這種能力真的非常驚人。
Q7 富國銀行分析師Aaron Rakers:我們關注數據中心業務的週期時,我想問你一個問題。當我看到上一季度的業績時,科萊特,你提到網絡業務顯然連續下降了15%,但你的評論是,你看到了非常強勁的需求。
您還提到,在這些大規模集羣方面,您贏得了多個雲CSP的設計。因此,我很想知道,你是否能解釋一下網絡業務的發展情況,以及你在哪些方面看到了一些制約因素,還有你對 Spectrum-X 的發展速度是否有信心,達到你之前談到的數十億美元的規模。
科萊特-克雷斯,首席財務官:
首先從網絡開始,同比增長是巨大的。自收購 Mellanox 以來,我們的工作重點一直是將我們在數據中心方面所做的工作結合在一起。網絡是其中至關重要的一部分。我們將我們的網絡與我們在數據中心所做的許多系統一起銷售的能力正在持續增長,而且表現相當出色。
因此,本季度的業績只是略有下滑,我們的增長勢頭會馬上恢復。他們正在爲Blackwells和越來越多的系統做好準備,這些系統不僅將使用我們現有的網絡,還將使用我們提供給這些大型系統的網絡。
Q8 花旗銀行Atif Malik:我有兩個問題想問科萊特。科萊特,在上次財報電話會議上,你提到主權需求是低兩位數。你能提供這方面的最新情況嗎?然後,你能解釋一下游戲供應緊張的情況嗎?這是因爲你們正在將供應轉向數據中心嗎?
科萊特-克雷斯,首席財務官:
首先從主權人工智能開始,這是增長的一個重要部分,隨着生成式人工智能的出現以及在全球各個國家建立模型,這一點已經真正浮出水面。我們看到了很多這樣的公司,我們在今天的電話會議上也談到了很多這樣的公司,以及他們正在做的工作。因此,我們的“主權人工智能”Sovereign AI)和我們未來的管道仍然是絕對完整的,因爲這些人正在努力用他們自己的語言、自己的文化來建立這些基礎模型,並在這些國家的企業中開展工作。我認爲,這將繼續成爲一個增長機會,你可能會看到我們的區域雲正在存儲和/或那些專注於主權人工智能許多部分的人工智能工廠。
不僅在歐洲,在亞太地區也有增長。讓我來談談你提出的關於遊戲的第二個問題。從供應方面來看,我們現在正忙於確保我們的所有不同產品都能正常生產。在這種情況下,我們的遊戲機供應,從我們看到的銷售情況來看,進展相當快。現在,我們面臨的挑戰是,如何才能在本季度快速向市場供應這些產品。不用擔心,我認爲在新的一年裡,我們會有更多的供應商迴歸正軌。只是本季度的供應會比較緊張。
Q9 Melius Research分析師Ben Reitzes:本季度的連續增長非常強勁,你們的營收指引約爲7%。你們對Blackwells的評論是否意味着,隨着供應量的增加,我們的增長速度會重新加快?就在上半年,似乎會有一些追趕者。因此,我想知道您在這方面有多大的指導意義。
Jensen Huang,首席執行官:
我們一次指導一個季度。
科萊特-克雷斯,首席財務官:
目前,我們正在進行本季度的工作,並在Blackwells公司建立我們需要的運輸體系。全球所有的供應商都與我們合作無間。一旦我們進入下一季度,我們將幫助大家瞭解下一個階段和之後的產量增長情況。
Q10 New Street Research分析師Pierre Ferragu:你在評論中提到了預訓練、實際語言模型和強化學習,強化學習在訓練和推理中也變得越來越重要。然後還有推理本身。我想知道,你是否對整個人工智能生態系統有一種高層次的典型感覺,比如你的一個客戶或一個大型模型。每一個計算單元的計算量是多少?今天有多少用於預訓練,多少用於強化,多少用於推理?你是否知道計算量是如何分配的?
Jensen Huang,首席執行官:
如今,預訓練基礎模型的工作非常重要,因爲大家都知道,後訓練的新技術纔剛剛上線。無論你在前期訓練和後期訓練中做了什麼,你都會努力去做,以便儘可能降低每個人的推理成本。然而,你能優先做的事情有限。因此,你總得進行現場思考、情境思考和反思。因此,我認爲,根據我們的情況,這三者的規模實際上是非常合理的。
在基礎模型領域,我們現在有了多模態基礎模型,而這些基礎模型所要訓練的視頻量達到了令人難以置信的PB級。我的預期是,在可預見的未來,我們將不斷擴大預訓練和後訓練的規模,以及推理時間的規模,這也是我認爲我們需要越來越多計算的原因,我們必須儘可能地提高性能,每次提高X倍,這樣我們才能繼續降低成本,繼續增加收入,推動人工智能革命。謝謝。
現在請黃仁勳生成致閉幕詞。
Jensen Huang,首席執行官:
謝謝,英偉達公司業務的巨大增長得益於兩個基本趨勢,這兩個趨勢正在推動全球對英偉達計算的採用。首先,計算堆棧正在經歷一場重塑,即從編碼到機器學習的平臺轉變。從在 CPU上執行代碼到在GPU上處理神經網絡。傳統數據中心基礎設施的1萬億美元安裝基礎正在爲軟件 2.0 而重建,軟件2.0將應用機器學習來產生人工智能。其次,人工智能時代正在全面到來。生成式人工智能不僅是一種新的軟件能力,而且是一個由人工智能工廠製造數字智能的新產業,這是一場新的工業革命,可以創造數萬億美元的人工智能產業。對 Hopper 的需求和對 Blackwell 的期待(Blackwell現已全面投產)令人難以置信,原因有以下幾點。現在的基礎模型製造商比一年前更多,前期訓練和後期訓練的計算規模繼續呈指數級增長。
人工智能原生初創企業比以往任何時候都要多,成功推理服務的數量也在不斷上升。而隨着ChatGPT o1、OpenAI o1 的推出,一種名爲測試時間縮放的新縮放法則已經出現。所有這些都需要消耗大量計算。人工智能正在改變每個行業、公司和國家。企業正在採用代理人工智能來徹底改變工作流程。隨着時間的推移,人工智能同事將協助員工更快更好地完成工作。由於物理人工智能的突破,對工業機器人的投資正在激增。
隨着研究人員在兆字節的視頻和全宇宙合成數據上訓練世界基礎模型,推動了新的訓練基礎設施需求。機器人時代即將到來。世界各國都認識到我們所看到的人工智能基本趨勢,並已意識到發展本國人工智能基礎設施的重要性。人工智能時代已經來臨,而且規模龐大,種類繁多。英偉達的專業知識、規模以及提供全棧和全基礎架構的能力,讓我們能夠服務於未來整個價值數萬億美元的人工智能和機器人機遇。
從每一個超大規模雲、企業私有云到主權區域人工智能雲、內部部署到工業邊緣和機器人技術。感謝您參加今天的會議,下次再見。