5月29日周一，英偉達CEO黃仁勛在COMPUTEX大會(huì )上拋出多個(gè)重磅信息，包括新的機器人設計、游戲功能、廣告服務(wù)和網(wǎng)絡(luò )技術(shù)。其中最為引人矚目的是，搭載256顆GH200 Grace Hopper超級芯片的新型DGX GH200人工智能超級計算機，堪稱(chēng)“算力殺器”。

谷歌云、Meta和微軟是首批預計將獲得DGX GH200訪(fǎng)問(wèn)權的客戶(hù)，以探索其在生成型AI工作負載方面的能力。值得注意的是，算力的突破，將使得AI應用再次獲得巨大提升，AI賽道有望向下一個(gè)節點(diǎn)邁進(jìn)。在周一的演講中，黃仁勛認為科技行業(yè)的傳統架構的改進(jìn)速度已不足以跟上復雜的計算任務(wù)。 為了充分發(fā)揮AI 的潛力，客戶(hù)越來(lái)越多地轉向加速計算和英偉達制造的GPU。

黃仁勛說(shuō)：

我們已到達生成式AI引爆點(diǎn)。從此，全世界的每個(gè)角落，都會(huì )有算力需求。

【資料圖】

有評論認為，一連串的發(fā)布凸顯了英偉達正在從一家GPU制造商轉變?yōu)橐患姨幱贏(yíng)I熱潮中心的公司。

上周，由于對處理AI任務(wù)的數據中心芯片的強烈需求，英偉達大幅提高了對本季度的業(yè)績(jì)指引，比分析師的估計高出近40億美元。業(yè)績(jì)指引的提高使該股創(chuàng )下歷史新高，并使英偉達的估值接近1萬(wàn)億美元，這還是芯片業(yè)中首次有公司市值達到這一高度。

在周一的會(huì )議上，黃仁勛發(fā)布的主要內容包括：

英偉達面向游戲玩家的GForce RTX 4080 Ti GPU現已全面投產(chǎn)，并已經(jīng)開(kāi)始量產(chǎn)。黃仁勛宣布推出適用于游戲的英偉達Avatar Cloud Engine（ACE），這是一種可定制的AI模型代工服務(wù)，為游戲開(kāi)發(fā)人員提供預訓練模型。它將通過(guò)AI支持的語(yǔ)言交互賦予非玩家角色更多個(gè)性。英偉達Cuda計算模型現在服務(wù)于400萬(wàn)開(kāi)發(fā)者和超過(guò)3000個(gè)應用程序。Cuda的下載量達到了4000萬(wàn)次，其中僅去年一年就達到了2500萬(wàn)次。GPU服務(wù)器HGX H100的全面量產(chǎn)已經(jīng)開(kāi)始，他補充說(shuō)，這是世界上第一臺裝有變壓器引擎的計算機。黃仁勛將英偉達2019年以69億美元收購超級計算機芯片制造商Mellanox稱(chēng)為其有史以來(lái)做出的“最偉大的戰略決策之一”。下一代 Hopper GPU的生產(chǎn)將于2024年8月開(kāi)始，也就是第一代開(kāi)始生產(chǎn)兩年后。英偉達的GH200 Grace Hopper現已全面投產(chǎn)。超級芯片提升了4 PetaFIOPS TE、72個(gè)通過(guò)芯片到芯片鏈路連接的Arm CPU、96GB HBM3和576 GPU內存。黃仁勛將其描述為世界上第一個(gè)具有巨大內存的加速計算處理器：“這是一臺計算機，而不是芯片?！?它專(zhuān)為高彈性數據中心應用而設計。如果Grace Hopper的內存不夠用，英偉達有解決方案——DGX GH200。 它是通過(guò)首先將8個(gè)Grace Hoppers與3個(gè)NVLINK交換機以900GB傳輸速度的Pod連接在一起，再將32個(gè)這樣的組件連接在一起，再加上一層開(kāi)關(guān)，連接總共256個(gè)Grace Hopper芯片。 由此產(chǎn)生的 ExaFLOPS Transformer Engine具有144 TB的GPU內存，可用作巨型GPU。黃仁勛說(shuō)Grace Hopper速度非?？?，可以在軟件中運行5G堆棧。 谷歌云、Meta和微軟將是第一批獲得DGX GH200 訪(fǎng)問(wèn)權限的公司，并將對其功能進(jìn)行研究。英偉達和軟銀已建立合作伙伴關(guān)系，將Grace Hopper超級芯片引入軟銀在日本的新分布式數據中心。這些將能夠在多租戶(hù)通用服務(wù)器平臺中托管生成式人工智能和無(wú)線(xiàn)應用程序，從而降低成本和能源。軟銀和英偉達的合作伙伴關(guān)系將基于英偉達MGX參考架構，該架構目前正在與一些公司合作使用。它為系統制造商提供了一個(gè)模塊化的參考架構，幫助他們構建100多個(gè)用于A(yíng)I、加速計算和全方位用途的服務(wù)器變體。合作的公司包括ASRock Rack、Asus、Gigabyte、Pegatron、QCT和Supermicro。黃仁勛發(fā)布了Spectrum-X加速網(wǎng)絡(luò )平臺，以提高基于以太網(wǎng)的云的速度。它包括Spectrum 4交換機，它有128個(gè)端口，每秒400GB和每秒51.2TB的傳輸速度。黃仁勛說(shuō)，該交換機旨在實(shí)現新型以太網(wǎng)，并設計為端到端以進(jìn)行自適應路由、隔離性能和進(jìn)行結構內計算。它還包括Bluefield 3 Smart Nic，它連接到Spectrum 4交換機以執行擁塞控制。世界上最大的廣告公司W(wǎng)PP已與英偉達Nvidia 合作開(kāi)發(fā)基于英偉達Omniverse的內容引擎。 它將能夠制作用于廣告的照片和視頻內容。WPP首席執行官馬克·里德在一份聲明中表示：“生成式AI正以驚人的速度改變著(zhù)廣告行業(yè)，這項新技術(shù)將改變知名品牌創(chuàng )建商業(yè)內容的方式?！睋PP稱(chēng)，新平臺將使WPP的創(chuàng )意團隊能夠將Adobe和Getty Images等公司的內容與生成式人工智能相結合，更高效、更大規模地制作廣告內容。該公司補充說(shuō)，這將使公司能夠制作大量的廣告內容，如文本、圖片或視頻，實(shí)現量身定制，并更有沉浸感。機器人平臺英偉達Isaac ARM現在可供任何想要構建機器人的人使用，并且是全棧的，從芯片到傳感器。Isaac ARM從名為 Nova Orin 的芯片開(kāi)始，是第一個(gè)機器人全參考堆棧，Huang 說(shuō)。

在發(fā)布會(huì )上，黃仁勛還展示了生成式AI以文字形式輸入然后以其他媒體輸出內容的能力。他要求播放與清晨心情相配的音樂(lè )，而在另一篇文章中，他列出了一些歌詞，然后使用AI將這個(gè)想法轉化為一首活潑的流行歌曲：

現在每個(gè)人都是創(chuàng )作者。

值得注意的是，本次大會(huì )上，黃仁勛向傳統CPU服務(wù)器集群發(fā)起“挑戰”。他直言，認為在人工智能和加速計算這一未來(lái)方向上，GPU服務(wù)器有著(zhù)更為強大的優(yōu)勢。

黃仁勛解釋稱(chēng)，傳統上電腦或服務(wù)器最重要的 CPU，這個(gè)市場(chǎng)主要參與者包括英特爾和AMD。但隨著(zhù)需要大量計算能力的AI應用出現，GPU將成為主角，英偉達主導了當前全球AI GPU 市場(chǎng)。?

黃仁勛在演講上展示的范例，訓練一個(gè)LLM大語(yǔ)言模型，將需要960個(gè)CPU組成的服務(wù)器集群，這將耗費大約1000萬(wàn)美元，并消耗11千兆瓦時(shí)的電力。相比之下，同樣以1000萬(wàn)美元的成本去組建GPU服務(wù)器集群，將以?xún)H3.2千兆瓦時(shí)的電力消耗，訓練44個(gè)LLM大模型。

如果同樣消耗11千兆瓦時(shí)的電量，那么GPU服務(wù)器集群能夠實(shí)現150倍的加速，訓練150個(gè)LLM大模型，且占地面積更小。而當用戶(hù)僅僅想訓練一個(gè)LLM大模型時(shí)，則只需要一個(gè)40萬(wàn)美元左右，消耗0.13千兆瓦時(shí)電力的GPU服務(wù)器即可。

換言之，相比CPU服務(wù)器，GPU服務(wù)器能夠以4%的成本和1.2%的電力消耗來(lái)訓練一個(gè)LLM，這將帶來(lái)巨大的成本節省。

根據Trend Force的數據，2022年搭載GP GPU的AI服務(wù)器年出貨量占全部服務(wù)器的比重接近1%，2023年在ChatGPT等人工智能應用加持下，AI服務(wù)器出貨量有望同比增長(cháng)8%，2022~2026年出貨量CAGR有望達10.8%，以AI服務(wù)器用GPU，主要以公司H100、A100、A800（主要出貨中國）以及AMD MI250、MI250X系列為主，而英偉達與AMD的占比約8：2。

基于IDC預測2026年全球服務(wù)器出貨量1877萬(wàn)臺、AI服務(wù)器的占比逐年提升1%，同時(shí)AI服務(wù)器中GPU的搭載數量逐年提升0.5個(gè)百分點(diǎn)、隨著(zhù)GPU產(chǎn)品迭代，GPU單價(jià)逐年提升2000美元，國金證券基于上述基礎預測，2026年全球數據中心GPU市場(chǎng)規模有望達224億美元。

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞：