今日的COMPUTEX大會(huì )上，英偉達CEO黃仁勛向全世界宣布——

我們已經(jīng)到達了生成式AI的引爆點(diǎn)。從此，全世界的每個(gè)角落，都會(huì )有計算需求。

(資料圖)

股價(jià)剛剛暴漲2000億美元的英偉達，為這一刻早已做好準備。

一開(kāi)場(chǎng)，身著(zhù)黑皮衣的老黃慷慨激昂地走上舞臺，「大家好！We’re back！」

隨后，便祭出大殺器——「超級GPU」 GH200，并宣布谷歌云、Meta和微軟將率先獲得GH200。

據稱(chēng)，有超過(guò)3500人親臨現場(chǎng)，體驗了這個(gè)長(cháng)達2個(gè)小時(shí)的激情演講。

時(shí)隔4年，闊別已久的老黃也是狂飆中文。

「超級芯片」GH200

要說(shuō)，這次演講中，重頭戲還是在GPU上。畢竟AI的iPhone已經(jīng)來(lái)臨。

老黃左右手分別端了一個(gè)芯片，重磅宣布，「GH200超級芯片」已經(jīng)全面投產(chǎn)。

這一「超級GPU」使用NVLink-c2c互連技術(shù)，將基于A(yíng)RM節能的GraceCPU和高性能NVIDIA H100 Tensor Core GPU結合在一起，提供了高達900GB/s的總帶寬。

目前，由GH200加持的系統加入了400多種系統配置。

這些系統配置由英偉達最新的CPU、 GPU和DPU架構的不同組合提供動(dòng)力。

其中包括Grace、Hopper、Ada Lovelace和BlueField，這些架構的創(chuàng )建是為了滿(mǎn)足對生成式AI不斷增長(cháng)的需求。

此外，老黃還宣布了一個(gè)更重磅的：256個(gè)GH200組成的超算來(lái)了。

超算DGX GH200，今年上市

英偉達表示，全新DGX GH200人工智能超級計算平臺，是專(zhuān)為大規模生成式AI的負載而設計。

這臺由256塊Grace Hopper超級芯片組成的超算，將擁有高達1 exaflop的超凡AI性能，以及144TB的共享內存（比上一代DGX A100多了近500倍）。

舉個(gè)例子，在GPT-3訓練中，它能比上一代DGX H100集群快2.2倍。

此外，這個(gè)龐然大物還包含了150英里的光纖和2,000多個(gè)風(fēng)扇。

目前，英偉達已經(jīng)與三大巨頭進(jìn)行了合作，谷歌、 Meta和微軟。

由于生成式人工智能的爆炸式增長(cháng)，微軟、谷歌等巨頭希望擁有更強大、性能更好的系統。

而DGX H200的設計目的是，通過(guò)使用英偉達定制的NVLink Switch芯片，繞開(kāi)InfiniBand和以太網(wǎng)等標準集群連接的局限性，為最大工作負載的大規?？蓴U展性提供最大的吞吐量。

另外，英偉達表示正在建造自己的大型AI超級計算機NVIDIA Helios，預計在今年上線(xiàn)。

它將使用4個(gè)與NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò )連接的DGX GH200系統，以提高數據吞吐量，以訓練大型AI模型。

以往的數據中心都非常龐大，而且是基于CPU的，算法的迭代要花很長(cháng)時(shí)間，大部分算法，也都是CPU中心的。

而現在，有了Grace Hopper，只需要幾天甚至幾個(gè)小時(shí)，就能完成這個(gè)過(guò)程。簡(jiǎn)直要把整個(gè)行業(yè)都革命掉了！

（等等，PaLM的參數不是540B么？）

老黃：買(mǎi)越多，越省錢(qián)！

作為現在的扛把子，這樣一個(gè)重65磅，價(jià)值200000美元的H100計算機，是世界上第一個(gè)搭載了Transformer Engine，也是目前全世界最昂貴的計算機。

老黃表示，可以說(shuō)，像這樣的產(chǎn)品，你買(mǎi)得越多，就省得越多。

接下來(lái)，老黃提到1964年的IBM 360，強調了CPU的重要性。

老黃自信地重復表示，「而60年后，我們現在有數據中心。今天，數據中心就是一個(gè)計算機?！?/p>

正如老黃所說(shuō)，一種新的計算模式正在被創(chuàng )造。

為什么使用GPU勝過(guò)使用CPU？

老黃從配置上給出了分析：花費1000萬(wàn)美金成本，你可以建置一個(gè)有960顆CPU的數據中心，但這個(gè)數據中心要11GWh的功率，處理1X LMM（大語(yǔ)言模型）的數據量。

但一樣的錢(qián)，你可以建置一個(gè)配備有48個(gè)GPU的數據中心，但只要3.2GWh的功耗，而且可以處理44X LLM的數據量。

要知道，如此配置已經(jīng)足夠驚人。然而，這還不夠。

為了獲得極致性能，你可以在功耗不變的情況下，把GPU數量直接拉到172個(gè)。

此時(shí)的算力，可以高達CPU數據中心的150倍。當然，預算也提高到了3400萬(wàn)美元。

此外，如果你就只是單純地想完成手頭的工作（1X LLM），老黃也幫你把成本打下來(lái)了——

只需花40萬(wàn)美金，就能買(mǎi)一個(gè)搭載了2個(gè)GPU的數據中心，功耗僅0.13GWh。

臺下響起一片掌聲，老黃又拿出了口頭禪「The more you buy，The more you save」，甚至重復了三遍。

這背后的策略，究竟是什么？老黃給了一個(gè)公式。

MGX：模塊化架構

與此同時(shí)，老黃還推出了NVIDIA MGXTM，一個(gè)供系統制造商快速、低成本地構建100多個(gè)服務(wù)器變體的參考架構。

據稱(chēng)，這個(gè)規范可以將開(kāi)發(fā)成本削減多達四分之三，并將開(kāi)發(fā)時(shí)間縮短三分之二，僅需要6個(gè)月。

有了MGX，科技公司可以為他們的服務(wù)器優(yōu)化加速計算的基本系統架構，然后選擇自己的GPU，DPU和CPU。

MGX還可以很容易地集成到云和企業(yè)數據中心。

除了硬件之外，MGX還得到了英偉達完整軟件棧的支持，這使得開(kāi)發(fā)者和企業(yè)能夠構建和加速 AI、 HPC 和其他應用程序。

這包括NVIDIA AI Enterprise，NVIDIA AI平臺的軟件層，其特點(diǎn)是有100多個(gè)框架、預訓練的模型和開(kāi)發(fā)工具，以加速人工智能和數據科學(xué)，為企業(yè)人工智能開(kāi)發(fā)和部署提供充分支持。

將AI引入游戲，實(shí)時(shí)語(yǔ)音聊天的NPC角色來(lái)了

這次演講的亮點(diǎn)，還有全新的定制AI模型代工服務(wù) ——Avatar Cloud Engine (ACE) for Game。

現場(chǎng)，老黃右手手持一塊RTX 4060 Ti，左手手持一臺電腦，展示了運行實(shí)時(shí)光線(xiàn)追蹤的Cyberpunk 2077。

在一個(gè)充滿(mǎn)「賽博朋克」風(fēng)格的拉面店場(chǎng)景中，玩家按下一個(gè)按鈕，可以用自己的聲音說(shuō)話(huà)，然后店主Jin會(huì )進(jìn)行回答。

Jin是一個(gè)NPC角色，但他的回答是由生成式AI根據玩家的語(yǔ)音輸入實(shí)時(shí)生成的。Jin還有著(zhù)逼真的面部動(dòng)畫(huà)和聲音，與玩家的語(yǔ)氣和背景故事相符。

這個(gè)逼真人物角色的生成，使用了一個(gè)實(shí)時(shí)人工智能模型渲染工具Nvidia Ace。

老黃表示，這個(gè)游戲中的角色并沒(méi)有預先設定。他們有一個(gè)典型的任務(wù)提供者NPC類(lèi)型。

但是從視頻中，可以看到，虛擬角色的談話(huà)有點(diǎn)生硬，但還不算太糟。

那些沒(méi)有AI專(zhuān)業(yè)知識的人，將被拋棄

40年來(lái)，我們創(chuàng )造了PC、互聯(lián)網(wǎng)、移動(dòng)、云，現在是人工智能時(shí)代。

你會(huì )創(chuàng )造什么？不管是什么，都要像我們一樣追趕它。要奔跑，不要走。要么是你為食物而奔跑，要么就是你任自己逃避，成為食物。

5月27日，黃仁勛在臺灣大學(xué)發(fā)表了畢業(yè)典禮演講。

此刻，他正為全世界所矚目。

瞬間變身萬(wàn)億掌門(mén)人，讓他的話(huà)更有底氣。

黃仁勛表示，每個(gè)公司和個(gè)人都應該熟悉人工智能，否則，就有失敗的危險。

他強調：敏捷的公司會(huì )利用人工智能提高自己的地位，這樣的公司不會(huì )倒閉。

很多人擔心，AI會(huì )搶走自己的工作，但真正會(huì )搶走你飯碗的，掌握了AI技術(shù)的人。

當時(shí)，他在演講中預言：從各方面來(lái)看，AI的興盛是計算機產(chǎn)業(yè)的再生契機。在下個(gè)十年，我們的產(chǎn)業(yè)將使用新型的AI電腦，取代價(jià)值萬(wàn)億美元的傳統電腦。

而從今天的演講中，我們仿佛已經(jīng)窺見(jiàn)了這種未來(lái)的雛形。

本文來(lái)源：新智元，原文標題：《老黃攜「超級GPU」炸場(chǎng)！E級AI超算性能飛升，買(mǎi)越多越劃算，谷歌微軟Meta搶先試用》

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞：