今日要點(diǎn)：

(相關(guān)資料圖)

1、英偉達超級計算平臺除了讓光模塊“發(fā)光”，更不能忽略存儲和PCB；

2、出現了比Meta更好的開(kāi)源大模型？

3、政策鼓勵AI產(chǎn)業(yè)發(fā)展，算力將得到更合理分配，還應關(guān)注數據中心上架率；

見(jiàn)聞視角

海外AI

1、英偉達GH200對光模塊用量增加已成為普遍共識，更不能忽略存儲和PCB

昨天我們提到英偉達發(fā)布超強AI計算平臺DGX GH200，很多人關(guān)注該款超級計算機對光模塊需求影響的程度。

根據多家券商的測算情況，市場(chǎng)普遍認為光模塊的用量還是呈現較大幅度的提高。新架構全光方案GPU:800G光模塊數量比1:18，半光方案GPU:800G光模塊數量比1:9。

具體來(lái)看，每個(gè)Node單向帶寬450GB/s（900GB/s雙向帶寬），8顆Superchip累計3.6TB/s單向帶寬，800G光模塊實(shí)際傳輸能力為100GB/s，即一個(gè)Node單向傳輸需要36個(gè)800G光模塊，全系統共2個(gè)上行方向+2個(gè)下行方向，累計需要144個(gè)800G光模塊（對應8顆Superchip），即800G全光方案比例關(guān)系為1:18。類(lèi)似的，400G全光方案比例關(guān)系為1:36，800G半光方案比例關(guān)系為1:9。

除模塊之外，見(jiàn)智研究認為：還應關(guān)注內存和PCB的增量?jì)r(jià)值。

GH200單顆芯片需要480GB LPDDR5內存+96GB的HBM顯存。而上一代DGX H100服務(wù)器中，平均單顆H100芯片對應256GB內存，以及80GB的HBM。二者對比，GH200方案的存儲器價(jià)值量有顯著(zhù)提升。

PCB：傳統服務(wù)器中，主板單價(jià)近5000元/平米；加速卡板單價(jià)更高，隨著(zhù)層數、材質(zhì)、加工難度的提升，可達1w+/平米。

GH200超級芯片是CPU+GPU二合一，集成度提升可以省去部分主板PCB，但相較傳統加速卡面積更大，同時(shí)要在加速卡板材質(zhì)、層數、HDI等方面進(jìn)一步升級。

2、出現了比Meta更好的開(kāi)源大模型？

一款名為FalconLM 開(kāi)源語(yǔ)言模型說(shuō)是提供了比 Meta 的 LLaMA 更好的性能，是迄今為止最強大的開(kāi)源語(yǔ)言模型。

該款模型是由阿拉伯聯(lián)合酋長(cháng)國阿布扎比的技術(shù)創(chuàng )新研究所 （TII） 開(kāi)發(fā)，FalconLM 最大的變體擁有400億個(gè)參數，可以用于商業(yè)。但如果收入超過(guò)100萬(wàn)美元，則商業(yè)用途需要繳納特許權使用費。在總結各種基準測試結果的Hugging Face OpenLLM 排行榜上，兩個(gè)最大的 FalconLM 模型（其中一個(gè)已經(jīng)用指令進(jìn)行了改進(jìn)）目前以顯著(zhù)優(yōu)勢占據前兩名。

見(jiàn)智研究認為：開(kāi)源語(yǔ)言模型如雨后春筍般的冒出，部分基礎大模型的性能也表現出較強的優(yōu)勢。FalconLM相較于其他開(kāi)源模型的競爭優(yōu)勢的包括在訓練數據的選擇，從公共爬網(wǎng)數據集中提取高質(zhì)量數據并刪除重復數據的流程。在徹底清除重復數據后，仍保留了5萬(wàn)億條文本（token）——足以訓練強大的語(yǔ)言模型。此外， FalconLM優(yōu)化后的架構能夠很大程度提高計算能力，推理成本僅為GPT3的五分之一。

國內AI

政策鼓勵加強算力的部署和分配，還應該關(guān)注數據中心上架率

北京市政府辦公廳正式發(fā)布《北京市促進(jìn)通用人工智能創(chuàng )新發(fā)展的若干措施》，主要包括五大方面：1、提升算力資源統籌供給能力；2、提升高質(zhì)量數據要素供給能力；3、系統構建大模型等通用人工智能技術(shù)體系；4、推動(dòng)通用人工智能技術(shù)創(chuàng )新場(chǎng)景應用；5、探索營(yíng)造包容審慎的監管環(huán)境。

見(jiàn)智研究認為：在政策的推動(dòng)下，算力、數據要素市場(chǎng)將會(huì )進(jìn)一步得到全面的效率優(yōu)化和監管，會(huì )給民營(yíng)企業(yè)在租用算力上來(lái)帶便捷度，從而促進(jìn)行業(yè)的良性發(fā)展。

從基礎設施方面來(lái)看，AI新基建主要會(huì )圍繞數據中心、超算中心的建設以及配套設備需求提高，具體包括AI服務(wù)器、高速交換機、光模塊、制冷設備、電源設備等。應用場(chǎng)景方面鼓勵創(chuàng )新同樣會(huì )正向刺激算力的需求。但仍需關(guān)注數據中心目前機架上機率的情況，是否已經(jīng)達到較高水平。

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞：