GPU、GPU還是GPU，AI掀起的“算力革命”不僅讓幾乎壟斷GPU市場(chǎng)的英偉達成了聚光燈下的焦點(diǎn)，也讓OpenAI CEO在一次又一次的訪(fǎng)談中大談GPU短缺問(wèn)題。

5月29日，Humanloop，一家從事機器學(xué)習和人工智能的初創(chuàng )公司，其CEO Raza Habib邀請了包括OpenAI CEO Sam Altman在內的20位開(kāi)發(fā)人員共通探討人工智能的未來(lái)，而整個(gè)討論中最重要的主題便是——GPU短缺是最大瓶頸。

(資料圖片僅供參考)

Altman表示，目前OpenAI的客戶(hù)最不滿(mǎn)的便是API的可靠性和速度，而這個(gè)問(wèn)題主要就是GPU短缺造成的。

這場(chǎng)算力革命，讓英偉達今年以來(lái)一度暴漲170%，躋身萬(wàn)億市值公司行列，在GPU持續短缺的當下，圍繞著(zhù)英偉達的狂歡還將繼續嗎？

OpenAI嚴重依賴(lài)GPU

Altman表示，他們的下一步計劃就是不斷更新GPT-4，讓其更便宜，更快，而在發(fā)展過(guò)程中遇到的最大瓶頸便是GPU短缺，訪(fǎng)談中指出：

長(cháng)度為32k的上下文窗口還未到推廣時(shí)機，OpenAI還未能克服技術(shù)上的障礙，主要是因為算法的高復雜性。雖然很快就會(huì )有10萬(wàn)—100萬(wàn)新的32K上下文窗口token，但提供更多的訪(fǎng)問(wèn)token則需要技術(shù)和研究上突破。

微調（Fine-Tuning）API目前也受到GPU可用性的限制。他們還沒(méi)有使用像Adapters或LoRa這樣的高效微調方法，所以微調運行和管理需要高精度的計算。將來(lái)會(huì )有更好的微調支持。他們甚至可能主持一個(gè)社區貢獻模型的市場(chǎng)。

OpenAI提供的專(zhuān)用容量服務(wù)受到GPU的限制。當用戶(hù)請求使用專(zhuān)用容量時(shí)，OpenAI需要確保有足夠的GPU可供分配給用戶(hù)。然而，由于GPU資源有限，供應有限。要使用這項服務(wù)，客戶(hù)必須愿意預付10萬(wàn)美元的費用。

對于OpenAI未來(lái)的發(fā)展，Altman表示，在2023年OpenAI的目標是盡可能降低“智能的成本”，繼續降低API的成本：

更便宜、更快的GPT-4 —— 首要任務(wù)。

更長(cháng)的上下文窗口 —— 在不久的將來(lái)，高達一百萬(wàn)的上下文窗口token。

微調（Fine-Tuning）API —— 微調API將擴展到最新的模型，但這的確切形式將由開(kāi)發(fā)者表明他們真正想要的東西來(lái)塑造。

支持會(huì )話(huà)狀態(tài)的API —— 現在當你調用聊天API時(shí)，你必須反復重復歷史對話(huà)，并反復支付同樣的tokens。在未來(lái)，API將有一個(gè)記住對話(huà)歷史的版本。

在5月16日舉行的AI國會(huì )聽(tīng)證會(huì )上，Altman就已經(jīng)表達了對算力瓶頸的擔憂(yōu)：由于計算能力瓶頸，如果使用ChatGPT的人少一些會(huì )更好。

英偉達的狂歡還將繼續？

在這場(chǎng)AI大戰中，華爾街高呼，英偉達是唯一“軍火商”，其超預期業(yè)績(jì)指引讓市場(chǎng)開(kāi)啟了一場(chǎng)圍繞著(zhù)英偉達的狂歡，股價(jià)再次節節攀升，市值一度突破萬(wàn)億美元大關(guān)。

目前，包括谷歌和微軟在內，許多科技巨頭都使用英偉達芯片來(lái)為AI業(yè)務(wù)提供算力。谷歌計劃將生成式AI技術(shù)嵌入六個(gè)產(chǎn)品，每一個(gè)都手握超過(guò)20億用戶(hù)。

英偉達周一在COMPUTEX大會(huì )上推出了新產(chǎn)品，覆蓋了從機器人到游戲的多個(gè)領(lǐng)域。它還宣布了一個(gè)新的超級計算機平臺——DGX GH200助力新一代大AI模型。谷歌、微軟和Meta預計是獲得訪(fǎng)問(wèn)權的首選客戶(hù)。會(huì )上，英偉達CEO黃仁勛表示，全球4萬(wàn)家大公司和1.5萬(wàn)家初創(chuàng )公司正在使用英偉達的技術(shù)。

英偉達最近表示，該公司正在擴大供應，以滿(mǎn)足不斷增長(cháng)的需求。英偉達CEO黃仁勛周日表示，該公司已經(jīng)提高了用于生成式人工智能的新款旗艦芯片H100的產(chǎn)量。

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞：