“早在2015年和2016年，我們根本不敢想象ChatGPT能達到現在的程度?！監penAI聯(lián)合創(chuàng )始人及首席科學(xué)家Ilya Sutskever，在接受英偉達創(chuàng )始人兼CEO黃仁勛“采訪(fǎng)”時(shí)這么說(shuō)道。

這場(chǎng)對話(huà)在多模態(tài)模型GPT-4推出的第二天，當地時(shí)間3月22日，英偉達官方發(fā)布了完整的談話(huà)視頻。在接近一個(gè)小時(shí)的交談中，黃仁勛和Sutskever談到了聊天機器人ChatGPT的開(kāi)發(fā)歷程、GPT-4的進(jìn)步，以及對AI（人工智能）行業(yè)的展望。

【資料圖】

談ChatGPT：工作原理像閱讀推理小說(shuō)

ChatGPT是OpenAI公司于去年11月發(fā)布的聊天機器人，問(wèn)世不到半年，便成為最流行的計算機應用程序之一，還帶動(dòng)了各大科技公司在生成式AI領(lǐng)域展開(kāi)角逐。

黃仁勛多次提到“AI行業(yè)的iPhone時(shí)刻已經(jīng)到來(lái)”，但作為OpenAI的創(chuàng )始人之一，Sutskever則表示，2016年左右，他們根本不敢想象ChatGPT能達到現在的程度。

“當時(shí)我們的思路之一，是讓機器具備不受監督的學(xué)習能力（unsupervised learning）?，F在看來(lái)這是理所當然的，人們可以用自然語(yǔ)言模型去培訓AI。但在2016年，這是一個(gè)未知的領(lǐng)域，沒(méi)有任何科學(xué)家有過(guò)相關(guān)的經(jīng)驗和洞見(jiàn)?！盨utskever說(shuō)道。

“更早之前，我也認為‘學(xué)習’這件事只有人類(lèi)才能完成，計算機無(wú)法做到?！钡?002年到2003年期間，他的想法發(fā)生了轉變，“如果能夠讓計算機去不斷學(xué)習，或許會(huì )為AI行業(yè)帶來(lái)改變?！?/p>

他認為，將神經(jīng)網(wǎng)絡(luò )引入AI領(lǐng)域是非常重要的進(jìn)步。它能像人類(lèi)的大腦一樣工作，能夠進(jìn)行“深度學(xué)習”，因此可以將其運作邏輯套用在計算機上。

“深度學(xué)習”的背后有一套非常扎實(shí)的理論基礎，如果計算機的神經(jīng)網(wǎng)絡(luò )足夠深、規模足夠大，便能解決深層次的硬核問(wèn)題，但這需要足夠的數據庫和算力進(jìn)行支撐。因此，OpenAI在優(yōu)化數據模型上付出了很多努力，例如制作“神經(jīng)網(wǎng)絡(luò )的反饋”，通過(guò)培訓神經(jīng)網(wǎng)絡(luò )，使其規模更大、獲得更多數據。

而ChatGPT的工作原理其實(shí)就是培訓神經(jīng)網(wǎng)絡(luò )體系，讓神經(jīng)網(wǎng)絡(luò )預測下一個(gè)單詞。以推理小說(shuō)為例，一本小說(shuō)中含有各種不同的人物和情節，讀者在閱讀的過(guò)程中能夠根據線(xiàn)索去推測兇手，這與GPT系列的工作方式非常相似。

“我們希望它預測單詞具有一定的邏輯性，與過(guò)去的訓練文本達到一致?！盨utskever說(shuō)道，“我們并不是簡(jiǎn)單地根據人類(lèi)經(jīng)驗完成AI學(xué)習，而是要根據人類(lèi)的反饋進(jìn)行強化學(xué)習。反饋很重要，越多的反饋能使得AI更加可靠?！?/p>

談GPT-4：推理能力沒(méi)有達到此前預期

最新推出的大型多模態(tài)模型GPT-4也是此次談話(huà)的主題之一。OpenAI在6至8個(gè)月之前就開(kāi)始訓練GPT-4，與ChatGPT相比它在許多方面都做出了相當大的改進(jìn)，最明顯的是這款新模型可以處理圖像內容。

Sutskever說(shuō)道，世界是由圖片構成的，而人類(lèi)是視覺(jué)動(dòng)物，人腦三分之一的灰質(zhì)均用來(lái)處理圖像，因此多模態(tài)模型能夠為用戶(hù)提供更多幫助。例如，在數學(xué)競賽中很多問(wèn)題需要圖表進(jìn)行解答，GPT-4能夠解讀圖標，極大提高回復的準確率。

他大膽預測，未來(lái)的某個(gè)GPT版本可能不僅能夠閱讀圖像，還能在回復中生成圖表。

GPT-4的另一個(gè)特點(diǎn)是基于更好的神經(jīng)網(wǎng)絡(luò )，能夠更精確地預測下一個(gè)單詞。不過(guò)當被問(wèn)及GPT-4是否具有推理能力（reasoning capabilities）時(shí)，Sutskever表示很難去定義這一術(shù)語(yǔ)，不過(guò)他認為這種能力可能會(huì )在不久的將來(lái)實(shí)現。

“我們認為，GPT的推理能力還沒(méi)有達到之前預期的水平，如果更進(jìn)一步擴大數據庫，并保持商業(yè)運轉模型，它的推理的能力會(huì )進(jìn)一步提高，我對此充滿(mǎn)信心?！彼f(shuō)道。

在談話(huà)的最后，Sutskever還預測了生成式AI的未來(lái)，“目前我們只是向AI提供文本，并讓其得出結論，但AI無(wú)法驗證這些文本的真實(shí)性以及其來(lái)源。下一步是要讓神經(jīng)網(wǎng)絡(luò )驗證數據來(lái)源的真實(shí)性，并讓它能夠意識到用戶(hù)的需求?！?/p>

本文作者：楊陽(yáng)，來(lái)源：澎湃新聞，原文標題：《黃仁勛對談OpenAI聯(lián)創(chuàng )：GPT-4推理能力還沒(méi)達到預期》

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞：