在經(jīng)歷了數論關(guān)于A(yíng)I監管的對談和磋商后，最近很少發(fā)聲的 Sam Altman 又一次接受了新訪(fǎng)談，5月9日，在一場(chǎng)Sohn 2023活動(dòng)的對談中，OpenAI的CEO 對大語(yǔ)言模型和AI的未來(lái)，監管的方式，競爭對手和中國AI發(fā)展及AI領(lǐng)域的創(chuàng )投機會(huì )都表達了他新一輪，更成熟更系統化的思考。

在一個(gè)月之前，他說(shuō)巨型模型的時(shí)代已經(jīng)見(jiàn)頂，但現在給出了如何突破的解決方案。一個(gè)月前，他對AI創(chuàng )業(yè)的商業(yè)化路徑還很少思考，現在他已經(jīng)可以給出幾個(gè)具體的方案。在這篇訪(fǎng)談中，我們還可以看到他對OpenAI的具體規劃，定位和野心。以及他對競品，尤其是谷歌和中國AI公司的關(guān)注與評價(jià)。

(相關(guān)資料圖)

基本上這次訪(fǎng)談就是他對整個(gè)AI產(chǎn)業(yè)的一個(gè)初步解決方案路線(xiàn)圖。

當然，這也歸功于他談話(huà)的對手，Patrick Collison，一位同樣是年少功成，在20歲的年紀已成為億萬(wàn)富翁的IT創(chuàng )業(yè)者。他的問(wèn)題相當犀利，而且有著(zhù)不俗的邏輯和見(jiàn)解，也因此能碰撞出這樣多的思想火花。

劃重點(diǎn)

1.??在A(yíng)I的發(fā)展中，我們正在進(jìn)入一個(gè)新階段，在某些領(lǐng)域需要大量聰明的專(zhuān)家給出反饋，以使模型變得盡可能智能。這可能會(huì )引發(fā)一輪的RLHF人才爭奪戰。大模型的數據缺口可以通過(guò)合成數據彌補，簡(jiǎn)單地通過(guò)互聯(lián)網(wǎng)數據把Transformer擴展起來(lái)的方法會(huì )失效。

2.?AI監管應該建立起類(lèi)似原子能機構這樣保證核不擴散的國際組織，根據硬件和能源使用情況監控所有AI公司，所有超過(guò)能力閾值的系統都需要接受審核。

3.??后續AI行業(yè)會(huì )產(chǎn)生分化，開(kāi)源AI負責產(chǎn)出商業(yè)化產(chǎn)品和應用創(chuàng )新，閉源AI負責建構超級智能，已解決前沿的科學(xué)研究問(wèn)題。商業(yè)化AI方面最有前景的領(lǐng)域是AI投資決策技術(shù)和AI自動(dòng)化辦公輔助。

4.??Google是很有力的競爭對手，中國在A(yíng)I領(lǐng)域可見(jiàn)到的成功太少，透明度較低。

以下為訪(fǎng)談全文

Patrick：

謝謝Sam能和我們在一起。

去年我實(shí)際上采訪(fǎng)了Sam Bankman-Freed（被逮捕的加密企業(yè)FTX創(chuàng )始人）。顯然，我采訪(fǎng)的是錯誤的Sam，所以很高興今年能糾正過(guò)來(lái)，和正確的Sam進(jìn)行交流。讓我們從大家關(guān)心的話(huà)題開(kāi)始，我們什么時(shí)候能得到我們的Worldcoin（由Sam Altman發(fā)起的一個(gè)虛擬代幣項目，通過(guò)虹膜認證替代一般身份認證）呢？

Sam：我認為如果你不在美國，你可能在幾周內就能得到一個(gè)；如果你在美國，可能永遠都得不到。我不知道，這取決于美國政府禁止加密貨幣的決心有多大。

Patrick：Worldcoin大約是一年前左右啟動(dòng)的？

Sam：

實(shí)際上它還沒(méi)有正式運行，它已經(jīng)在測試階段大約一年了。但它將在美國以外的地方很快上線(xiàn)。在美國，你可能永遠都不能使用它，我不知道。

Patrick：

好吧。

Sam：

所以這是一件瘋狂的事情。你知道，不管你對加密貨幣的漲跌有什么看法，但美國是全世界最糟糕的擁有加密貨幣公司的國家，很可能你根本就不能提供加密貨幣服務(wù)。這是一個(gè)（影響）巨大的聲明，歷史性的聲明。

Patrick：

是的，就是這樣。是的，很難想象最后一次出現這種情況的技術(shù)是什么。

Sam：

也許是歐洲人應該做這個(gè)，而不是我們。

Patrick：

是的。

Sam：

超音速飛行或者類(lèi)似的東西。

Patrick：

對的。

然后，我猜幾乎所有在場(chǎng)的人都是ChatGPT的用戶(hù)。你最常用的ChatGPT是什么樣的，就是你在不測試東西的時(shí)候，你真的想要用的時(shí)候，ChatGPT完全是你的工具。

Sam：

無(wú)疑是匯總文摘。如果沒(méi)有它，我已經(jīng)不知道怎么繼續工作。我可能無(wú)法處理電子郵件和Slack（一種基于云端運算的即時(shí)通訊軟件）。你知道，你可以把一堆電子郵件或者Slack消息發(fā)給它。希望能隨著(zhù)時(shí)間的推移，我們?yōu)檫@個(gè)場(chǎng)景構建一些更好的插件；但即使是手動(dòng)操作也效果相當好。

Patrick：

有沒(méi)有任何插件成為你的工作流程的一部分？

Sam：

我偶爾在代碼解釋器中瀏覽。但說(shuō)實(shí)話(huà)，對我個(gè)人來(lái)說(shuō)，它們還沒(méi)有真正像是日常習慣的一部分。

大語(yǔ)言模型的未來(lái)：合成數據突破數據天花板 / RLHF訓練人才爭奪戰

Patrick：

所以顯然，這很有可能是我們正在經(jīng)歷的趨勢，超線(xiàn)性（速度）的實(shí)現模型能力的收益；但誰(shuí)知道呢，也許我們很快就會(huì )接近極限，那是可能的，但至少是一種可能性。如果我們最后走到這個(gè)盡頭，你認為我們回頭看，認為原因是數據不夠，或者計算能力不足，最有可能的是什么呢？

Sam：

我真的不認為這會(huì )發(fā)生。

但如果真的發(fā)生了，我認為這可能是我們現有架構中的某些基本問(wèn)題，以一種我們現在還沒(méi)有察覺(jué)的方式限制了我們。比如說(shuō)，我們可能永遠無(wú)法讓這些系統變得非常穩健，所以我們無(wú)法讓它們能夠可靠地保持在正確的軌道上，理解它們正在犯錯誤；因此，它們不能真正在大規模上有效地獲取新知識。但我沒(méi)有理由相信這就是（會(huì )發(fā)生的）情況。

Patrick：有些人認為我們現在的訓練數據已經(jīng)接近互聯(lián)網(wǎng)的全部?jì)热?，你不能把這個(gè)數目再增加兩個(gè)數量級，我想你可能會(huì )反駁說(shuō)，是的，但是（還有）合成數據生成，你認為數據瓶頸重要嗎？

Sam：

我認為，就像你剛才提到的，只要你能達到這個(gè)合成數據的臨界點(diǎn)，模型足夠聰明，能制作出好的合成數據，我認為應該沒(méi)問(wèn)題。

我們肯定需要新的技術(shù)，我不想假裝沒(méi)有這個(gè)問(wèn)題。簡(jiǎn)單地把Transformer擴展起來(lái)，預先從互聯(lián)網(wǎng)上獲取訓練數據，這種方法會(huì )失效，但這并不是我們的計劃。

Patrick：

所以GPD 3.5和4的一大突破就是RLHF。如果你，Sam，親自做了所有的RLHF，模型會(huì )變得明顯更聰明嗎？反饋的人是否重要？

Sam：

我認為我們正在進(jìn)入一個(gè)階段，在某些領(lǐng)域，你真的需要聰明的專(zhuān)家給出反饋，以使模型變得盡可能智能。

Patrick：

所以，這會(huì )不會(huì )引發(fā)一場(chǎng)瘋狂的對最聰明的研究生的爭奪戰？

Sam：

我認為會(huì )。我不知道這場(chǎng)爭奪戰會(huì )有多瘋狂，因為世界上有很多聰明的研究生，但聰明的研究生將會(huì )非常重要。

Patrick：

我們需要多少聰明的研究生呢？一個(gè)就夠了，還是需要10000個(gè)？

Sam：

我們正在研究這個(gè)問(wèn)題。我們真的不知道，比如一個(gè)真正聰明的人能為我們帶來(lái)多大的優(yōu)勢，模型可以在哪些方面提供幫助，或者模型能自我進(jìn)行一些強化學(xué)習，我們對此深感興趣，但這還是個(gè)未知數。

AI監管：建立AI國際化監管機構，所有超過(guò)能力閾值的系統都需要接受審核

Patrick：

核武器的秘密應該被機密處理嗎？

Sam：

可能，應該吧。我不知道我們在這方面做得有多有效。我認為我們之所以避免了核災難，并不完全是因為我們把秘密做了機密處理，而是我們做了一些聰明的事情。我們很幸運，至少很長(cháng)一段時(shí)間，它所需要的能量是巨大的，基本上需要國家的力量。我們建立了國際原子能機構，我認為總的來(lái)說(shuō)這是一個(gè)好決定，還有其他一些事情。所以我認為，你可以做任何事情來(lái)提高好結果的可能性，機密化核武器的秘密可能會(huì )有所幫助。不把它機密處理的話(huà)（其他操作）似乎沒(méi)有多大意義，另一方面，我不認為這會(huì )是一個(gè)完全的解決方案。

Patrick：

當我們考慮所有現在已經(jīng)成為中心的AI安全問(wèn)題時(shí)，我們應該從我們核不擴散的經(jīng)驗中吸取什么最重要的教訓？

Sam：

首先，我認為過(guò)分借鑒以前的技術(shù)總是一個(gè)錯誤。每個(gè)人都想要找一個(gè)類(lèi)比，每個(gè)人都想說(shuō)，哦，這就像這個(gè)，或者那個(gè)，我們是這樣做的，所以我們將再次這樣做，但每種技術(shù)的形式都是不同的。然而，我認為核材料和AI超級計算機有一些相似之處，這是我們可以借鑒和獲得啟示的地方，但我會(huì )提醒人們不要過(guò)度學(xué)習上一件事的教訓。我認為可以建立一個(gè)類(lèi)似于國際原子能機構的AI機構——我知道這聽(tīng)起來(lái)多么天真，這么做有多困難——但是我認為讓每個(gè)人都參與到對極其強大的AI訓練系統的全球監管機構中來(lái)，這似乎對我來(lái)說(shuō)是一個(gè)非常重要的事情。我認為這就是我們可以學(xué)到的一個(gè)教訓。

Patrick：

如果它被建立了，明天就存在了，那么它應該首先做什么呢？

Sam：

任何超過(guò)我們設定的閾值的系統——實(shí)現這個(gè)最容易的方法是計算閾值（最好的方法是能力閾值，但這更難以衡量）——任何超過(guò)這個(gè)閾值的系統，我認為都應該接受審核。應該讓這個(gè)組織有完全的可視化權限，要求在發(fā)布系統之前通過(guò)某些安全評估。那將是第一件事。

Patrick：

有些人可能會(huì )說(shuō)，我不知道該如何描述這種情況，但讓我們說(shuō)，更好戰的一方可能會(huì )說(shuō)，這一切聽(tīng)起來(lái)都很好，但是中國不會(huì )這么做，因此，我們只會(huì )束縛自己。因此，這個(gè)主意在表面上看起來(lái)不如它看起來(lái)的好。

Sam：

有很多人對中國會(huì )或不會(huì )做什么發(fā)表了非常強硬的言論，但他們從未去過(guò)中國，也從未與過(guò)去曾經(jīng)與中國進(jìn)行過(guò)外交工作的人交談過(guò)，他們對復雜的高風(fēng)險國際關(guān)系幾乎一無(wú)所知。我認為這顯然非常困難，但我也認為沒(méi)有人想要摧毀整個(gè)世界，所以至少有理由在這里嘗試一下。

我認為這里有一些不尋常的事情，這就是為什么從過(guò)去任何一種技術(shù)類(lèi)比中學(xué)習都是危險的。

這里有一些不尋常的事情，當然有能源簽名和所需能源的數量，但制造最有能力的GPU的人并不多，你可以要求他們都安裝一種監測設備，如果你正在與超過(guò)10，000個(gè)其他GPU進(jìn)行通信，那么你就必須（接受監管）。

無(wú)論如何，我們都有選擇的余地。

后續的AI發(fā)展：開(kāi)源的經(jīng)濟應用和封閉源模型的超級智能探索并行

Patrick：

今年對我來(lái)說(shuō)，一個(gè)大的驚喜就是開(kāi)源模型的進(jìn)步，特別是最近60天左右的瘋狂進(jìn)步。

你認為，一年后開(kāi)源模型會(huì )有多好？

Sam：

我認為這里將會(huì )有兩個(gè)發(fā)展方向，一是超級規?；淖詈玫姆忾]源模型，二是開(kāi)源社區的進(jìn)步，可能（開(kāi)源）會(huì )落后幾年或者說(shuō)多幾年。但我認為我們將會(huì )生活在一個(gè)有著(zhù)非常強大的開(kāi)源模型的世界，人們會(huì )用它們來(lái)做各種各樣的事情，整個(gè)社區的創(chuàng )造力將會(huì )讓我們所有人感到驚訝。

然后還有那些擁有巨大集群的人能做什么的前沿（研究），那將會(huì )非常遙遠。

我認為這是好事，因為我們有更多的時(shí)間去解決一些更恐怖的事情。

Patrick：

David Luan（前OpenAI工程副總裁）向我闡述了，經(jīng)濟有用的活動(dòng)集合，理論上是所有可能活動(dòng)的子集，而相當好的模型可能足以解決大部分的第一套活動(dòng)。因此，可能超大型的模型在科學(xué)上非常有趣，也許你需要它們來(lái)做一些事情，比如推動(dòng)AI的進(jìn)步，但是對于大多數的實(shí)用日常案例，可能一個(gè)開(kāi)源模型就足夠了。你認為這個(gè)未來(lái)有多大可能性？

Sam：

我認為對于許多超級經(jīng)濟價(jià)值的事情來(lái)說(shuō)，這些較小的開(kāi)源模型將足夠使用。但你剛剛提到了我想說(shuō)的一件事，那就是幫助我們發(fā)明超級智能，那是一個(gè)非常經(jīng)濟有價(jià)值的活動(dòng)，就像治愈所有的癌癥或發(fā)現新的物理規律等等，這些都將首先由最大的模型來(lái)實(shí)現。

Patrick：

Facebook現在應該開(kāi)源Llama嗎？

Sam：

現在這個(gè)點(diǎn)上，可能應該。

Patrick：

他們應該采用開(kāi)源他們的基礎模型/語(yǔ)言模型，還是只是特別的Llama呢？

Sam：

我認為Facebook的AI策略在最好的情況下也只能說(shuō)是混亂的，但我認為他們現在開(kāi)始非常認真，并且他們有非常能干的人，我預計他們很快就會(huì )有更連貫的策略。我認為他們將會(huì )是一個(gè)令人驚訝的新真正的玩家。

AI的安全性：大家都在指責AI不安全，但沒(méi)人給出解決方法

Patrick：

有沒(méi)有什么新的發(fā)現可能會(huì )顯著(zhù)改變你對災難性結果的可能性估計，無(wú)論是提高還是降低它？

Sam：

是的，我認為有很多，我認為從現在到超級智能之間的大部分新工作都會(huì )使這個(gè)概率上升或下降。

Patrick：

那么，你特別關(guān)注什么？有什么你特別想知道的事情嗎？

Sam：

首先，我不認為強化學(xué)習人工智能（RLHF）是正確的長(cháng)期解決方案。我不認為我們可以依賴(lài)它。我認為它是有幫助的，它當然使這些模型更容易使用。但你真正想要的是理解模型內部的運作情況，并能夠使之對齊，比如說(shuō)，精確地知道哪個(gè)電路或人工神經(jīng)元集合在發(fā)生什么，并能夠以一種能夠給模型性能帶來(lái)穩定改變的方式調整它。

還有很多超越這個(gè)的事情，但如果我們能讓這個(gè)方向可靠地工作，我認為每個(gè)人的災難概率（P Doom）都會(huì )大幅降低。

Patrick：

你認為有足夠的可解釋性工作正在進(jìn)行嗎？

Sam：

沒(méi)有。

Patrick：

為什么不呢？

Sam：

你知道，很多人都說(shuō)他們非常擔憂(yōu)AI的安全，所以這在表面上看起來(lái)很奇怪。

大部分聲稱(chēng)他們真的很擔心AI安全的人，似乎只是在推特上花時(shí)間說(shuō)他們真的很擔心AI的安全，或者做很多其他的事情。

有一些人非常擔心AI的安全，并且正在做出很好的技術(shù)工作。我們需要更多這樣的人，我們肯定在OpenAI內部投入更多的努力，讓更多的技術(shù)人員去研究這個(gè)問(wèn)題。

但是，世界需要的不是更多在Twitter上發(fā)帖寫(xiě)長(cháng)篇大論的AI安全人員，而是更多愿意做技術(shù)工作，使這些系統安全且可靠地對齊的人。我認為這些事情正在發(fā)生，優(yōu)秀的機器學(xué)習研究者轉變焦點(diǎn)，以及新人進(jìn)入這個(gè)領(lǐng)域，兩者的結合。

Patrick：

這次通話(huà)上的很多人都是活躍的慈善家，他們中的大多數人在Twitter上發(fā)布的內容不是很多。你知道，他們聽(tīng)到這個(gè)交流，可能會(huì )想，哦，也許我應該幫助資助可解釋性領(lǐng)域的一些事情。

如果他們有這種想法，下一步應該做什么？

Sam：

我認為一個(gè)還沒(méi)有做出足夠嘗試的策略是，給單個(gè)人或小團體提供資助。

這些人非常技術(shù)性，并且想要推動(dòng)技術(shù)解決方案，也許他們正在讀研究生或者剛畢業(yè)，或者正在讀本科。我認為嘗試這個(gè)是非常值得的，他們需要訪(fǎng)問(wèn)到非常強大的模型，OpenAI正在嘗試開(kāi)展一些項目來(lái)支持獨立的對齊研究者，但我認為給這些人提供財務(wù)支持是非常好的一步。

Patrick：

此外，你認為這個(gè)領(lǐng)域在多大程度上受技能瓶頸的限制？也就是說(shuō)，有些人可能具備所需的內在特性，但可能沒(méi)有所需的四年或者更長(cháng)時(shí)間的學(xué)習經(jīng)歷，這對他們的有效性也產(chǎn)生了影響。

Sam：

我認為，如果有一個(gè)聰明的人，他已經(jīng)學(xué)會(huì )了如何做好研究，并且具有正確的心態(tài)，那么只需要大約六個(gè)月的時(shí)間就能讓他從一個(gè)聰明的物理研究者變成一個(gè)有成果的AI研究者。所以我們在這個(gè)領(lǐng)域還沒(méi)有足夠的人才，但是這個(gè)很快就會(huì )到來(lái)。我們在OpenAI有一個(gè)項目，就是做這個(gè)的，我對它的效果感到驚訝。

情感對話(huà)機器人：未來(lái)的人類(lèi)可能有更多AI朋友而不是人類(lèi)朋友

Patrick：

似乎很快我們將擁有，嗯代理人，你可以以非常自然的方式與之對話(huà)，低延遲全雙工（虛擬人可以進(jìn)行聽(tīng)和說(shuō)），你可以像打斷整個(gè)事情一樣打斷它們。顯然，我們已經(jīng)看到了像Character和Replica這樣的產(chǎn)品，你知道，即使是這些初期的產(chǎn)品在這個(gè)方向上也取得了相當驚人的進(jìn)展。

我認為這些可能是一項巨大的成就，也許我們正在大大低估它，尤其是一旦你可以通過(guò)語(yǔ)音進(jìn)行對話(huà)。你認為這樣對嗎？如果是這樣，你認為可能的后果是什么？

Sam：

是的，我確實(shí)認為是對的。

最近有人對我說(shuō)過(guò)一句印象深刻的話(huà)，他們相當確定，他們的孩子將來(lái)會(huì )有更多的AI朋友而不是人類(lèi)朋友。至于后果，我不知道會(huì )是什么樣子。

我認為有一點(diǎn)很重要的是，我們要盡快確立一個(gè)社會(huì )規范。

你知道，如果你在與AI或人類(lèi)進(jìn)行交流，或者類(lèi)似奇怪的AI輔助人類(lèi)的情況，人們似乎很難在他們的頭腦中區分（對方是人還是AI），即使是像你提到的Replica這樣的早期的弱智系統。

不管我們大腦中渴望社交互動(dòng)的電路是什么，似乎有些人在某些情況下可以通過(guò)與AI朋友相處來(lái)滿(mǎn)足這種需求，這是棘手的。

Patrick：

最近有人告訴我，在Replica的Reddit上讀到的一個(gè)討論主題是，如何處理升級到Replica模型時(shí)的情感挑戰和創(chuàng )傷。因為你的朋友突然變得有點(diǎn)智力受損，或者至少是一個(gè)有點(diǎn)不同的人，而且，這些對話(huà)者都知道Replica實(shí)際上是一個(gè)AI，但不知何故，我們的情感反應似乎并沒(méi)有太大的區別。

Sam：

我認為，大多數人都覺(jué)得我們正朝著(zhù)發(fā)展的是這樣一個(gè)社會(huì )，在天空中有個(gè)漂浮的至高無(wú)上的超級智能存在。而我認為，那是一個(gè)在某種意義上不那么可怕但仍然有些奇怪的社會(huì )，一個(gè)由很多AI和人類(lèi)共同整合的社會(huì )。

關(guān)于這個(gè)已經(jīng)有很長(cháng)時(shí)間的電影，就像《星球大戰》中的C3PO或其他你想要的AI。人們知道這是AI，但它仍然很有用，人們仍然與之互動(dòng)，它有點(diǎn)像可愛(ài)的人，盡管你知道它不是一個(gè)人。

而在這個(gè)世界上，我們只是有一個(gè)很多AI與人類(lèi)一起融入基礎設施的社會(huì )，這對我來(lái)說(shuō)感覺(jué)更容易應對，也不那么可怕。

AI將如何改變經(jīng)濟體系: 更高效的資本配置帶來(lái)經(jīng)濟的大幅繁榮

Patrick：

是的。嗯，這是一個(gè)金融事件(問(wèn)題），這樣做將如何改變實(shí)際利率？

你知道，在經(jīng)濟學(xué)中存在著(zhù)一種關(guān)于工作年齡人口變化是否推動(dòng)實(shí)際利率上升或下降的辯論，因為你有一系列相互抵消的影響，他們更有生產(chǎn)力，但你還需要資本投資來(lái)使它們變得有生產(chǎn)力，等等。嗯，那么AI將如何改變實(shí)際利率呢？

Sam：

我盡量不進(jìn)行宏觀(guān)預測，但我會(huì )說(shuō)它們將會(huì )發(fā)生很大改變。

Patrick：

好吧。那么， 這將如何改變經(jīng)濟增長(cháng)？

Sam：

我認為它應該會(huì )導致實(shí)際經(jīng)濟增長(cháng)的大幅增加，我假設我們將能夠合理地衡量它。

Patrick：

且至少在早期階段，這將是一個(gè)極其資本密集的時(shí)期。因為我們現在知道應該建造哪些治療癌癥的工廠(chǎng)，或者哪些制藥公司，以及確切的反應堆設計等等。

Sam：

我會(huì )持相反的觀(guān)點(diǎn)，我們不知道，但我會(huì )說(shuō)，人類(lèi)資本配置是如此可怕，即使我們確切知道該做什么。

Patrick：

你是指現今人類(lèi)進(jìn)行的資本配置，對嗎？

Sam：

是的。

Patrick：

或者你是指將人們自身分配到社會(huì )中不同角色的分配？

Sam：

不，我是指我們目前的資本配置方式，比如說(shuō)，你認為我們今天在癌癥研究上花了多少錢(qián)？癌癥研究一年花了多少錢(qián)。

Patrick：

我不知道，可能這取決于你是否考慮了制藥公司，但從NIH來(lái)看，可能大約80到90億美元；然后我不知道制藥公司花了多少，可能這只是其中的一小部分。

Sam：

如果是在500到1000億美元之間......好吧，我只是猜測，數字是每年在500億到1000億美元之間。如果AI能告訴我們確切該做，并且每年只需要這個(gè)單獨項目上花費500萬(wàn)美元。雖然這對于一個(gè)單獨的項目來(lái)說(shuō)是巨大的投資，但如果這是正確的答案，那將是一個(gè)巨大的效率提升。

是的，所以我們在這項技術(shù)的推動(dòng)下可能會(huì )變得更加資本高效，這是我的猜測。

OpenAI的未來(lái)：平臺+頂級應用

Patrick：

對，很有趣。對于OpenAI來(lái)說(shuō)，顯然你們想成為并且是一家卓越的研究機構。但是關(guān)于商業(yè)化，是成為一家消費者公司更重要還是成為一家基礎設施公司更重要？

Sam：

嗯，作為一項商業(yè)策略，我是支持平臺加頂級應用的。

我認為這在很多企業(yè)中都取得了成功，原因是充分的。我認為我們開(kāi)發(fā)的消費者產(chǎn)品有助于改進(jìn)我們的平臺。我希望隨著(zhù)時(shí)間的推移，我們能夠找到方法，讓平臺也能夠改進(jìn)消費者應用。我認為這是一個(gè)良好的連貫策略，將它們同時(shí)進(jìn)行。

但正如你指出的，我們的目標是成為世界上最優(yōu)秀的研究機構，這對我們來(lái)說(shuō)比任何產(chǎn)品化更重要。我們建立這樣一個(gè)組織，能夠不斷取得突破性的進(jìn)展，雖然并非所有嘗試都會(huì )成功，我們走過(guò)了一些彎路，但我們已經(jīng)找到了比其他人更多的范式轉變，并且我認為我們將在這里實(shí)現下一個(gè)重大突破。這是我們努力的重點(diǎn)。

Patrick：

你對OpenAI最引以為豪的突破是哪個(gè)？

Sam：

整個(gè)GPT范式，我認為那是具有變革性和對世界的重要貢獻的，它源于OpenAI擅長(cháng)結合多種工作方式的工作。

競爭對手和中國：Google最近很專(zhuān)注，中國的成果不明確

Patrick：

明天是Google I/O，如果你是Google的CEO，你會(huì )怎么做？

Sam：

我認為Google做得很好，他們最近非常專(zhuān)注和緊張，真的在努力尋找如何重新打造公司來(lái)適應這項新技術(shù)，我對他們的表現印象深刻。

這些模型和它們的注意力能力是否真的對搜索構成威脅，還是只是一種表面上的反應，可能過(guò)于倉促？

我認為它們可能會(huì )以某種重大方式改變搜索，但并不威脅搜索的存在。所以，如果Google什么都不做，那將是對Google構成威脅，但顯然Google不會(huì )無(wú)所作為。

Patrick：

中國的機器學(xué)習研究有多重要？

Sam：

我很想知道這個(gè)問(wèn)題的答案：中國的機器學(xué)習研究對我們而言有多重要，我們能夠看到多少成果。

Patrick：

不太多，你說(shuō)對了，從已發(fā)表的文獻中了解的并不多。

Sam：

但也不是完全沒(méi)有。

Patrick：

你是否了解任何的原因。因為中國研究人員的發(fā)表論文數量非常大，也有很多在美國進(jìn)行出色工作的中國研究人員，那么為什么中國的研究論文在單篇論文影響力方面相對較低？

Sam：

我猜測很多人懷疑的是他們沒(méi)有發(fā)表最重要的研究成果。

Patrick：

你認為這可能是真的嗎？

Sam：

對于這個(gè)問(wèn)題，我對自己的直覺(jué)不太確定，我感到困惑。

對AI未來(lái)應用的暢想：更多取代日常工作，產(chǎn)生出獨立的優(yōu)于人的判斷

Patrick：

你更希望OpenAI能夠實(shí)現訓練效率的10倍提升，還是推理效率的10倍提升？

Sam：

這是一個(gè)好問(wèn)題。取決于合成數據的重要性。強迫選擇的話(huà)，我會(huì )選擇推理效率。但我認為正確的衡量指標是考慮所有用于模型訓練和推理的計算量，然后進(jìn)行優(yōu)化。

Patrick：

你提到的推理效率可能是該方程式中占主導地位的項。

你說(shuō)推出GPT-2時(shí)，只有少數人注意到并真正理解其意義。關(guān)于突破的重要性，現在是否正在發(fā)生類(lèi)似的GPT-2時(shí)刻？

Sam：

我們正在做很多工作，我認為其中一些工作將成為類(lèi)似GPT-2的重要時(shí)刻，如果它們能夠結合在一起。但目前還沒(méi)有什么發(fā)布的東西，我可以有很高的信心說(shuō)這是2023年的GPT-2。但我希望到今年年底或明年會(huì )有所改變（發(fā)布）。

Patrick：

什么是你使用的最好的非OpenAI的AI產(chǎn)品？

Sam：

坦率地說(shuō)，我想不出其他什么產(chǎn)品。我對世界的了解比較狹窄，但ChatGPT是我每天使用的唯一AI產(chǎn)品。

Patrick：

有沒(méi)有你希望存在的AI產(chǎn)品，你認為我們當前的能力或即將實(shí)現的能力使得這種產(chǎn)品成為可能，你期待著(zhù)它的出現？

Sam：

我希望有一種像“副駕駛”一樣的產(chǎn)品，可以控制我的整個(gè)電腦。它可以查看我的Slack、電子郵件、Zoom、iMessage以及龐大的待辦事項和文檔，并且在很大程度上完成我的工作。

Patrick：

一種類(lèi)似Siri Plus Plus的產(chǎn)品。

嗯，你提到了治療癌癥，這些技術(shù)和技術(shù)對科學(xué)的顯而易見(jiàn)的應用有哪些，你認為我們已經(jīng)或即將具備的能力，但目前人們并沒(méi)有看到人們明顯追求的應用？

Sam：

有一個(gè)無(wú)聊的答案和一個(gè)令人興奮的答案。

無(wú)聊的答案是，如果你能夠開(kāi)發(fā)出非常好的工具，如我剛提到的那個(gè)，并且將每個(gè)科學(xué)家的工作速度提高三倍、五倍甚至十倍，那么科學(xué)發(fā)現的速度可能會(huì )大大增加，即使它并非直接從事科學(xué)本身。

更令人興奮的是，我認為類(lèi)似的系統可以開(kāi)始閱讀所有的文獻，產(chǎn)生新的想法，在模擬中進(jìn)行一些有限的測試，然后給科學(xué)家發(fā)送電子郵件，說(shuō)：“嘿，你能幫我在濕實(shí)驗室中運行這個(gè)嗎？”這樣可能會(huì )取得真正的進(jìn)展。

Patrick：

我不知道這里的本體論如何工作，但你可以想象構建更好的通用模型，類(lèi)似于人類(lèi)，它可以閱讀大量的文獻，可能比人類(lèi)更聰明、記憶更好，然后你可以想象基于某些數據集訓練的模型，它們在某個(gè)特定領(lǐng)域做一些完全不同于人類(lèi)的工作，例如將CRISPR映射到編輯精確度之類(lèi)的事情。這真的是一種特殊用途的模型，在特定領(lǐng)域做一些與人類(lèi)完全不同的事情。

你認為對這些模型來(lái)說(shuō)，最有用的應用是屬于第一類(lèi)，即創(chuàng )造更好的人類(lèi)，還是屬于第二類(lèi)，即為目前不易處理的問(wèn)題域創(chuàng )建這些預測性的架構？

Sam：

我真的不知道。在大多數領(lǐng)域，我都愿意給出一些粗略的觀(guān)點(diǎn)，但在這個(gè)領(lǐng)域，我對科學(xué)過(guò)程和偉大科學(xué)家是如何工作的沒(méi)有足夠深入的了解，無(wú)法說(shuō)出我的觀(guān)點(diǎn)。我覺(jué)得，如果我們能夠有一天找到如何構建出真正擅長(cháng)推理的模型，那么它們應該能夠自己做出一些科學(xué)上的飛躍，但這需要更多的工作。

投資和創(chuàng )業(yè)：硅谷走偏了，太重視短期收益；AI的下一個(gè)風(fēng)口可能在A(yíng)I投資應用上

Patrick：

OpenAI在籌款方面做得非常出色，具有非常特殊的資本結構，與非營(yíng)利組織和微軟的交易等等，那么這些奇特的資本結構被低估了嗎？企業(yè)和創(chuàng )始人是否應該更加開(kāi)放地思考，無(wú)論是默認的還是已經(jīng)默認的，如同我們只是一個(gè)德拉華州的C公司？（是否要考慮特殊的資本結構）

Sam：

我懷疑不是，我懷疑在這方面進(jìn)行創(chuàng )新可能是一件可怕的事情，你應該在產(chǎn)品和科學(xué)方面進(jìn)行創(chuàng )新，而不是企業(yè)結構方面。

我們所面臨的問(wèn)題形式非常奇特，盡管我們盡力而為，但我們不得不采取一些奇怪的措施，但總體而言，這是一種令人不快的體驗，也是一個(gè)時(shí)間消耗的過(guò)程。

對我參與的其他項目來(lái)說(shuō)，它總是采用正常的資本結構，我認為那樣更好。

Patrick：

我們是否低估了資本的重要程度？你所參與的很多公司都需要大量的資本?？赡躉penAI就是最需要資本的公司，雖然誰(shuí)知道還有沒(méi)有別的更需要的。

我們是否低估了資本對未實(shí)現的創(chuàng )新的限制？這是否是你所參與的各種努力中的共同主題？

Sam：

是的，我認為這是個(gè)問(wèn)題，基本上我參與的四家公司中，除了只是作為投資者寫(xiě)支票的那些，所有的公司都需要大量的資本。

Patrick：

你想要列舉一下這些公司嗎？對于在場(chǎng)的觀(guān)眾。

Sam：

OpenAI和Healing是我最花時(shí)間的項目，然后還有Retro和Worldcoin。

但你知道，所有這些公司在任何產(chǎn)品出現之前都籌集了至少九位數的資金，而且在OpenAI的情況下，這個(gè)數字更大，所有公司都在第一輪融資或在發(fā)布產(chǎn)品之前籌集了九位數的資金，它們都需要很長(cháng)時(shí)間，花費多年時(shí)間才能發(fā)布產(chǎn)品。

我認為愿意做這樣的事情是有很大價(jià)值的，而這種方式在某個(gè)時(shí)候在硅谷失寵了。

我理解為什么，像那些只需要籌集幾十萬(wàn)，一百萬(wàn)美元就可以盈利的公司也很好，但我認為我們過(guò)度傾向于這個(gè)方向了，我們已經(jīng)忘記了如何進(jìn)行高風(fēng)險高回報的大量資本和時(shí)間密集型的投資，這些也是有價(jià)值的，我們應該能夠支持兩種模式。

Patrick：

這涉及到，嗯，為什么沒(méi)有更多的埃隆馬斯克。

我猜，在過(guò)去的20年里，兩家最成功的硬件公司（SpaceX和Tesla）在更廣泛的意義上（Tesla是Elon收購重建）都是由同一個(gè)人創(chuàng )辦的。這看起來(lái)像一個(gè)令人驚訝的事實(shí)。

顯然，埃隆在很多方面都是獨一無(wú)二的。但你對這個(gè)問(wèn)題的回答是什么，我們是否喜歡他這種特殊的情況，是不是實(shí)際上資本的故事與你所說(shuō)的線(xiàn)索相符，如果讓你去創(chuàng )造更多的世界上的SpaceX和Tesla，嗯，你可能在自己的工作中也試圖做到這一點(diǎn)，但如果你不得不以系統的方式推動(dòng)這個(gè)方向，你會(huì )嘗試改變什么？

Sam：

我從未遇見(jiàn)過(guò)另一個(gè)埃隆，我從未遇見(jiàn)過(guò)我認為可以輕易地被培養成另一個(gè)埃隆的人。他是一種奇怪的獨一無(wú)二的人物。我很高興他存在于世界上；但你知道，他也是一個(gè)復雜的人。我不知道如何創(chuàng )造更多像他那樣的人，我不知道。我不知道你對如何創(chuàng )造更多的想法是什么，我很好奇。

Patrick：

我不知道，我懷疑創(chuàng )始人和資本方面的文化有一些東西，以及創(chuàng )始人想要創(chuàng )造的公司類(lèi)型。

以及在某種程度上，但也許在較小程度上，資金來(lái)源的基金結構（也有關(guān)系）。嗯，你知道，當我在過(guò)去的15年里對這個(gè)領(lǐng)域了解得更多時(shí)，這個(gè)領(lǐng)域有限的或者基本上有限的一套資金模型，每一個(gè)都有特定的激勵方式，大部分都有特定的社會(huì )學(xué)。比如風(fēng)險投資本身就是一種投資，私募股權在其現代形式下，基本上是一種投資發(fā)明，

所以，我懷疑我們是否完成了資金模型發(fā)明的過(guò)程，我懷疑是否有一些模型，至少在某種程度上，與今天的主流模型不同，而這種模型在某種程度上更適合于這種類(lèi)型的創(chuàng )新。

Sam：

好的，我很興奮的一件事是，我認為你是一個(gè)很好的例子。但我認為在上一個(gè)周期里成為科技億萬(wàn)富翁的所有人都幾乎都對投入大量資本到長(cháng)期項目中很感興趣，而這種一開(kāi)始就投入大量資本的高風(fēng)險高回報的長(cháng)期項目依賴(lài)于基礎的科學(xué)和創(chuàng )新，這將會(huì )或者已經(jīng)發(fā)生了巨大的變化。所以我認為將會(huì )有更多的資本可用于此，你仍然需要像埃隆那樣的人去做這個(gè)。

有一個(gè)我一直很想嘗試的一個(gè)項目，我們要確定比如說(shuō)我們可以找到想要從事這類(lèi)項目的最有才華的100個(gè)人，給他們每年25萬(wàn)美元，大概10年左右，就像給一個(gè)20歲的人10年的時(shí)間，這感覺(jué)像是終身職位，讓他們自由地去 在沒(méi)有大多數人感受到的壓力的情況下進(jìn)行長(cháng)時(shí)間的探索，比如說(shuō)，不必承受賺大錢(qián)的壓力，讓他們與優(yōu)秀的導師和優(yōu)秀的同伴群體在一起。然后財務(wù)模型就是，如果沒(méi)有創(chuàng )立公司那沒(méi)關(guān)系，那沒(méi)關(guān)系，像作家、政治家、思考者一樣；如果你創(chuàng )立了一家公司，投資項目就可以按照預定的條款進(jìn)行投資。

嗯，我認為這是值得嘗試的，有人應該去做這件事。

Patrick：

這就是大學(xué)的模式，我想說(shuō)的并不是這已經(jīng)存在了，不是說(shuō)只是重新發(fā)明輪子。我的意思是，這是證據表明它可以工作，而且通常大學(xué)在支持其衍生品方面并不擅長(cháng)，但至少在某種程度上是這樣。

Arc的一個(gè)主張實(shí)際上是通過(guò)更加正式地鼓勵這種情況，可能比現在的情況更有效。

西爾瓦娜，Arc的聯(lián)合創(chuàng )始人，我從青少年時(shí)代開(kāi)始就認識她了，我們一起度過(guò)了一半以上的歲月。帕特里克·蘇（Patrick Sue）是另一位聯(lián)合創(chuàng )始人，她與他共同攻讀博士學(xué)位，所以她認識他已經(jīng)很久了。關(guān)于長(cháng)期投資，我之所以對此感到滿(mǎn)意，部分原因是我已經(jīng)認識這個(gè)人很長(cháng)時(shí)間了。

當你考慮像你提到的Retro或其他公司這樣的公司時(shí)，你是如何決定這個(gè)人是否是你可以承擔這個(gè)超長(cháng)期探險的人呢？

Sam：

實(shí)際上，我已經(jīng)認識Joe很長(cháng)時(shí)間了。

Patrick：

我想這是一個(gè)不好的例子，問(wèn)題是實(shí)際上是，你是否需要認識這個(gè)人很長(cháng)時(shí)間？

Sam：

這非常重要，雖然并非總是有效，但我盡量與我認識了十年以上的人合作。

你當然不想只做這類(lèi)合作，你希望在混合中有新的能量和波動(dòng)性，但與你相識已久、與你合作已久的人占有一定比例，我認為這是非常有價(jià)值的。

就像在OpenAI的例子中，我已經(jīng)認識Greg Brockman（OpenAI聯(lián)合創(chuàng )始人）很久了，我可能在我們創(chuàng )辦公司之前只認識Ilya一年，甚至不到一年，但我們在一起度過(guò)了很多時(shí)間。這是一個(gè)很好的組合。

我從與人們的長(cháng)期工作關(guān)系中得到了極大的快樂(lè )，經(jīng)過(guò)幾十年的時(shí)間，通過(guò)多個(gè)項目，感覺(jué)像是一起建設向著(zhù)一個(gè)很長(cháng)的弧線(xiàn)前進(jìn)的事情，這是非常有趣的。

Patrick：

同意。

嗯，哪家并未被視為AI公司的公司將在未來(lái)五年從AI中受益最多？

Sam：

我認為有一種投資工具會(huì )找出如何利用AI成為一個(gè)非凡的投資者，并且有著(zhù)瘋狂的超額回報，所以像是利用這些新技術(shù)的Rentech。

Patrick：

那么，你看到有哪家（上市）運營(yíng)公司呢？

Sam：

嗯，你認為微軟是一家AI公司嗎？

Patrick：

就此問(wèn)題而言，我們假設答案是否定的。

Sam：

我認為微軟將在幾乎所有方面都將通過(guò)AI進(jìn)行自我變革。

Patrick：

那是因為他們更認真對待這個(gè)問(wèn)題，還是因為微軟的性質(zhì)使他們特別適合這個(gè)問(wèn)題，更能理解這個(gè)問(wèn)題？

Sam：

他們比其他人更早地認識到這個(gè)問(wèn)題，并且比其他人更認真地對待這個(gè)問(wèn)題。

對監管的態(tài)度：過(guò)度官僚化監管可能會(huì )拖慢創(chuàng )新速度和意愿

Patrick：

你認為我們會(huì )意識到GPT-4在某種程度上過(guò)度擬合了它所接受訓練的問(wèn)題的可能性有多大？

或者說(shuō)，我們如何知道它是否過(guò)度擬合了，或者你甚至是否考慮過(guò)度擬合作為一種關(guān)于代碼強制問(wèn)題的擔憂(yōu)，你知道，比如在21年之前和之后的問(wèn)題，早期（模型）的問(wèn)題表現更好，等等。

Sam：

我認為基本模型并沒(méi)有顯著(zhù)地過(guò)度擬合，但是我們對RLHF（強化學(xué)習和人類(lèi)反饋）過(guò)程的理解還不夠，我們可能在這個(gè)過(guò)程中對模型造成了比我們意識到的更大的破壞。

Patrick：

你認為G，也就是普遍的智力指標在人類(lèi)中存在嗎？除了作為一個(gè)統計學(xué)的產(chǎn)物之外？如果答案是肯定的，你認為在模型中存在類(lèi)似的共同因素嗎？

Sam：

我認為這是一個(gè)非常不精確的概念。但是，很明顯，它在人類(lèi)和模型中都有一些實(shí)際的含義。所以我認為，我們可能過(guò)度解讀了這個(gè)概念，當人們試圖去討論它時(shí)，往往會(huì )有太多的顯著(zhù)性數字。但是，我的經(jīng)驗確實(shí)告訴我，非常聰明的人可以很快地學(xué)習很多事情，盡管我不會(huì )說(shuō)是任意的事情。有些人在某一種事情上比另一種事情更擅長(cháng)。我不想在這里過(guò)多地爭論細節，但我會(huì )說(shuō)，我相信模型的智力也會(huì )在某種程度上有所不同。

Patrick：

基于你的經(jīng)驗，你如何看待所有這些AI安全問(wèn)題？你認為合成生物學(xué)應該如何被監管？

Sam：

我希望我們不再有另一種合成病原體導致全球大流行。

我想我們都同意這不是一次好的經(jīng)歷，雖然與可能發(fā)生的情況相比，這并不算太糟糕；但我對此并沒(méi)有更多的全球協(xié)調行動(dòng)感到驚訝。我認為我們應該有更多的協(xié)調行動(dòng)。

Patrick：

那么我們實(shí)際上該怎么做呢？因為我認為與人工智能一樣，同樣的挑戰也適用于合成生物學(xué)。我認為這是一種生產(chǎn)裝置，你知道，合成病原體的生產(chǎn)裝置并不一定那么大，觀(guān)測和遙測是困難的。

Sam：

我認為這個(gè)問(wèn)題比AI的挑戰要復雜得多，我們確實(shí)有一些這樣的特征，比如巨大的能量和大量的圖形處理器。我沒(méi)有過(guò)多地思考這個(gè)問(wèn)題，我會(huì )問(wèn)你我們應該怎么做。我想如果有人告訴我這是個(gè)問(wèn)題，我們應該怎么做，我會(huì )打電話(huà)給你，所以我們應該怎么做呢？

Patrick：

我不知道我是否有一個(gè)現成的解決方案。我想說(shuō)的是，我不確定這有多大的幫助，我們需要更多的一般性可觀(guān)察性，例如廢水測序等等，我們應該無(wú)論如何都這樣做。你知道，這并不能幫助我們，你知道，防止合成生物學(xué)的攻擊，我們沒(méi)有一個(gè)巨大的關(guān)聯(lián)數據集，比如人們所感染的病原體，以及隨后的縱向健康結果，這就是一個(gè)普遍的瘋狂事實(shí)。

顯然，有一些無(wú)法計數的傳染病類(lèi)別，人們通常最容易感染，顯然，新冠病毒本身就是一個(gè)例子。所以我認為我們可以在治療和疫苗的開(kāi)發(fā)上取得更多的進(jìn)步。

如果真的證實(shí)新冠病毒是人為制造的，我認為我們可以顯著(zhù)提高對那些對已有傳染病進(jìn)行微小修改的實(shí)例的保護。顯然，讓人擔憂(yōu)的類(lèi)別將是完全新的病原體，那將是一個(gè)無(wú)窮的搜索空間。然后你需要考慮如何，我是說(shuō)，有一些有限的方式可以進(jìn)入細胞，比如受體等等，所以也許你可以用這些來(lái)覆蓋可能的治療方式的空間，然后你需要投資更多的剩余生產(chǎn)能力，比我們現有的新疫苗生產(chǎn)能力要多，希望mRNA平臺和類(lèi)似的技術(shù)可以讓我們更容易擁有通用的生產(chǎn)能力。

但是，從這個(gè)長(cháng)篇的回答中，你可以看出，我不認為有一種靈丹妙藥，即使你做了我剛才說(shuō)的所有事情，你可能還是不夠。

Sam：

我認為，提高我們的快速響應、治療和接種能力是一件明顯需要做的事情，我本來(lái)希望我們現在能有更多的進(jìn)步。

Patrick：

我非常同意這一點(diǎn)，臨床試驗是限制我們應對新冠病毒的一步。我認為這已經(jīng)被廣泛地報道和評論了，我們在1月份就有了疫苗候選品，之后發(fā)生的一些事情顯然是生產(chǎn)的擴大，但大部分的時(shí)間都是在驗證疫苗的效果和安全性。我認為這是整個(gè)生物醫學(xué)領(lǐng)域里最容易采取的方法。

埃茲拉·克萊恩和德里克·湯普森正在寫(xiě)一本書(shū)，關(guān)于豐富議程的概念。他們認為，很多左翼的觀(guān)念，是關(guān)于自我克制，某種新清教主義的概念。他們認為，為了實(shí)現我們所關(guān)心的價(jià)值，我們需要更多的東西，在許多不同的領(lǐng)域，更多的亨利·亞當斯曲線(xiàn)實(shí)現。他們經(jīng)常指出，許許多各種各樣的，出于善意的但卻是自我設限的禁止，阻礙了這一過(guò)程的實(shí)現。從你所參與的各種事情來(lái)看，你認為自我設限和限制對實(shí)際進(jìn)展的影響有多大？

Sam：

這肯定很重要，但我也認為，有很多人喜歡說(shuō)，這是唯一的問(wèn)題，如果我們只能解決許可的問(wèn)題，我們都會(huì )很高興。我不認為問(wèn)題就這么簡(jiǎn)單。

我確實(shí)認為，我們需要更多的豐富性，我個(gè)人認為，豐富的能源和豐富的智能將是兩個(gè)非常重要的因素，但也有許多其他的因素。當我們開(kāi)始能夠為世界提供大量的聚變能源時(shí)，理解要實(shí)現這些目標的過(guò)程有多么痛苦，至少可以說(shuō)是令人沮喪。這迫使我們開(kāi)始考慮我們可以盡快做的各種奇怪的事情，而不是等待所有的許可過(guò)程，將這些能源連接到電網(wǎng)上。在某個(gè)國家進(jìn)行海水淡化，只需要他們的核能機構或其他機構的許可，這比連接到電網(wǎng)要容易得多。

我認為這是一個(gè)真正的問(wèn)題，我認為我們社會(huì )對解決這個(gè)問(wèn)題的意愿并不強烈，這使得問(wèn)題變得更糟。但我不認為這是唯一的問(wèn)題。

Patrick：

如果埃茲拉和德里克采訪(fǎng)你，我猜他們應該會(huì )這么做，對于這本書(shū)，如果他們問(wèn)你，你認為什么是限制豐富議程的主要病因，你可能會(huì )說(shuō)是什么？

Sam：

我認為是社會(huì )集體信念，我們實(shí)際上可以使未來(lái)變得更好。最后，我們對這個(gè)問(wèn)題投入的努力，每一個(gè)額外的障礙都會(huì )使這些事情更不可能發(fā)生。所以你有這樣的情況，創(chuàng )辦一家新公司真的很難，說(shuō)服人們這是一件好事也很難，特別是現在，人們對此持懷疑態(tài)度。然后你有這樣一個(gè)監管問(wèn)題，它需要很多時(shí)間，所以也許你甚至不會(huì )嘗試去做，然后你知道它會(huì )更貴，所以就像在從想法到在世界上大規模部署的過(guò)程中，每一個(gè)階段都有太多的阻力和疑慮。我認為這使得人們嘗試的次數比以前少，或者信念比以前少。

Patrick：

當我們第一次見(jiàn)面，大約是15年前，馬克·扎克伯格在技術(shù)行業(yè)中處于領(lǐng)先地位，那時(shí)他還在20多歲。不久之前，馬丁·斯瑞森在該行業(yè)處于領(lǐng)先地位，那時(shí)他也還在20多歲。再往前，比爾·蓋茨和史蒂夫·喬布斯等人也是如此?？偟膩?lái)說(shuō)，在軟件行業(yè)的歷史上，20多歲的年輕人一直都是行業(yè)的頂尖人物之一。

然而，現在似乎并非如此。當然，20多歲的人中有很多優(yōu)秀的人......

Sam：

但我不確定這個(gè)問(wèn)題是否真的很?chē)乐?。是的，情況不好，這是一個(gè)真正出了問(wèn)題的地方。關(guān)于這個(gè)問(wèn)題，有很多討論，但是，20多歲的優(yōu)秀創(chuàng )始人都去哪兒了？

這并不是那么明顯。當然，有一些人，我希望我們能看到更多。我希望這只是歷史上的一個(gè)奇怪巧合。但也許我們的教育體系、社會(huì )或者我們對公司以及人們的期望發(fā)生了重大變化。我認為這是一個(gè)值得關(guān)注和研究的問(wèn)題。

Patrick

我想我們已經(jīng)到了時(shí)間。非常感謝你接受這次采訪(fǎng)，也感謝各位，以及Graham的主持。

Sam：

謝謝

本文作者：?天空之城城主，來(lái)源：Web3天空之城?，原文標題：《OpenAI Sam Altman對AI的最新思考：5.9 投資人峰會(huì )訪(fǎng)談 （全文+視頻）》

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞：