OpenAI的新模型ChatGPT才誕生沒(méi)幾天，已經(jīng)成為廣大網(wǎng)友的「裝逼利器」。

“上周三才上線(xiàn)的 ChatGPT，短短幾天它的用戶(hù)已經(jīng)突破 100 萬(wàn)大關(guān)！”OpenAI 的 CEO Sam Altman 表示。

(資料圖)

它的回答不說(shuō)正確不正確，乍一看可是碉堡了。

再加上生成起來(lái)格外方便，一時(shí)間這些「看起來(lái)不錯」的回答就如同潮水般涌向了那個(gè)帶著(zhù)全世界代碼跑的傳奇問(wèn)答網(wǎng)站，計算機學(xué)子真正的老師——Stack Overflow。

然而，為了判斷這些答案的對錯，就需要讓大量具有專(zhuān)業(yè)知識的人仔細考察才行。

被逼無(wú)奈之下，Stack Overflow不得不急發(fā)聲明：ChatGPT，禁了！

錯誤多得離譜，應封盡封

眼看著(zhù)討論熱火朝天，作為全世界第二大程序員交友網(wǎng)站的Stack Overflow官方這邊也是態(tài)度鮮明：

不要想著(zhù)用AI機器人混淆視聽(tīng)，發(fā)回答就好好發(fā)，禁止用ChatGPT直接生成垃圾答案，否則封號。

Stack Overflow在官方通告中表示：這是一個(gè)臨時(shí)性規定，目的是為了應對目前論壇上ChatGPT生成內容的泛濫之勢。

通告指出，做出這個(gè)規定的主要原因是，ChatGPT自動(dòng)生成的答案質(zhì)量太低，錯誤太多，而且看上去還挺像那么回事，即使是完全不懂的人也能隨便生成答案。

作為一個(gè)以問(wèn)答質(zhì)量為標桿的社區，這些低質(zhì)答案會(huì )給那些來(lái)此尋求幫助的人造成嚴重困擾和不便，對Stack Overflow本身而言也是有害的。

Stack Overflow表示，未來(lái)將繼續權衡圍繞 ChatGPT「和其他類(lèi)似工具」的新政策，但決定日期以及最終限制的內容尚不清楚。

總之，Stack Overflow這邊的態(tài)度很明確，總結起來(lái)就是：「玩歸玩，鬧歸鬧，別拿問(wèn)答開(kāi)玩笑」。

網(wǎng)友拍手叫好

而對于這個(gè)決定，底下的圍觀(guān)群眾有表示完全贊同的。

——干的漂亮！真希望這個(gè)決定不是臨時(shí)的，而且不僅局限于ChatGPT，應該擴大到所有AI生成的答案?？緼I永遠給不出高質(zhì)量的編程答案，再過(guò)100年都沒(méi)戲。

——這個(gè)禁令不應該是個(gè)臨時(shí)措施。

使用ChatGPT可以通過(guò)瘋狂灌水，自動(dòng)生成答案來(lái)刷分，即使這些答案是否正確他們根本不知道，也不關(guān)心，這對Stack Overflow論壇生態(tài)的危害是顯而易見(jiàn)的。

不過(guò)，想要識別這類(lèi)答案實(shí)際上并不容易，怎樣保證「應封盡封」是個(gè)很大的問(wèn)題。

很多專(zhuān)業(yè)人士能看出來(lái)這種「偽答案」里的錯誤，但能做的也就是點(diǎn)個(gè)踩，不能保證這些內容被清理。

禁止這樣的內容是好事，不過(guò)審核的人能做什么呢？上面有帖子說(shuō)，這些AI生成的答案可能看起來(lái)像高質(zhì)量答案，這意味著(zhù)對于訓練有素的人來(lái)說(shuō)，可能會(huì )發(fā)現錯誤而點(diǎn)個(gè)踩。

這些AI冒充的用戶(hù)的答案可能有一些贊，也有一些踩，因為這些回答看起來(lái)像高質(zhì)量答案。

我不知道如何判斷一個(gè)答案是不是ChatGPT生成的，而且現在自定義標記需要幾個(gè)月的時(shí)間來(lái)解決，在及時(shí)處理前，這些用戶(hù)可能繼續損害Stack Overflow。

那么，ChatGPT到底泛濫到什么程度了呢？

有網(wǎng)友自己嘗試將提出的問(wèn)題貼在ChatGPT的對話(huà)框中，和后面的一個(gè)「真人」給出的答案做了對比，看看到底生成的答案能不能用，結果發(fā)現這個(gè)「真人」明顯不對勁。

這是他自己用ChatGPT生成的回答：

這是所謂「真人用戶(hù)」給出的回答：

不難看出，兩個(gè)答案套路上如出一轍，用語(yǔ)口吻也非常相近，代碼示例上也是幾乎相同。

這分明也是ChatGPT生成的偽答案。目前這個(gè)「用戶(hù)」已經(jīng)被Stack Overflow封禁。

其實(shí)從ChatGPT的發(fā)布方OpenAI看來(lái)，這個(gè)AI工具的重要用途之一正是幫助程序員檢查代碼，而作為編碼輔助工具，在Stack Overflow上答答題，本來(lái)是ChatGPT的正當用途之一。

沒(méi)想到剛出了不到一星期，就被無(wú)情封禁。也不知道是怪自己「學(xué)藝不精」，給出的答案沒(méi)有幫助，還是怪網(wǎng)友太狡猾，最終不堪重負被玩壞了。

有媒體聯(lián)系了OpenAI，問(wèn)其計劃如何處理這些自動(dòng)生成答案的準確性問(wèn)題，目前還沒(méi)有收到回復。

Stack Overflow還不能被取代

作為一名開(kāi)發(fā)者，你肯定知道這個(gè)讓億萬(wàn)公司的程序能夠跑起來(lái)，讓億萬(wàn)計算機學(xué)子能夠拿到畢業(yè)證的Stack Overflow。

在這里，你可以找到實(shí)現某些功能的最佳實(shí)踐，或者找到那個(gè)只有在月圓之夜的凌晨4點(diǎn)才發(fā)生的晦澀難懂的錯誤的解決方案。

不過(guò)，在2021年被Prosus以18億美元的價(jià)格收購之后，大家曾普遍在擔心是不是也要開(kāi)啟付費VIP模式。而那一天的到來(lái)大概會(huì )是程序員們的「末日」。

好在，到目前為止，Stack Overflow的用戶(hù)體驗依然是極好的。

至于OpenAI的ChatGPT，它不僅可以回答任何領(lǐng)域的問(wèn)題，而且每一次的答案都非常精確和詳細。

比如，當你問(wèn)到「How to iterate over an keys and values array in Javascript」時(shí)，這就是答案：

錦上添花的是，ChatGPT還能通過(guò)一個(gè)支持性的例子和解釋?zhuān)嬖V你這個(gè)JavaScript中常見(jiàn)問(wèn)題的最佳的解決方案：

那么問(wèn)題來(lái)了，既然ChatGPT可以在輸入問(wèn)題的幾秒鐘內給出答案，并且還提供了可以直接復制的代碼，為何我們不系統性地去使用它呢？

因為，ChatGPT有三個(gè)「致命」的缺陷：

1. 輸入不能有錯

在使用ChatGPT時(shí)，必須要精確，哪怕是一個(gè)代詞（a/an）的改變，答案都會(huì )完全不同。

比如，之前的那個(gè)問(wèn)題「How to iterate over an keys and values array in Javascript」，這次我們去掉一個(gè)「an」，變成「How to iterate over keys and values array in Javascript」

現在ChatGPT給出的解決方案，就只對由統一的元素列表組成的簡(jiǎn)單數組有效了。

2. 解釋不人性化

比如接下來(lái)這個(gè)Stack Overflow上投票最多的問(wèn)題：

「為什么對已排序數組的操作比對未排序數組的操作快？」

ChatGPT給出的答案，毫無(wú)疑問(wèn)是正確的，但僅此而已。

因為，如果你能理解這個(gè)答案的話(huà)，自然也不需要問(wèn)這個(gè)問(wèn)題。

而如果你需要問(wèn)這個(gè)問(wèn)題，也就意味著(zhù)你不太能看懂ChatGPT給出的回答……

相比而言，Stack Overflow上的答主首先會(huì )用非技術(shù)性的術(shù)語(yǔ)提出了一般的背景，然后逐漸將主題拉回到最初和最后的問(wèn)題上，以加深思考。

當然，不是所有Stack OverFlow上的答案都是（也不需要）如此定性和詳細的。

但這個(gè)例子充分地說(shuō)明了，人與AI大的區別是，后者無(wú)法確定對方的理解水平，從而調整回答。

簡(jiǎn)單來(lái)說(shuō)就是，AI會(huì )以同樣的方式和術(shù)語(yǔ)來(lái)解釋「相對論」，不管你是物理系的教授，還是普通大學(xué)生，或者對此一竅不通的小白。

這對于A(yíng)I來(lái)說(shuō)，并不重要。

3. 社區的作用

不管你喜不喜歡，Stack OverFlow最大的優(yōu)勢是它的社區。這個(gè)平臺的創(chuàng )建和運作方式，就是為了鼓勵和鼓勵最大多數人的貢獻。

而正是這種種類(lèi)繁多的答案和意見(jiàn)，讓用戶(hù)可以通過(guò)考慮每個(gè)解決方案的優(yōu)點(diǎn)和限制，來(lái)確定自己的位置并進(jìn)行選擇。

此外，Stack OverFlow的另一個(gè)優(yōu)勢在于同行驗證。一個(gè)被成千上萬(wàn)的開(kāi)發(fā)者證明和測試過(guò)的解決方案，可以為其正確性提供極大的保證。（當然這并不意味著(zhù)100%是正確的）

P.S. 用還是可以用的

毋庸置疑，Stack OverFlow永遠不會(huì )被取代。它和GitHub，將永遠是解決那些需要個(gè)性化解釋或者高難度棘手問(wèn)題的好去處。

就像Copilot、Intellisense和高級IDE一樣，ChatGPT（即使它不只限于代碼）只是一個(gè)工具，在開(kāi)發(fā)者日益豐富的工具調色板中。就像任何自學(xué)模型一樣，它將隨著(zhù)時(shí)間的推移學(xué)習和自我糾正并改進(jìn)。

但是下一次，與其在Stack OverFlow上為相對簡(jiǎn)單的問(wèn)題（如何在Flutter中觸發(fā)HookConsumerWidget的重建）等待幾天，不如直接向ChatGPT提問(wèn)。

畢竟，你有很大概率能夠得到一個(gè)可以用于解決問(wèn)題的起點(diǎn)：

為什么ChatGPT會(huì )犯這么多低級錯誤？

這幾天，全體網(wǎng)友都把ChatGPT玩瘋了。很多人都意識到，這個(gè)新AI確實(shí)是一個(gè)「裝逼利器」——不費吹灰之力，就能給你生成一個(gè)牛逼閃閃的答案。

而撥開(kāi)這層華麗的外衣，仔細看進(jìn)去，就會(huì )發(fā)現它的回答經(jīng)常錯漏百出。

比如：我在2022年是37歲，那么在1985年的時(shí)候，我是幾歲？

ChatGPT：1985-2022=-37，由于年齡不能是負的，所以此題無(wú)解。

額，有沒(méi)有一種可能，出題人出生于1985年呢？

再比如這位網(wǎng)友問(wèn)ChatGPT，霍布斯主張三權分立嗎？

ChatGPT自信滿(mǎn)滿(mǎn)地給出了答案，還不忘引經(jīng)據典。

但是，它的回答是錯的。

霍布斯是專(zhuān)制主義的支持者，在他看來(lái)，替代無(wú)政府狀態(tài)的唯一可行方案，就是將權力賦予君主。

權力在行政部門(mén)和立法部門(mén)之間分配、制衡的觀(guān)點(diǎn)，是跟霍布斯同時(shí)代的哲學(xué)家約翰洛克提出的。

那么，為什么ChatGPT會(huì )犯這樣的低級錯誤？

很明顯，這是因為在政治哲學(xué)中，霍布斯和洛克幾乎總是被一起提及，當ChatGPT去網(wǎng)上找霍布斯的資料時(shí)，自然就找到了洛克對三權分立的闡述，然后就錯誤地把這個(gè)觀(guān)點(diǎn)扣在了霍布斯的頭上????。

從這個(gè)例子中，我們也可以看出支撐ChatGPT的GPT-3語(yǔ)言模型的局限——它只能抓取，但無(wú)法推理，也無(wú)法思考。

所以，這其實(shí)是一個(gè)概率的東西

最近，很多人都在討論：哪些工作會(huì )首先被AI所顛覆?

這是一個(gè)懸而未決的問(wèn)題。但至少我們可以從老師布置的作業(yè)中，得到一絲啟示。

當老師給學(xué)生們布置一篇政治哲學(xué)論文時(shí)，學(xué)生的成果對這個(gè)世界而言，通常只是對一百萬(wàn)次已經(jīng)寫(xiě)過(guò)的東西的反省。

而有趣的是，AIGC的文本并不像一道數學(xué)題，它沒(méi)有唯一一條通往正確答案的路。

是的，AI的輸出，是概率性的：ChatGPT沒(méi)有任何標記了對錯的內部記錄，它其實(shí)是一個(gè)統計模型，這個(gè)模型中，是在不同上下文中的語(yǔ)言組合。

而上下文的基礎，就是GPT-3訓練所用的整體數據集，來(lái)自ChatGPT的RLHF訓練的額外上下文，prompt和之前的對話(huà)，以及很快就會(huì )有的反饋。

這些組合產(chǎn)生的結果，無(wú)疑令人興奮。

ChatGPT會(huì )運行整個(gè)虛擬機，會(huì )寫(xiě)代碼。

當然，ChatGPT并沒(méi)有運行python，答案其實(shí)是從構成GPT-3的互聯(lián)網(wǎng)數據語(yǔ)料庫中收集的概率結果——

ChatGPT在10秒內做出了最結果的最佳猜測，這個(gè)猜測很可能是正確的，感覺(jué)仿佛就是一臺真正的計算機在執行相關(guān)的代碼一樣。

這種可能性，足以讓人類(lèi)驚喜。

雖然對于要求準確性的代碼工作來(lái)說(shuō)，它有不少灰色地帶。

但對于A(yíng)IGC的其他領(lǐng)域，比如生成文本、圖像，這種多重的可能性無(wú)疑幫助人類(lèi)拓展想象力的邊界。

ChatGPT的商業(yè)模式，推動(dòng)人工智能的革命

為什么這幾天ChatGPT會(huì )爆火呢？

作為底層模型的GPT-3，其實(shí)已經(jīng)誕生兩年了。與之不同的是，ChatGPT既免費，又好用。

閱讀AI輸出的示例是一回事，而自己生成輸出，又是另一回事了。

AIGC的革命早已掀起。當Midjourney使AI生成的藝術(shù)變得簡(jiǎn)單、免費時(shí)，人類(lèi)對此的興趣和意識也就出現了爆炸式的增長(cháng)。

ChatGPT是免費的，這很關(guān)鍵。

要知道，在OpenAI的API上，最大的限制因素就是成本。

使用OpenAI最強大的語(yǔ)言模型Davinci生成750個(gè)單詞，成本為2美分；使用RLHF或其他方法對模型進(jìn)行微調，也會(huì )花很多錢(qián)，從微調模型生成750個(gè)單詞，需要12美分。

ChatGPT的迷人之處在于，它使得OpenAI變成和MidJourney一樣的消費AI產(chǎn)品領(lǐng)銜者。

Midjourney訂閱的商業(yè)模式，對于在GPU時(shí)間方面具有邊際成本的東西，很有意義。

對此，前GitHub的CEO Nat Friedman曾提出這樣一個(gè)有趣的觀(guān)點(diǎn)：在現實(shí)世界，AI的應用程序其實(shí)是匱乏的。

現在，研究人員每天都在以飛速的方式向全世界提供著(zhù)大量新功能，而企業(yè)和產(chǎn)品人員才剛剛開(kāi)始消化這些新功能。

再往前想一步，當AI在現實(shí)世界中不再匱乏的時(shí)候，人類(lèi)是否會(huì )被AI取代？

讓我們來(lái)看一看AI對這個(gè)問(wèn)題的回答。

參考資料：

https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned

https://dev.to/bienvenuelisis/will-chatgpt-replace-stackoverflow-2h6g

https://stratechery.com/2022/ai-homework/

本文來(lái)源：新智元 (ID:AI_era)，原文標題：《ChatGPT瘋狂生成「辣雞」內容，Stack Overflow氣急，連夜封殺！》

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞： 解決方案 是正確的 這個(gè)問(wèn)題