4月13日周四，OpenAI的CEO Sam Altman表示，他同意特斯拉CEO馬斯克、蘋(píng)果聯(lián)合創(chuàng )始人Steve Wozniak等科技界領(lǐng)袖簽署的生命未來(lái)研究所公開(kāi)信的部分內容。

【資料圖】

這封公開(kāi)信呼吁暫停6個(gè)月的AI研究。但Altman補充說(shuō)，這封信“遺漏了關(guān)于我們需要暫停的大部分技術(shù)細節?！?/p>

Altman說(shuō)：

我認為謹慎行事和對安全問(wèn)題越來(lái)越嚴格非常重要，但我不認為這封信是解決這個(gè)問(wèn)題的最佳方式。

3 月，馬斯克、Wozniak和其他數十位學(xué)者呼吁立即停止訓練與“比 GPT-4 更強大”的大型語(yǔ)言模型相關(guān)的“實(shí)驗”，稱(chēng)其“對社會(huì )和人類(lèi)構成潛在風(fēng)險”。這其中首當其沖的就是OpenAI的旗艦大型語(yǔ)言模型。當前，這封公開(kāi)信已經(jīng)有超過(guò)2.5萬(wàn)人簽名。

這封信說(shuō)：

人工智能實(shí)驗室和獨立專(zhuān)家應該利用六個(gè)月的暫停時(shí)間，來(lái)開(kāi)發(fā)和實(shí)施一套由獨立外部專(zhuān)家嚴格審計和監督的高級人工智能設計和開(kāi)發(fā)的共享安全協(xié)議。

Altman周四說(shuō)：

我也同意，隨著(zhù)AI能力變得越來(lái)越強大，安全標準必須提高。

今年早些時(shí)候，Altman承認人工智能技術(shù)讓他“有點(diǎn)害怕”。 白宮、國會(huì )和美國各地各界都提出了關(guān)于安全和合乎道德地使用AI的問(wèn)題。

Altman說(shuō)：

我們正在GPT-4之上做其他事情，我認為這些事情存在各種需要解決的重要安全問(wèn)題，但這封信卻只字不提。

這封發(fā)布在非營(yíng)利性組織“未來(lái)生命研究所”網(wǎng)站上的公開(kāi)信主張，在開(kāi)發(fā)強大的AI系統之前，應先確認其帶來(lái)影響是積極的、風(fēng)險是可控的。

信中詳述了具有人類(lèi)水平智能的AI系統可能對社會(huì )和人類(lèi)帶來(lái)極大的風(fēng)險，稱(chēng)“這一點(diǎn)已經(jīng)得到大量研究和頂級AI實(shí)驗室的認同”，并連續拋出四個(gè)疑問(wèn)：

我們是否應該讓機器用宣傳和謊言淹沒(méi)我們的信息渠道?

我們是否應該讓所有的工作自動(dòng)化，包括那些令人滿(mǎn)意的工作?

我們是否應該發(fā)展最終可能在數量上超過(guò)我們、在智能上超越我們、能夠淘汰并取代我們的非人類(lèi)思維?

我們應該冒著(zhù)失去對我們文明控制的風(fēng)險嗎?

顯然，比起技術(shù)，公開(kāi)信的支持者更在意的，是人工智能可能出現的“野蠻生長(cháng)”，以及它的發(fā)展可能帶來(lái)的社會(huì )和倫理難題。

公開(kāi)信中提到，此番暫停并不意味著(zhù)從總體上暫停人工智能的開(kāi)發(fā)，而是從危險競賽中“后退一步”。人工智能的研究和開(kāi)發(fā)應該重新聚焦于使當今強大的、最先進(jìn)的系統變得更加準確、安全、可解釋、透明、穩健、一致、可信且可靠。

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞：