(資料圖片僅供參考)

6月10日，在2023北京智源大會(huì )上，圖靈獎得主、中國科學(xué)院院士姚期智與加州伯克利分校教授Stuart Russell在A(yíng)I安全與對齊專(zhuān)題論壇進(jìn)行了專(zhuān)家對談。

姚期智認為，在考慮如何控制AI的問(wèn)題前，人類(lèi)需要先真正解決自身的問(wèn)題。對于A(yíng)I技術(shù)，當前正是一個(gè)重要窗口。在A(yíng)GI被創(chuàng )造之前、在軍備競賽開(kāi)展之前，我們急需形成共識，共同合作搭建一個(gè)AI治理結構。

“我們應該如何阻止人類(lèi)生產(chǎn)強大的AI機器，以免以犧牲他人為代價(jià)來(lái)實(shí)現他們的個(gè)人目標？”在對談中，姚期智表示，“我們不應該假設機器是公正的，機器可能會(huì )試圖改變人類(lèi)的行為，更準確來(lái)說(shuō)，可能是機器的所有者想要改變其他人的行為，而這種意圖隱藏在某些復雜程序背后?！?/strong>

加州伯克利分校教授Stuart Russell在會(huì )上表示，通用人工智能（AGI）還沒(méi)達到，大語(yǔ)言模型只是其中一塊拼圖，我們連拼圖最終會(huì )是什么樣子，缺哪些還不確定。

他表示，ChatGPT和GPT-4沒(méi)有在“回答”問(wèn)題，它們不理解世界。

Russell認為，人工智能應該是一門(mén)科學(xué)，在某種意義上，我們理解我們構建的結構如何與我們想要它們擁有的屬性相關(guān)聯(lián)。就像我們制造飛機一樣，飛機有物理形狀和發(fā)動(dòng)機等等。我們可以展示這與我們想要的屬性之間的關(guān)系，那就是留在空氣中：

目前，特別是大型語(yǔ)言模型領(lǐng)域，并不是一門(mén)這樣的科學(xué)。我們不知道它為什么會(huì )帶來(lái)財產(chǎn)。它存在我們甚至不知道它有什么屬性。我們當然不能將這些與內部發(fā)生的事情聯(lián)系起來(lái)，因為我們不了解內部發(fā)生的事情。因此從這個(gè)意義上說(shuō)，人工智能是一門(mén)更深層次的科學(xué)。

Russell指出，最重要的擔憂(yōu)來(lái)自于科技公司之間似乎不受約束的競爭，他們已經(jīng)表示不會(huì )停止開(kāi)發(fā)越來(lái)越強大的系統，無(wú)論風(fēng)險如何。人類(lèi)可能會(huì )失去對世界和我們自己未來(lái)的控制，就像大猩猩因為人類(lèi)而失去了對自己未來(lái)的控制一樣。