国产精品久久久久久久久久久久午衣片,国产成人精品男人的天堂网站,熟女一区二区中文字幕,亚洲精品国产精品乱码在线

中國科學(xué)院院士何積豐:利用對齊技術(shù)給AI戴上“緊箍咒”


(相關(guān)資料圖)

目前,AI大模型的通用能力,讓其能夠應用到人類(lèi)生產(chǎn)生活的各個(gè)場(chǎng)景中,可謂“無(wú)孔不入”;AI的發(fā)展因此也帶來(lái)了新的安全隱患,如何解決這一問(wèn)題,在9月7日開(kāi)幕的2023 INCLUSION·外灘大會(huì )上,中國科學(xué)院院士何積豐開(kāi)出了他的“藥方”:利用對齊技術(shù)為大模型戴上緊箍咒。

何積豐認為,大模型的安全問(wèn)題主要是在未經(jīng)同意的情況下,收集、使用和泄露個(gè)人信息。隱私問(wèn)題既可能發(fā)生在訓練過(guò)程,也可能發(fā)生在使用過(guò)程中,而大模型的生成能力則讓“隱私泄露”的方式變得多樣化,造成隱私保護更加困難。

“為了應對這些問(wèn)題,我們需要大模型對齊技術(shù)?!焙畏e豐說(shuō),“對齊(alignment)”是指系統的目標和人類(lèi)價(jià)值觀(guān)一致,使其符合設計者的利益和預期,不會(huì )產(chǎn)生意外的有害后果?!叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空,‘對齊’就是唐僧的緊箍咒。有了緊箍咒,就可以保證技術(shù)不會(huì )任意使用能力胡作非為”。

不過(guò),對齊技術(shù)同樣面臨挑戰。首先,對齊的基礎是人類(lèi)的價(jià)值觀(guān),但它是多元且動(dòng)態(tài)變化的,就需要保證大模型為人服務(wù)、與人為善;其次,大模型的“有用性”與“無(wú)害性”之間目標也不完全一致。最后如何對錯誤進(jìn)行有效糾正,設好大模型的“緊箍咒”也是挑戰。

因此,對齊技術(shù)已經(jīng)成為了一項令人眼花繚亂的跨學(xué)科研究,不僅考驗技術(shù),也審視文化。

何積豐介紹,反饋強化學(xué)習是實(shí)現對齊的技術(shù)途徑,目前有兩種方式,一種方式是通過(guò)人工反饋給模型不同的獎勵信號,引導模型的高質(zhì)量輸出;另一種方式,事先給大模型提供明確的原則,系統自動(dòng)訓練模型對所有生成的輸出結果提供初始排序。

“這意味著(zhù),不僅智能系統需要向人類(lèi)價(jià)值觀(guān)對齊,人類(lèi)的訓練方法也要向價(jià)值觀(guān)對齊?!焙畏e豐由此提出一個(gè)口號,“人類(lèi)要跟機器持續共同學(xué)習”。

最后何積豐呼吁,“在A(yíng)I發(fā)展過(guò)程中,千萬(wàn)不要不要忘記人類(lèi)的核心角色,希望AI技術(shù)成為我們的助手,而不是代替人類(lèi)創(chuàng )造新世界的未來(lái)”。

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險,投資需謹慎。本文不構成個(gè)人投資建議,也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資,責任自負。

關(guān)鍵詞: