5月22日，“AI詐騙正在全國爆發(fā)”話(huà)題沖上熱搜第一，引發(fā)網(wǎng)友熱議。

據每日經(jīng)濟新聞報道，近日包頭警方發(fā)布一起利用人工智能（AI）實(shí)施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內被騙430萬(wàn)元。

過(guò)程是這樣的，4月20日，郭先生的好友突然通過(guò)微信視頻聯(lián)系他表示，自己的朋友在外地競標，需要430萬(wàn)保證金，且需要公對公賬戶(hù)過(guò)賬，想要借郭先生公司的賬戶(hù)走賬。好友向郭先生要了銀行卡號，聲稱(chēng)已經(jīng)把錢(qián)打到郭先生的賬戶(hù)上，還把銀行轉賬底單的截圖通過(guò)微信發(fā)給了郭先生。

【資料圖】

基于對好友的信任，加上已經(jīng)視頻聊天核實(shí)了身份，郭先生沒(méi)有核實(shí)錢(qián)款是否到賬，就分兩筆把430萬(wàn)轉到了好友朋友的銀行卡上，結果最終被AI換臉技術(shù)所騙。

而據湖北網(wǎng)警巡查執法5月6日消息，AI技術(shù)改變詐騙，新騙局來(lái)襲后，詐騙成功率竟接近100%。

第一種是聲音合成。騙子通過(guò)騷擾電話(huà)錄音等來(lái)提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過(guò)對方。

第二種是AI換臉，因為人臉效果更易取得對方信任，騙子用AI技術(shù)換臉，可以偽裝成任何人，再通過(guò)視頻方式進(jìn)行信息確認。

海外方面，在早些時(shí)候，三星在引入ChatGPT不到20天里，發(fā)生了三起半導體機密資料外泄事故，包括兩起“設備信息泄露”和一起“會(huì )議內容泄露”。

3月31日，意大利個(gè)人數據保護局宣布，從即日起禁止使用聊天機器人ChatGPT，限制其開(kāi)發(fā)公司OpenAI處理意大利用戶(hù)信息，并開(kāi)始立案調查。ChatGPT被指控不遵守有關(guān)個(gè)人數據的立法并且沒(méi)有驗證未成年用戶(hù)年齡的系統。

海內外積極因對AI風(fēng)險

5月19日消息，英國計劃與OpenAI和DeepMind的高管舉行關(guān)于A(yíng)I風(fēng)險的會(huì )議，英國的人工智能峰會(huì )最快可能在本月舉行。

5月18日，科學(xué)技術(shù)部部長(cháng)王志剛表示，中國積極應對人工智能可能帶來(lái)的風(fēng)險挑戰，推進(jìn)人工智能倫理治理，發(fā)布人工智能治理原則和倫理規范，向全球表明負責任人工智能的鮮明立場(chǎng)。

5月16日，OpenAI CEO Altman呼吁國會(huì )對人工智能（AI）系統采取安全標準。他認為，政府可以將發(fā)放牌照和測試的要求結合起來(lái)，監管開(kāi)發(fā)AI模型的公司。

4月11日，據《華爾街日報》報道，拜登政府已經(jīng)開(kāi)始研究是否需要對ChatGPT等人工智能工具實(shí)行檢查。作為潛在監管的第一步，美國商務(wù)部4月11日就相關(guān)問(wèn)責措施正式公開(kāi)征求意見(jiàn)，包括新人工智能模型在發(fā)布前是否應經(jīng)過(guò)認證程序。征求意見(jiàn)期限為60天。

4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》，向社會(huì )公開(kāi)征求意見(jiàn)。該意見(jiàn)稿聚焦生成式人工智能，在算法設計、訓練數據選擇、模型生成和優(yōu)化、提供服務(wù)、生成內容、個(gè)人信息和隱私保護方面均做出了限制。

據中信證券研報，AI可能引發(fā)的安全問(wèn)題主要體現在以下方面：

1）大模型訓練、調優(yōu)所使用數據的安全問(wèn)題。

比如前文所述意大利個(gè)人數據保護局因年齡審核、數據和隱私安全等問(wèn)題，宣布限制ChatGPT運營(yíng)；加拿大聯(lián)邦隱私監管機構宣布，OpenAI涉嫌“未經(jīng)同意收集、使用和披露個(gè)人信息”。

2）大模型生成內容的可靠性、使用方式等問(wèn)題。

中信證券指出，由于大模型在生成內容上的基于概率統計的原理，其內容可靠性可能存在問(wèn)題，如引用的客觀(guān)數據是否是最新且來(lái)源可靠的，此外，由AI生成的新聞圖片出現在互聯(lián)網(wǎng)中，真假難辨，或引發(fā)傳播風(fēng)險；歐洲刑警組織提示稱(chēng)，ChatGPT可能被濫用于網(wǎng)絡(luò )釣魚(yú)、虛假信息和網(wǎng)絡(luò )犯罪。

華創(chuàng )證券還提到，網(wǎng)絡(luò )攻擊方面，搭載了AI能力的黑客如虎添翼，ChatGPT的強大功能降低了網(wǎng)絡(luò )攻擊者用于制作惡意軟件和降低技術(shù)門(mén)檻，使得攻擊手法轉向分布式、智能化、自動(dòng)化，智能化對抗將成為主要的攻防形式。

哪些技術(shù)有望用來(lái)應對AI風(fēng)險？

中信證券指出，由于大模型在訓練、調優(yōu)數據過(guò)程中涉及用戶(hù)數據調用，伴隨生成式AI技術(shù)熱潮掀起，在數據采集、傳輸、存儲、處理、共享、銷(xiāo)毀等數據生命周期各階段，通過(guò)加密、數據水印等技術(shù)手段保護用戶(hù)數據特別是隱私成為當務(wù)之急。

針對大模型生成內容的可靠性、使用方式，中信認為，應對AI生成內容進(jìn)行標記，同時(shí)對AI生成內容的可靠性及傳播鏈路進(jìn)行把關(guān)。

安信證券提到，當前對AI生成內容的判別主要可以由兩種技術(shù)途徑來(lái)完成：

1）通過(guò)算法識別AI模型生成內容的特征，從而鑒別相應的內容是否由AI生成。根據公司公告披露，美亞柏科正在布局相關(guān)取證技術(shù)，比如對人工智能合成、生成的視頻圖像內容檢測鑒定。

2）通過(guò)對AI生成的內容添加特定的標識，來(lái)區分相應內容是否由AI生成，這一方向的技術(shù)手段包括數字水印等相應的加密技術(shù)。

國盛證券指出，AIGC可能生成的虛假信息，需要類(lèi)似換臉甄別的技術(shù)來(lái)鑒別圖像等信息是否由AI生成；數據隱私方面，隱私計算可以在不暴露數據的情況下進(jìn)行計算和分析，以實(shí)現數據隱私的保護。

隱私計算是在保障數據隱私安全的同時(shí)，實(shí)現數據分析計算的技術(shù)體系，其價(jià)值是打破數據孤島,實(shí)現數據的可信流通和價(jià)值挖掘。國泰君安稱(chēng)，隱私計算在政策和需求的雙輪驅動(dòng)下不斷發(fā)展壯大，到2025年，中國隱私計算市場(chǎng)規模有望突破百億級，市場(chǎng)空間巨大。

國盛證券還提到，安全問(wèn)題不能僅靠AI廠(chǎng)商自律解決，還需要外部力量監督。全球AI監管處于探索階段，歐盟、英國、美國相關(guān)法律法規與指導意見(jiàn)逐步推進(jìn)。人工智能趨勢不可逆轉，與科學(xué)技術(shù)的高速發(fā)展相比，現有法律和倫理仍處于不斷起步探索的階段。

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞：