（原標題：“事故”頻發(fā)！AI龍頭也栽在了AI手里…）

作為AI龍頭股，市值超過(guò)1300億元的科大訊飛今天栽在了AI手里。

(資料圖片)

5月24日下午開(kāi)盤(pán)后，科大訊飛股價(jià)快速跳水，盤(pán)中一度跌超9%。截至收盤(pán)，科大訊飛收跌4.26%。

據了解，近日網(wǎng)上傳出“科大訊飛被曝涉嫌大量采集用戶(hù)隱私數據”的文章。隨后，該文章被猜測是AI文檔工具“文心一言”所生成。

對此，科大訊飛盤(pán)后在投資者互動(dòng)平臺表示，公司初步判斷該段不實(shí)信息系某AI生成式軟件生成。使用大模型編造虛假信息屬于違法行為，將受到法律制裁。

科大訊飛：AI編造虛假信息已有刑事案例

科大訊飛在投資者互動(dòng)平臺上表示，公司初步判斷該段不實(shí)信息系某AI生成式軟件生成。對于惡意抹黑、捏造虛假信息，損害公司名譽(yù)權的機構或個(gè)人，公司會(huì )借助法律武器保護公司和投資者利益。

科大訊飛表示，公司高度重視企業(yè)信息安全及個(gè)人隱私信息保護，將信息安全管理作為公司發(fā)展的重要支撐戰略之一，并建立了完善嚴格的信息安全和隱私保護體系。竭力保障公司信息及用戶(hù)的安全權益。公司于2017 年通過(guò)ISO27001 信息安全管理體系認證，2020 年，又在此基礎上通過(guò)了ISO27701 隱私安全體系認證。

此外，科大訊飛還提到，使用大模型編造虛假信息屬于違法行為，將受到法律制裁。當前已有刑事案例。

據甘肅公安5月7日消息，甘肅公安偵破首例利用AI人工智能技術(shù)炮制虛假信息案。4月25日，甘肅省平?jīng)鍪泄簿轴轻挤志志W(wǎng)安大隊對“今晨甘肅一火車(chē)撞上修路工人致9人死亡”的文章，初步判斷為信息虛假不實(shí)。網(wǎng)安民警隨即開(kāi)展工作，發(fā)現共計21個(gè)百度賬號均在同一時(shí)間段發(fā)布該文章。經(jīng)查，涉案百度賬號均為廣東深圳某自媒體公司所有，公司法人代表洪某弟有重大作案嫌疑。

5月5日，專(zhuān)案民警在廣東東莞嫌疑人住處對其使用的電腦及百家號進(jìn)行取證。經(jīng)審訊，犯罪嫌疑人洪某弟通過(guò)微信好友獲知網(wǎng)絡(luò )賺取流量變現方法，并購買(mǎi)大量“百家號”。同時(shí)使用“易撰”網(wǎng)頁(yè)版，在全網(wǎng)搜索近幾年社會(huì )熱點(diǎn)新聞，為規避百家號查重功能，洪某弟通過(guò)近期火爆的ChatGPT人工智能軟件將搜集到的新聞要素修改編輯后，使用“海豹科技”軟件上傳至其購買(mǎi)的百家號上非法獲利。

洪某弟利用現代科技手段編造虛假信息，并散布在互聯(lián)網(wǎng)上，被大量傳播瀏覽，其行為已涉嫌尋釁滋事罪。

舊聞被重新翻出

有投資者當天在互動(dòng)平臺上提問(wèn)科大訊飛：“5月24日下午，市場(chǎng)出現多個(gè)關(guān)于科大訊飛的傳言，有外媒援引知情人士的話(huà)稱(chēng)，美國正在考慮是否將科大訊飛、美亞柏科等加入實(shí)體名單。請公司盡快核實(shí)傳言，以正視聽(tīng)?！?/p>

對此，科大訊飛在盤(pán)后回應稱(chēng)：該條信息屬于對2019年5月23日相關(guān)信息的復制粘貼?？拼笥嶏w已于2019年10月被列入實(shí)體清單，科大訊飛擁有全球領(lǐng)先的人工智能核心技術(shù)，這些核心技術(shù)全部來(lái)自于科大訊飛的自主研發(fā)，擁有自主知識產(chǎn)權。被列入實(shí)體清單后，科大訊飛已迅速切換到以國產(chǎn)供應鏈為主的非美供應鏈體系，繼續為客戶(hù)提供優(yōu)質(zhì)的產(chǎn)品和服務(wù)，業(yè)務(wù)運營(yíng)未受到重大影響。

證券時(shí)報記者查詢(xún)發(fā)現，“科大訊飛于2019年10月被列入實(shí)體清單”確實(shí)是當時(shí)的一篇舊聞。

中國互聯(lián)網(wǎng)協(xié)會(huì )：警惕！“AI換臉”新騙局

中國互聯(lián)網(wǎng)協(xié)會(huì )5月24日發(fā)文稱(chēng)，警惕 “AI換臉”新騙局。今年以來(lái)，ChatGPT和GPT-4等技術(shù)的應用，成為了信息科技領(lǐng)域的熱點(diǎn)，引起公眾對AI技術(shù)的廣泛關(guān)注和熱情。但伴隨著(zhù)深度合成技術(shù)的開(kāi)放開(kāi)源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進(jìn)行詐騙、誹謗的違法行為屢見(jiàn)不鮮。

據平安包頭微信公眾號，5月8日，包頭市公安局電信網(wǎng)絡(luò )犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，警銀聯(lián)動(dòng)成功緊急止付涉嫌電信詐騙資金330多萬(wàn)元。據悉，4月20日11時(shí)40分左右，福州市某科技公司法人代表郭先生的好友突然通過(guò)微信視頻聯(lián)系到他，兩人經(jīng)過(guò)短暫聊天后，好友告訴郭先生，自己的朋友在外地投標，需要430萬(wàn)元保證金，且需要公對公賬戶(hù)過(guò)賬，所以想要借用郭先生公司的賬戶(hù)走一下賬?；谝曨l聊天信任的前提下，郭先生沒(méi)有核實(shí)錢(qián)是否到賬，于11時(shí)49分先后分兩筆把430萬(wàn)元給對方打了過(guò)去。錢(qián)款轉賬后，郭先生給好友微信發(fā)了一條消息，稱(chēng)事情已經(jīng)辦妥。但讓他沒(méi)想到的是，好友回過(guò)來(lái)的消息竟然是一個(gè)問(wèn)號。郭先生撥打好友電話(huà)，對方說(shuō)沒(méi)有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過(guò)智能AI換臉技術(shù)，佯裝成好友對他實(shí)施了詐騙。

接到福建省福州市公安局刑偵支隊的外協(xié)請求，包頭市公安局電信網(wǎng)絡(luò )犯罪偵查局立即啟動(dòng)“包頭市警銀聯(lián)動(dòng)綠色查詢(xún)機制”，在銀行的全力協(xié)助下，將該詐騙賬戶(hù)內的336.84萬(wàn)元被騙資金成功攔截。同時(shí)，向福州市公安局警方提供了剩余款項93.16萬(wàn)元資金流出信息，為深入突破該案剩余資金查找提供了突破方向。

中國互聯(lián)網(wǎng)協(xié)會(huì )稱(chēng)，做好個(gè)人信息安全第一責任人。加強個(gè)人信息保護意識，防止信息泄露：不輕易提供人臉、指紋等個(gè)人生物信息給他人；不要輕易透露自己的身份證、銀行卡、驗證碼等信息；不要貪圖方便把身份證、銀行卡照片等直接共同存放于手機內。

該協(xié)會(huì )稱(chēng)，對于不常用的APP，建議卸載前注銷(xiāo)個(gè)人賬號。若APP不提供個(gè)人賬號注銷(xiāo)方式，或為注銷(xiāo)賬號設置各類(lèi)障礙的，請至12321.cn投訴。

“在A(yíng)I時(shí)代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉賬匯款、資金往來(lái)這樣的典型場(chǎng)景，要通過(guò)回撥對方手機號等額外通信方式核實(shí)確認，不要僅憑單一溝通渠道未經(jīng)核實(shí)就直接轉賬匯款！無(wú)論對方是誰(shuí)！” 中國互聯(lián)網(wǎng)協(xié)會(huì )稱(chēng)。

校對：蘇煥文

關(guān)鍵詞：