(相關(guān)資料圖)

隨著(zhù)ChatGPT爆火，AI生成內容也引發(fā)了諸如版權、學(xué)術(shù)倫理等擔憂(yōu)。對此，ChatGPT背后的初創(chuàng )公司以彼之矛攻彼之盾，推出AI生成內容識別工具，但也坦言稱(chēng)這款工具“并不可靠”。

周二，ChatGPT開(kāi)發(fā)公司OpenAI推出了一個(gè)分類(lèi)器（classifier）來(lái)區分人類(lèi)寫(xiě)的文本和來(lái)自各類(lèi)AI（不僅僅是ChatGPT）寫(xiě)的文本。

據OpenAI，其人工智能分類(lèi)器在近四分之三的時(shí)間里無(wú)法檢測到機器人編寫(xiě)的文本，因此它不應被用作主要的決策工具，而應作為確定一段文本來(lái)源的補充方法。

在對英文文本的識別測試中，這款分類(lèi)器僅將26%的人工智能生成文本正確地識別為 "可能是人工智能寫(xiě)的"。人類(lèi)寫(xiě)的文本也會(huì )被分類(lèi)器“錯誤但自信地”標記為人工智能所寫(xiě)，將人類(lèi)寫(xiě)的文本錯誤地標記為人工智能寫(xiě)的的情況有9%。

據介紹，該分類(lèi)器對短文（低于1000個(gè)字符）的識別非常不可靠，分類(lèi)器的可靠性通常隨著(zhù)輸入文本的長(cháng)度增加而提高，但更長(cháng)的文本也會(huì )被分類(lèi)器錯誤地標記。

OpenAI建議只對英語(yǔ)文本鑒別使用該分類(lèi)器，它在其他語(yǔ)言中的表現明顯更差，而且它在代碼識別上也不可靠。

OpenAI表示，分類(lèi)器雖然不可能可靠地檢測出所有人工智能寫(xiě)的文本，但該工具補充了教育工作者、雇主和其他人用來(lái)確定文本來(lái)源的方法，為一些錯誤行為提供參考，例如使用人工智能工具進(jìn)行學(xué)術(shù)不端行為等。

自去年11月推出以來(lái)，ChatGPT病毒式地橫掃各行各業(yè)，能夠在幾秒鐘內就幾乎任何主題產(chǎn)生聽(tīng)起來(lái)像人類(lèi)的文章、詩(shī)歌、劇本和推銷(xiāo)文案，甚至能夠幫程序員寫(xiě)代碼，幫學(xué)生寫(xiě)論文。此外，ChatGPT還存在被濫用來(lái)傳播錯誤信息和編寫(xiě)垃圾郵件的可能。

一些學(xué)校已經(jīng)開(kāi)始禁止學(xué)生使用ChatGPT，在很多互聯(lián)網(wǎng)大廠(chǎng)，ChatGPT也遭到了封殺。

根據用戶(hù)的反饋，OpenAI希望改進(jìn)這個(gè)工具。該公司表示，已與美國教育工作者接觸，討論ChatGPT的功能和局限性。

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞： 人工智能 教育工作者 各行各業(yè)