當地時(shí)間4月27日，經(jīng)過(guò)幾個(gè)月的緊張談判，歐洲議會(huì )成員已經(jīng)彌合分歧，就《人工智能法（The AI Act）》提案達成臨時(shí)政治協(xié)議，要求部署ChatGPT等生成式人工智能工具的公司披露用于開(kāi)發(fā)其系統的受版權保護的材料。該協(xié)議為可能是世界上第一部綜合性人工智能法律的《人工智能法》出臺鋪平道路。

(資料圖片僅供參考)

在定于5月11日進(jìn)行的關(guān)鍵委員會(huì )投票前，提案文本可能仍需在技術(shù)層面上進(jìn)行細微調整，6月中旬預計將進(jìn)行全體投票。

最后一刻的變化：生成式人工智能監管

《人工智能法》預計將成為歐盟一項具有里程碑意義的立法，已經(jīng)醞釀了兩年多。立法者提議根據他們認為的風(fēng)險級別對不同的人工智能工具進(jìn)行分類(lèi)，從最低到有限、高和不可接受。使用這些工具的政府機構和企業(yè)將根據風(fēng)險級別承擔不同的義務(wù)。

該法案范圍廣泛，將管轄所有人工智能產(chǎn)品或服務(wù)的提供方，涵蓋可以生成內容、預測、建議或影響環(huán)境的決策的系統。

除了企業(yè)對人工智能的使用外，法案還將研究公共部門(mén)和執法部門(mén)使用的人工智能，并與《通用數據保護條例 （GDPR）》等法律協(xié)同工作。與人類(lèi)互動(dòng)、用于監視目的或生成“深度偽造”內容的人工智能系統的使用者將面臨嚴格的透明度義務(wù)。

直到最后一刻，歐盟立法者還在對提案中一些最具爭議的部分進(jìn)行討論。

“通用目的人工智能系統（General Purpose AI System）”是立法者提出的一個(gè)類(lèi)別，用于解釋具有多個(gè)應用程序的人工智能工具，例如ChatGPT這樣的生成式人工智能模型。如何處理 “通用目的人工智能系統”一直是討論中爭論激烈的話(huà)題。歐洲議會(huì )確認了之前的提案，即對“通用目的人工智能系統”的一個(gè)子類(lèi)別——基礎模型施加更嚴格的要求 。根據要求，開(kāi)發(fā)ChatGPT等生成式人工智能工具的公司必須披露他們是否在系統中使用了受版權保護的材料。

協(xié)議達成前夕唯一重要的變化就是關(guān)于生成式人工智能模型，“這些模型的設計和開(kāi)發(fā)必須符合歐盟法律和基本權利，包括表達自由?！?/p>

《人工智能法》還禁止“有目的的”操縱?！坝心康牡摹边@個(gè)詞有爭議，因為可能難以證明故意性，但仍被保留下來(lái)。

另外，在執法、邊境管理、工作場(chǎng)所和教育領(lǐng)域，法案要求禁止使用AI驅動(dòng)的情緒識別軟件。

歐盟立法者對預測性警務(wù)（predictive policing）的禁令從刑事犯罪擴展到了行政犯罪，其依據是荷蘭兒童福利丑聞，該丑聞中成千上萬(wàn)的家庭因有缺陷的算法而被誤判為欺詐。

高風(fēng)險分類(lèi)變化

許多人工智能工具可能被認為是高風(fēng)險的，例如用于關(guān)鍵基礎設施、執法或教育的工具。它們比“不可接受”低一級，因此不會(huì )被完全禁止，但需要在操作中保持高度透明。高風(fēng)險人工智能的使用者可能需要完成嚴格的風(fēng)險評估，記錄他們的活動(dòng)，并向當局提供數據以供審查。這可能會(huì )增加公司的合規成本。

最初的提案將某些關(guān)鍵領(lǐng)域和用例的人工智能解決方案自動(dòng)歸類(lèi)為高風(fēng)險，這意味著(zhù)供應商必須遵守更嚴格的制度，包括對風(fēng)險管理、透明度和數據治理的要求。歐洲議會(huì )引入了一個(gè)額外的層次，使這些類(lèi)別的人工智能模型只有在對健康、安全或基本權利構成重大風(fēng)險的情況下才會(huì )被視為高風(fēng)險。

重大風(fēng)險被定義為“由于其嚴重性、強度、發(fā)生的概率和影響的持續時(shí)間而具有重大意義的風(fēng)險，并且能夠影響一個(gè)人、多個(gè)人或一個(gè)特定群體”。

根據綠黨的要求，用于管理能源網(wǎng)或水系統等關(guān)鍵基礎設施的人工智能，如果帶來(lái)嚴重的環(huán)境風(fēng)險，也將被歸類(lèi)為高風(fēng)險。

此外，中左翼立法者還爭取到了一個(gè)規定：根據《數字服務(wù)法》（DSA）的定義，超大型在線(xiàn)平臺的推薦系統將被視為高風(fēng)險。

歐洲議會(huì )議員為高風(fēng)險人工智能模型的提供者處理敏感數據（如性取向或宗教信仰）以檢測負面偏見(jiàn)的過(guò)程，納入了額外的保障措施。此外，評估必須發(fā)生在受控環(huán)境中。敏感數據不能被傳輸給其他方，并且必須在偏見(jiàn)評估后被刪除。提供者還必須記錄數據處理發(fā)生的原因。

《國家法律評論》4月26日報道稱(chēng)：“《人工智能法》將產(chǎn)生全球性的影響，因為它將適用于在歐盟提供或使用人工智能系統的組織；以及位于第三國（包括英國和美國）的人工智能系統的提供者或使用者，如果這些人工智能系統產(chǎn)生的輸出在歐盟使用?！?/p>

本文來(lái)源：澎湃新聞，原文標題：《歐盟達成《人工智能法》協(xié)議，為生成式AI設立版權規則》

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。

關(guān)鍵詞：