在人工智能展示了其非凡的創(chuàng )造力以及潛在的危害力之后，越來(lái)越多力量加入了呼吁監管的隊伍之中。

近日，為確保歐洲人工智能以人為本的道德發(fā)展，歐洲議會(huì )內部市場(chǎng)委員會(huì )和公民自由委員會(huì )以 84 票贊成、7票反對、12票棄權通過(guò)了《人工智能法案》的談判授權草案。修改后的《人工智能法案》針對人工智能基礎模型、價(jià)值鏈責任和最近大熱的生成式人工智能做出回應，同時(shí)研究了針對企業(yè)尤其是中小企業(yè)和初創(chuàng )企業(yè)的豁免條款。

大型網(wǎng)絡(luò )平臺推薦系統被列入高風(fēng)險

歐盟關(guān)于人工智能立法的進(jìn)程，最早可以追溯到2018年的《人工智能時(shí)代：確立以人為本的歐洲戰略》報告，報告解讀了歐盟在人工智能領(lǐng)域的最新發(fā)展現狀；2021年4月21日，歐盟委員會(huì )正式提出《人工智能法案》提案，世界范圍內第一部針對人工智能進(jìn)行規制的法律邁開(kāi)制定的腳步。

北京師范大學(xué)法學(xué)院博士生導師、中國互聯(lián)網(wǎng)協(xié)會(huì )研究中心副主任吳沈括在接受21世紀經(jīng)濟報道記者采訪(fǎng)時(shí)表示，歐盟的立法強調結合歐盟自身的經(jīng)濟技術(shù)、現狀，同時(shí)服務(wù)于歐盟打造世界級經(jīng)濟體和確保數字主權、技術(shù)主權的政策目標，在強調保障創(chuàng )新發(fā)展的同時(shí)突出體現了以風(fēng)險管理為導向的監管思路，它的制定出臺會(huì )對世界人工智能產(chǎn)業(yè)發(fā)展生態(tài)和人工智能監管走向帶來(lái)非常大的影響。

監管框架定義了人工智能的4個(gè)風(fēng)險級別：不可接受的風(fēng)險、高風(fēng)險、風(fēng)險有限、最小或無(wú)風(fēng)險。這些規則基于風(fēng)險制定，并根據人工智能可能產(chǎn)生的風(fēng)險級別為提供者和用戶(hù)規定義務(wù)。

風(fēng)險級別上，所有被認為對人們的安全、生計和權利構成明顯威脅的人工智能系統都被認為是不可接受的風(fēng)險而將被禁止，包括部署潛意識或有目的地操縱技術(shù)、利用人們的弱點(diǎn)或用于社會(huì )評分。

這次法案大幅修改了不可接受的風(fēng)險相關(guān)名單，禁止侵入性和歧視性地使用人工智能系統，例如公共場(chǎng)所的“實(shí)時(shí)”遠程生物特征識別系統，使用敏感特征的生物識別分類(lèi)系統，預測性警務(wù)系統等都被禁止。

而在高風(fēng)險級別方面，歐洲議會(huì )議員擴大了高風(fēng)險領(lǐng)域的分類(lèi)，對人們健康、安全、基本權利或環(huán)境造成危害的人工智能屬于此類(lèi)。高風(fēng)險人工智能系統在投放市場(chǎng)之前將受到嚴格的義務(wù)約束。同時(shí)他們認為，被認定為大型網(wǎng)絡(luò )平臺的社交媒體平臺（根據《數字服務(wù)法》擁有超過(guò) 4500 萬(wàn)用戶(hù)）所使用的推薦系統，會(huì )對網(wǎng)絡(luò )安全、公眾輿論、選舉等產(chǎn)生強烈影響，也被列入高風(fēng)險的人工智能。

值得注意的是，《人工智能法案》認為，人工智能系統的概念應明確定義，并與從事人工智能工作的國際組織的工作密切一致，以確保法律的確定性、統一性和廣泛接受性，同時(shí)提供靈活性以適應該領(lǐng)域的快速技術(shù)發(fā)展。此外，它應該基于人工智能的關(guān)鍵特征，如學(xué)習、推理或建模能力，以便將其與更簡(jiǎn)單的軟件系統或編程方法區分開(kāi)來(lái)。

厘清產(chǎn)業(yè)鏈各主體責任分配

《人工智能法案》針對人工智能價(jià)值鏈責任的義務(wù)劃分、基礎模型提供者和生成式AI等最新問(wèn)題做了相應回應。

在人工智能價(jià)值鏈責任分配上，法案中提到，任何分發(fā)者、進(jìn)口者、部署者或其他第三方應被視為高風(fēng)險人工智能系統的提供者，需要履行相應的義務(wù)。如在高風(fēng)險人工智能系統上標明名稱(chēng)、聯(lián)系方式，提供數據規格或數據集相關(guān)信息，保存日志等。

“在A(yíng)IGC產(chǎn)業(yè)鏈中，具有多種形態(tài)。例如，在模型即服務(wù)（MaaS）的產(chǎn)業(yè)模式下，可能上游基礎模型的服務(wù)提供者是供應者，中間會(huì )有中間層負責對點(diǎn)工具的開(kāi)發(fā)；到了下游也就是具體的應用場(chǎng)景中，可能會(huì )有進(jìn)一步的直接面向個(gè)人用戶(hù)的服務(wù)提供者。此外，開(kāi)源模式下，有人利用開(kāi)源軟件結合數據進(jìn)行微調和部署，在這個(gè)領(lǐng)域當中，這個(gè)供應者、分發(fā)者、進(jìn)口者和部署者可能就又是不一樣的?！睂ν饨?jīng)濟貿易大學(xué)數字經(jīng)濟與法律創(chuàng )新研究中心執行主任張欣介紹，歐盟的《人工智能法案》較為清晰地厘清了AIGC產(chǎn)業(yè)鏈上的主體責任，同時(shí)根據主體之間的具體角色、具體特質(zhì)進(jìn)行了劃分，很大程度上體現了公平的責任。

在吳沈括看來(lái)，在立法思路上，歐盟慣常于剖析分解生態(tài)當中上下游不同角色之間的作用地位，并根據這些因素劃定義務(wù)和責任范圍。對于責任的劃分基于調研得出，上下游不同企業(yè)發(fā)揮什么樣的作用就承擔什么樣的角色。同時(shí)，根據他們對于這個(gè)生態(tài)的影響和價(jià)值，依據比例原則配置相應的義務(wù)內容，設定相應的處罰強度。

而在通用人工智能方面，《人工智能法案》也對基礎模型提供者的義務(wù)進(jìn)行了規定，如需要評估和降低風(fēng)險，遵守設計、信息和環(huán)境要求，在歐盟數據庫中注冊。通用型人工智能是指非為特殊目的進(jìn)行特別設計的具有廣泛適用性的人工智能系統，其一般功能包括但不限于圖像和語(yǔ)音識別、音頻和視頻生成、模式檢測、問(wèn)答、翻譯和其他功能。

對于GPT這樣的生成式基礎模型來(lái)說(shuō)，基礎模型的設計和開(kāi)發(fā)必須有足夠的保障措施，確保其符合歐盟法律。同時(shí)，根據透明度規則的要求，只要文本是 AI 生成的，它就必須披露；需要設計模型以防止其生成非法內容；對于訓練數據，需要提供版權法所涵蓋的詳細摘要。

張欣提示，關(guān)于人工智能所使用的數據，此次法案存在算法透明度和知識產(chǎn)權兩條路徑。未來(lái)生成式人工智能的產(chǎn)業(yè)鏈發(fā)展當中，從知識產(chǎn)權角度來(lái)說(shuō)，對于數據集的訓練、所著(zhù)圖片文字如何進(jìn)行合理的利益分配提供了借鑒的思路。

關(guān)切中小企業(yè)和初創(chuàng )企業(yè)

21世紀經(jīng)濟報道記者梳理發(fā)現，在監管方式上，《人工智能法案》除提出監管沙盒外，還提到了高風(fēng)險人工智能系統數據庫。這是由歐盟與各成員國合作建立的一個(gè)公共數據庫，相關(guān)供應商應按照相應要求將規定的數據輸入該庫中。同時(shí)規定，數據庫中的信息應向公眾免費提供。

在張欣看來(lái)，該數據庫是對算法透明度、公眾知情權、商業(yè)秘密三者之間一個(gè)較為平衡的做法。目前來(lái)看，結合商業(yè)秘密的考量，算法可解釋性非常低。在這種情況下，對于公眾來(lái)說(shuō)要想去理解它的運行邏輯、預見(jiàn)可能產(chǎn)生的風(fēng)險，其實(shí)是非常難的?！斑@種做法類(lèi)似于我們國家的算法備案，通過(guò)建立數據庫向公眾進(jìn)行公開(kāi)，建立了一個(gè)比較好的合理的透明度。在人工智能領(lǐng)域，深度神經(jīng)網(wǎng)絡(luò )雖然可解釋性有限，但用于訓練的數據集通?？梢酝ㄟ^(guò)數據解釋的方式提升整體的透明度?！?/p>

“這是一個(gè)比較前沿的實(shí)踐方式，目的是建立有關(guān)高風(fēng)險系統的一個(gè)信息數據池，匯聚各種信息和數據，幫助各層級監管執法乃至社會(huì )監督的過(guò)程當中，對于高風(fēng)險系統有一個(gè)更為直觀(guān)、更為動(dòng)態(tài)和前沿的認知，而且這個(gè)數據庫處于持續更新的狀態(tài)?！眳巧蚶▽?1世紀經(jīng)濟報道記者表示。

同時(shí)，《人工智能法案》對于中小企業(yè)、初創(chuàng )企業(yè)也給予了相應的豁免。如“第28（a）條 單方面強加給中小企業(yè)或初創(chuàng )企業(yè)的不公平合同條款”規定，一個(gè)企業(yè)單方面強加給中小企業(yè)或初創(chuàng )企業(yè)的相關(guān)合同條款或措施，如果是不公平的，則對后一企業(yè)沒(méi)有約束力。同時(shí)監管沙盒的其中一個(gè)很重要目標，便是要確保中小企業(yè)和初創(chuàng )企業(yè)能夠輕松訪(fǎng)問(wèn)沙盒，積極參與開(kāi)發(fā)和測試。

就像聯(lián)合報告員Dragos Tudorache所表示的，“我們一直致力于支持歐洲的人工智能創(chuàng )新，為初創(chuàng )企業(yè)、中小企業(yè)和行業(yè)提供發(fā)展和創(chuàng )新的空間”。

支持中小企業(yè)創(chuàng )新，在張欣看來(lái)非常重要。一方面，大模型的研發(fā)可能出現新一輪的技術(shù)壁壘，對于監管來(lái)說(shuō)，相關(guān)政策在制定過(guò)程中需要對相關(guān)利益分配進(jìn)行適當平衡，否則就可能對于中小企業(yè)和初創(chuàng )企業(yè)產(chǎn)生擠壓作用。另一方面，人工智能技術(shù)的創(chuàng )新和組織規模、架構之間有著(zhù)非常重要的相關(guān)性。以OpenAI為例，作為一個(gè)只有300人團隊的中小企業(yè)研發(fā)了ChatGPT。

吳沈括認為這是歐盟關(guān)于平衡安全監管和發(fā)展創(chuàng )新之間的一個(gè)機制創(chuàng )新。反映了歐盟一貫以來(lái)對于中小企業(yè)發(fā)展的扶持優(yōu)待政策，同時(shí)也跟歐盟境內超過(guò)95%以上屬于中小企業(yè)的經(jīng)濟基礎是相匹配的，它的核心是在監管的同時(shí)為中小企業(yè)的創(chuàng )新，留下必要的發(fā)展空間。

針對最近的談判授權草案，歐洲議會(huì )預計將在 6 月 12 日至 15 日的會(huì )議期間進(jìn)行表決。得到批準之后，相關(guān)法案便可進(jìn)入下一立法環(huán)節，一旦獲得批準，歐盟《人工智能法案》將有望成為全球首部有關(guān)人工智能的法規。

張欣表示，歐盟的人工智能法案為相關(guān)國家立法提供制度參考，規則與規則之間的嵌套和搭配非常精細，踐行了基于風(fēng)險的人工智能分類(lèi)分級治理思路。除此之外，該治理規則得到一整套人工智能的監管和治理工具，如認證、評估等進(jìn)行支撐，

但是她也提出了一個(gè)更加值得思考的問(wèn)題?！皻W盟雖然立法精細，但是歐盟的整個(gè)人工智能企業(yè)、數字化企業(yè)的發(fā)展卻沒(méi)有那么的先進(jìn)。所以從更廣泛、更宏觀(guān)的角度來(lái)講，人工智能或者說(shuō)高新科技領(lǐng)域的立法，和高新科技領(lǐng)域的創(chuàng )新之間，相關(guān)性到底是怎么樣的，也可能值得我們去觀(guān)察、思考?！?/p>