5月21日,歐盟理事會(huì)正式批準(zhǔn)歐盟《人工智能法案》,標(biāo)志著全球首部用于人工智能領(lǐng)域監(jiān)管的法案即將落地生效。該法案不僅適用于所有位于歐盟境內(nèi)的人工智能使用者,還包括位于歐盟以外的人工智能系統(tǒng)軟硬件設(shè)備的供應(yīng)商等,具有廣泛的域外適用效力,對(duì)歐盟和其地區(qū)將產(chǎn)生重要影響。
推動(dòng)開發(fā)可信賴人工智能
歐盟《人工智能法案》于2021年4月由歐盟委員會(huì)內(nèi)部成員遞交提案,2023年6月以來,歐盟內(nèi)部經(jīng)過多輪會(huì)談達(dá)成臨時(shí)協(xié)議。2024年3月13日,歐洲議會(huì)以523票贊成、46票反對(duì)和49票棄權(quán)的結(jié)果,表決通過該法案。5月21日,歐盟理事會(huì)正式批準(zhǔn)該法案。該法案將在歐盟官方公報(bào)公布20天后生效,2年后全面實(shí)施。
歐盟《人工智能法案》的立法目的,在于保障歐盟公民的基本權(quán)利,激勵(lì)歐洲人工智能的投資與創(chuàng)新,推動(dòng)開發(fā)使用安全且值得信賴的人工智能。當(dāng)前,在以ChatGPT為代表的人工智能技術(shù)迅猛發(fā)展和廣泛應(yīng)用的背景下,監(jiān)管人工智能的必要性日益凸顯。人工智能技術(shù)創(chuàng)作過程具有不可解釋性,輸出結(jié)果存在極大不確定性和不穩(wěn)定性,也很難對(duì)系統(tǒng)安全性作出有效評(píng)估。未經(jīng)監(jiān)管的人工智能系統(tǒng)可能帶來濫用風(fēng)險(xiǎn),以及個(gè)人隱私泄露、算法歧視等問題。因此,歐盟出于自身發(fā)展、安全及爭奪國際治理話語權(quán)等多重需要,率先制定出臺(tái)人工智能法案,為全球人工智能行業(yè)監(jiān)管治理提供了樣本。
歐盟《人工智能法案》的創(chuàng)新之處在于提出了人工智能風(fēng)險(xiǎn)等級(jí)分類方法。該法案基于人工智能系統(tǒng)對(duì)用戶和社會(huì)的潛在影響程度,將風(fēng)險(xiǎn)分為不可接受風(fēng)險(xiǎn)類、高風(fēng)險(xiǎn)類、有限風(fēng)險(xiǎn)類和最小風(fēng)險(xiǎn)類,風(fēng)險(xiǎn)等級(jí)越高,相應(yīng)管控越嚴(yán)格。其中,不可接受風(fēng)險(xiǎn)類主要包括任何試圖操縱人類行為、利用人性弱點(diǎn)或支持政府社會(huì)評(píng)分的人工智能系統(tǒng),例如為唆使犯罪而操縱人的潛意識(shí)等,這些人工智能系統(tǒng)將被嚴(yán)格禁止開發(fā)和使用。高風(fēng)險(xiǎn)類主要是被認(rèn)為對(duì)健康、安全、基本權(quán)利和法治構(gòu)成重大威脅的人工智能系統(tǒng),它們必須遵守更嚴(yán)格的要求。有限風(fēng)險(xiǎn)類主要是不會(huì)構(gòu)成任何嚴(yán)重威脅的人工智能系統(tǒng),與其相關(guān)的風(fēng)險(xiǎn)主要是缺乏透明度,需要根據(jù)法案要求履行相應(yīng)公開義務(wù)。最小風(fēng)險(xiǎn)類主要包括人工智能電子游戲或垃圾郵件過濾器等應(yīng)用,法案允許自由使用最小風(fēng)險(xiǎn)類的人工智能系統(tǒng)。
另外,該法案還規(guī)定了通用人工智能模型投放市場的統(tǒng)一規(guī)則,以及關(guān)于市場監(jiān)測、市場監(jiān)督治理和執(zhí)法規(guī)則,提出對(duì)于包括初創(chuàng)企業(yè)在內(nèi)的中小企業(yè)的支持創(chuàng)新措施。
規(guī)范使用面臨爭議
總體來看,歐盟《人工智能法案》通過規(guī)范和監(jiān)管人工智能系統(tǒng)的使用,意在減少濫用和其他潛在風(fēng)險(xiǎn),確保人工智能技術(shù)發(fā)展符合社會(huì)整體利益。該法案在規(guī)范人工智能監(jiān)管的同時(shí),鼓勵(lì)相關(guān)技術(shù)的創(chuàng)新與發(fā)展,對(duì)于保持歐洲在人工智能領(lǐng)域的競爭力至關(guān)重要。該法案同樣注重個(gè)人數(shù)據(jù)隱私和權(quán)利的保護(hù),通過對(duì)數(shù)據(jù)收集、處理和使用的規(guī)范,確保人工智能系統(tǒng)不會(huì)侵犯公民個(gè)人權(quán)利,保護(hù)個(gè)人隱私。
歐盟《人工智能法案》也面臨著一些爭議,該法案假定可以識(shí)別出具有不可接受或高風(fēng)險(xiǎn)水平的人工智能系統(tǒng)類別,風(fēng)險(xiǎn)類別由歐盟委員會(huì)直接定義,并在法律中予以明確。人工智能系統(tǒng)由于具有無固定任務(wù)性、適應(yīng)性、敏捷性等特點(diǎn),其危害驅(qū)動(dòng)因素可能是純技術(shù)性的,也可能是社會(huì)性的,還可能是人機(jī)交互造成的。該法案缺乏可供審查的風(fēng)險(xiǎn)分類標(biāo)準(zhǔn),執(zhí)行中可能會(huì)陷入過度監(jiān)管或過度包容的困境。如何在確保監(jiān)管有效性的同時(shí),避免對(duì)創(chuàng)新和發(fā)展造成不利影響,是值得深入思考的問題。(張清亮)