5月21日，歐盟理事會正式批準歐盟《人工智能法案》，標志著全球首部用于人工智能領(lǐng)域監(jiān)管的法案即將落地生效。該法案不僅適用于所有位于歐盟境內(nèi)的人工智能使用者，還包括位于歐盟以外的人工智能系統(tǒng)軟硬件設(shè)備的供應(yīng)商等，具有廣泛的域外適用效力，對歐盟和其地區(qū)將產(chǎn)生重要影響。
推動開發(fā)可信賴人工智能
歐盟《人工智能法案》于2021年4月由歐盟委員會內(nèi)部成員遞交提案，2023年6月以來，歐盟內(nèi)部經(jīng)過多輪會談達成臨時協(xié)議。2024年3月13日，歐洲議會以523票贊成、46票反對和49票棄權(quán)的結(jié)果，表決通過該法案。5月21日，歐盟理事會正式批準該法案。該法案將在歐盟官方公報公布20天后生效，2年后全面實施。
歐盟《人工智能法案》的立法目的，在于保障歐盟公民的基本權(quán)利，激勵歐洲人工智能的投資與創(chuàng)新，推動開發(fā)使用安全且值得信賴的人工智能。當(dāng)前，在以ChatGPT為代表的人工智能技術(shù)迅猛發(fā)展和廣泛應(yīng)用的背景下，監(jiān)管人工智能的必要性日益凸顯。人工智能技術(shù)創(chuàng)作過程具有不可解釋性，輸出結(jié)果存在極大不確定性和不穩(wěn)定性，也很難對系統(tǒng)安全性作出有效評估。未經(jīng)監(jiān)管的人工智能系統(tǒng)可能帶來濫用風(fēng)險，以及個人隱私泄露、算法歧視等問題。因此，歐盟出于自身發(fā)展、安全及爭奪國際治理話語權(quán)等多重需要，率先制定出臺人工智能法案，為全球人工智能行業(yè)監(jiān)管治理提供了樣本。
歐盟《人工智能法案》的創(chuàng)新之處在于提出了人工智能風(fēng)險等級分類方法。該法案基于人工智能系統(tǒng)對用戶和社會的潛在影響程度，將風(fēng)險分為不可接受風(fēng)險類、高風(fēng)險類、有限風(fēng)險類和最小風(fēng)險類，風(fēng)險等級越高，相應(yīng)管控越嚴格。其中，不可接受風(fēng)險類主要包括任何試圖操縱人類行為、利用人性弱點或支持政府社會評分的人工智能系統(tǒng)，例如為唆使犯罪而操縱人的潛意識等，這些人工智能系統(tǒng)將被嚴格禁止開發(fā)和使用。高風(fēng)險類主要是被認為對健康、安全、基本權(quán)利和法治構(gòu)成重大威脅的人工智能系統(tǒng)，它們必須遵守更嚴格的要求。有限風(fēng)險類主要是不會構(gòu)成任何嚴重威脅的人工智能系統(tǒng)，與其相關(guān)的風(fēng)險主要是缺乏透明度，需要根據(jù)法案要求履行相應(yīng)公開義務(wù)。最小風(fēng)險類主要包括人工智能電子游戲或垃圾郵件過濾器等應(yīng)用，法案允許自由使用最小風(fēng)險類的人工智能系統(tǒng)。
另外，該法案還規(guī)定了通用人工智能模型投放市場的統(tǒng)一規(guī)則，以及關(guān)于市場監(jiān)測、市場監(jiān)督治理和執(zhí)法規(guī)則，提出對于包括初創(chuàng)企業(yè)在內(nèi)的中小企業(yè)的支持創(chuàng)新措施。
規(guī)范使用面臨爭議
總體來看，歐盟《人工智能法案》通過規(guī)范和監(jiān)管人工智能系統(tǒng)的使用，意在減少濫用和其他潛在風(fēng)險，確保人工智能技術(shù)發(fā)展符合社會整體利益。該法案在規(guī)范人工智能監(jiān)管的同時，鼓勵相關(guān)技術(shù)的創(chuàng)新與發(fā)展，對于保持歐洲在人工智能領(lǐng)域的競爭力至關(guān)重要。該法案同樣注重個人數(shù)據(jù)隱私和權(quán)利的保護，通過對數(shù)據(jù)收集、處理和使用的規(guī)范，確保人工智能系統(tǒng)不會侵犯公民個人權(quán)利，保護個人隱私。
歐盟《人工智能法案》也面臨著一些爭議，該法案假定可以識別出具有不可接受或高風(fēng)險水平的人工智能系統(tǒng)類別，風(fēng)險類別由歐盟委員會直接定義，并在法律中予以明確。人工智能系統(tǒng)由于具有無固定任務(wù)性、適應(yīng)性、敏捷性等特點，其危害驅(qū)動因素可能是純技術(shù)性的，也可能是社會性的，還可能是人機交互造成的。該法案缺乏可供審查的風(fēng)險分類標準，執(zhí)行中可能會陷入過度監(jiān)管或過度包容的困境。如何在確保監(jiān)管有效性的同時，避免對創(chuàng)新和發(fā)展造成不利影響，是值得深入思考的問題。（張清亮）