在線客服
微信客服
咨詢電話
021-80392549
歐盟《人工智能法案》進(jìn)入最終談判階段
14日，歐洲議會(huì)全體會(huì)議表決通過(guò)了《人工智能法案》授權(quán)草案，該法案進(jìn)入歐盟立法嚴(yán)格監(jiān)管人工智能技術(shù)應(yīng)用的最終談判階段。
歐洲議會(huì)當(dāng)天投票決定禁止實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)，如不能在公共場(chǎng)合進(jìn)行實(shí)時(shí)人臉識(shí)別，并對(duì)ChatGPT等生成式人工智能工具增加更多安全控制措施，提出新的透明度要求，以確保人工智能的研發(fā)和應(yīng)用符合歐盟權(quán)利和價(jià)值觀。
據(jù)歐洲議會(huì)網(wǎng)站消息，歐洲議會(huì)“為制定史上首部人工智能法案已經(jīng)做好談判準(zhǔn)備”。按照立法議程，歐洲議會(huì)將就這一授權(quán)草案與歐盟委員會(huì)和成員國(guó)進(jìn)行“三方”談判，歐洲立法者希望在今年年底前就法案的最終版本達(dá)成共識(shí)。
今年5月，歐洲議會(huì)內(nèi)部的市場(chǎng)委員會(huì)和公民自由委員會(huì)通過(guò)歐盟委員會(huì)于2021年4月提出的《人工智能法案》提案的談判授權(quán)草案。歐洲議會(huì)聲明，這部提案如正式獲得批準(zhǔn)，將成為全世界首部有關(guān)人工智能的法規(guī)。
該法案將適用于在歐盟境內(nèi)將人工智能系統(tǒng)投放市場(chǎng)或投入使用的實(shí)體（無(wú)論該實(shí)體是在歐盟境內(nèi)還是在第三國(guó)）、在歐盟境內(nèi)使用人工智能系統(tǒng)的實(shí)體以及在第三國(guó)使用人工智能系統(tǒng)但系統(tǒng)的輸出用于歐盟境內(nèi)或?qū)W盟境內(nèi)人員產(chǎn)生影響的實(shí)體。
該法案草案的一個(gè)突出特點(diǎn)是注重基于風(fēng)險(xiǎn)來(lái)制定監(jiān)管制度，以平衡人工智能的創(chuàng)新發(fā)展與安全規(guī)范。草案將人工智能風(fēng)險(xiǎn)分為不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限的風(fēng)險(xiǎn)和極小的風(fēng)險(xiǎn)四級(jí)，對(duì)應(yīng)不同的監(jiān)管要求。其中高風(fēng)險(xiǎn)人工智能的使用必須受到嚴(yán)格監(jiān)管，系統(tǒng)提供者和使用者都要遵守?cái)?shù)據(jù)管理、記錄保存、透明度、人為監(jiān)管等規(guī)定，以確保系統(tǒng)穩(wěn)定、準(zhǔn)確和安全。對(duì)于違反規(guī)定者，草案設(shè)定了最高3000萬(wàn)歐元或全球年?duì)I業(yè)額6%的罰款。
最新草案嚴(yán)格禁止對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)，包括部署潛意識(shí)或有目的操縱技術(shù)、利用人們?nèi)觞c(diǎn)或用于社會(huì)評(píng)分的系統(tǒng)，并擴(kuò)大了人工智能高風(fēng)險(xiǎn)領(lǐng)域的分類，將對(duì)人們健康、安全、基本權(quán)利或環(huán)境的危害考慮在內(nèi)。草案還要求人工智能公司對(duì)其算法保持人為控制，提供技術(shù)文件，并為“高風(fēng)險(xiǎn)”應(yīng)用建立風(fēng)險(xiǎn)管理系統(tǒng)，還針對(duì)ChatGPT等生成式人工智能設(shè)立專門監(jiān)管制度。每個(gè)歐盟成員國(guó)都將設(shè)立一個(gè)監(jiān)督機(jī)構(gòu)。
此外，引進(jìn)監(jiān)管沙盒機(jī)制以管控風(fēng)險(xiǎn)和促進(jìn)創(chuàng)新，在人工智能系統(tǒng)入市或投入使用前，對(duì)人工智能系統(tǒng)進(jìn)行開(kāi)發(fā)、測(cè)試和驗(yàn)證降低風(fēng)險(xiǎn)。最新草案文本還提出，這一機(jī)制同樣被允許用于在現(xiàn)實(shí)條件下測(cè)試創(chuàng)新人工智能，以鼓勵(lì)人工智能企業(yè)持續(xù)創(chuàng)新。
清華大學(xué)自動(dòng)化系教授陶建華在接受記者采訪時(shí)說(shuō)，歐盟試圖建立一個(gè)統(tǒng)一的人工智能法律監(jiān)管框架，是全球人工智能發(fā)展進(jìn)程中一個(gè)重要的標(biāo)志性事例。其對(duì)人工智能進(jìn)行有效法規(guī)約束的探討和嘗試都會(huì)產(chǎn)生全球性的影響，可能引發(fā)越來(lái)越多的國(guó)家嘗試跟進(jìn)相關(guān)法規(guī)的探索。
競(jìng)天公誠(chéng)律師事務(wù)所合伙人袁立志認(rèn)為，歐盟推動(dòng)人工智能立法，有利于保護(hù)基本人權(quán)、維護(hù)歐盟在數(shù)字主權(quán)和科技領(lǐng)域的領(lǐng)導(dǎo)地位，并通過(guò)這樣一部綜合性立法搶占全球人工智能監(jiān)管先機(jī)。但其本身具有局限性。它采用的是橫向立法，并非針對(duì)特定人工智能應(yīng)用領(lǐng)域，而是試圖把所有人工智能都納入監(jiān)管范圍，在執(zhí)行層面將面臨大量的解釋問(wèn)題。
陶建華指出，歐盟并未就人工智能技術(shù)可能會(huì)給人類帶來(lái)什么樣的影響形成共識(shí)。從辨證的角度看，人工智能既能造福和服務(wù)人類，但如若用之不善，也會(huì)給人類帶來(lái)威脅或傷害。因此，如何平衡創(chuàng)新和約束是歐盟立法面臨的一個(gè)非常重要的挑戰(zhàn)。但在追求創(chuàng)新和管控創(chuàng)新可能帶來(lái)的危害之間尋求一個(gè)有效平衡，很大程度上是使用者的問(wèn)題。如何對(duì)使用者進(jìn)行有效監(jiān)管，也是歐盟人工智能立法面臨的一大挑戰(zhàn)。此外，統(tǒng)一的法律框架并未涉及具體的法律規(guī)范，因此實(shí)際的執(zhí)行效果上可能會(huì)“大打折扣”。（刁澤）
14日，歐洲議會(huì)全體會(huì)議表決通過(guò)了《人工智能法案》授權(quán)草案，該法案進(jìn)入歐盟立法嚴(yán)格監(jiān)管人工智能技術(shù)應(yīng)用的最終談判階段。
歐洲議會(huì)當(dāng)天投票決定禁止實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)，如不能在公共場(chǎng)合進(jìn)行實(shí)時(shí)人臉識(shí)別，并對(duì)ChatGPT等生成式人工智能工具增加更多安全控制措施，提出新的透明度要求，以確保人工智能的研發(fā)和應(yīng)用符合歐盟權(quán)利和價(jià)值觀。
據(jù)歐洲議會(huì)網(wǎng)站消息，歐洲議會(huì)“為制定史上首部人工智能法案已經(jīng)做好談判準(zhǔn)備”。按照立法議程，歐洲議會(huì)將就這一授權(quán)草案與歐盟委員會(huì)和成員國(guó)進(jìn)行“三方”談判，歐洲立法者希望在今年年底前就法案的最終版本達(dá)成共識(shí)。
今年5月，歐洲議會(huì)內(nèi)部的市場(chǎng)委員會(huì)和公民自由委員會(huì)通過(guò)歐盟委員會(huì)于2021年4月提出的《人工智能法案》提案的談判授權(quán)草案。歐洲議會(huì)聲明，這部提案如正式獲得批準(zhǔn)，將成為全世界首部有關(guān)人工智能的法規(guī)。
該法案將適用于在歐盟境內(nèi)將人工智能系統(tǒng)投放市場(chǎng)或投入使用的實(shí)體（無(wú)論該實(shí)體是在歐盟境內(nèi)還是在第三國(guó)）、在歐盟境內(nèi)使用人工智能系統(tǒng)的實(shí)體以及在第三國(guó)使用人工智能系統(tǒng)但系統(tǒng)的輸出用于歐盟境內(nèi)或?qū)W盟境內(nèi)人員產(chǎn)生影響的實(shí)體。
該法案草案的一個(gè)突出特點(diǎn)是注重基于風(fēng)險(xiǎn)來(lái)制定監(jiān)管制度，以平衡人工智能的創(chuàng)新發(fā)展與安全規(guī)范。草案將人工智能風(fēng)險(xiǎn)分為不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限的風(fēng)險(xiǎn)和極小的風(fēng)險(xiǎn)四級(jí)，對(duì)應(yīng)不同的監(jiān)管要求。其中高風(fēng)險(xiǎn)人工智能的使用必須受到嚴(yán)格監(jiān)管，系統(tǒng)提供者和使用者都要遵守?cái)?shù)據(jù)管理、記錄保存、透明度、人為監(jiān)管等規(guī)定，以確保系統(tǒng)穩(wěn)定、準(zhǔn)確和安全。對(duì)于違反規(guī)定者，草案設(shè)定了最高3000萬(wàn)歐元或全球年?duì)I業(yè)額6%的罰款。
最新草案嚴(yán)格禁止對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)，包括部署潛意識(shí)或有目的操縱技術(shù)、利用人們?nèi)觞c(diǎn)或用于社會(huì)評(píng)分的系統(tǒng)，并擴(kuò)大了人工智能高風(fēng)險(xiǎn)領(lǐng)域的分類，將對(duì)人們健康、安全、基本權(quán)利或環(huán)境的危害考慮在內(nèi)。草案還要求人工智能公司對(duì)其算法保持人為控制，提供技術(shù)文件，并為“高風(fēng)險(xiǎn)”應(yīng)用建立風(fēng)險(xiǎn)管理系統(tǒng)，還針對(duì)ChatGPT等生成式人工智能設(shè)立專門監(jiān)管制度。每個(gè)歐盟成員國(guó)都將設(shè)立一個(gè)監(jiān)督機(jī)構(gòu)。
此外，引進(jìn)監(jiān)管沙盒機(jī)制以管控風(fēng)險(xiǎn)和促進(jìn)創(chuàng)新，在人工智能系統(tǒng)入市或投入使用前，對(duì)人工智能系統(tǒng)進(jìn)行開(kāi)發(fā)、測(cè)試和驗(yàn)證降低風(fēng)險(xiǎn)。最新草案文本還提出，這一機(jī)制同樣被允許用于在現(xiàn)實(shí)條件下測(cè)試創(chuàng)新人工智能，以鼓勵(lì)人工智能企業(yè)持續(xù)創(chuàng)新。
清華大學(xué)自動(dòng)化系教授陶建華在接受記者采訪時(shí)說(shuō)，歐盟試圖建立一個(gè)統(tǒng)一的人工智能法律監(jiān)管框架，是全球人工智能發(fā)展進(jìn)程中一個(gè)重要的標(biāo)志性事例。其對(duì)人工智能進(jìn)行有效法規(guī)約束的探討和嘗試都會(huì)產(chǎn)生全球性的影響，可能引發(fā)越來(lái)越多的國(guó)家嘗試跟進(jìn)相關(guān)法規(guī)的探索。
競(jìng)天公誠(chéng)律師事務(wù)所合伙人袁立志認(rèn)為，歐盟推動(dòng)人工智能立法，有利于保護(hù)基本人權(quán)、維護(hù)歐盟在數(shù)字主權(quán)和科技領(lǐng)域的領(lǐng)導(dǎo)地位，并通過(guò)這樣一部綜合性立法搶占全球人工智能監(jiān)管先機(jī)。但其本身具有局限性。它采用的是橫向立法，并非針對(duì)特定人工智能應(yīng)用領(lǐng)域，而是試圖把所有人工智能都納入監(jiān)管范圍，在執(zhí)行層面將面臨大量的解釋問(wèn)題。
陶建華指出，歐盟并未就人工智能技術(shù)可能會(huì)給人類帶來(lái)什么樣的影響形成共識(shí)。從辨證的角度看，人工智能既能造福和服務(wù)人類，但如若用之不善，也會(huì)給人類帶來(lái)威脅或傷害。因此，如何平衡創(chuàng)新和約束是歐盟立法面臨的一個(gè)非常重要的挑戰(zhàn)。但在追求創(chuàng)新和管控創(chuàng)新可能帶來(lái)的危害之間尋求一個(gè)有效平衡，很大程度上是使用者的問(wèn)題。如何對(duì)使用者進(jìn)行有效監(jiān)管，也是歐盟人工智能立法面臨的一大挑戰(zhàn)。此外，統(tǒng)一的法律框架并未涉及具體的法律規(guī)范，因此實(shí)際的執(zhí)行效果上可能會(huì)“大打折扣”。（刁澤）
