撰文 / 馬曉蕾

編輯 / 黃大路

設(shè)計(jì) / 趙浩然

來源 / The verge，路透社 作者：Emilia David

歐盟三大機(jī)構(gòu)——?dú)W洲議會(huì)、歐盟成員國和歐盟委員會(huì)——在經(jīng)歷了36個(gè)小時(shí)的“馬拉松式”談判后，于布魯塞爾當(dāng)?shù)貢r(shí)間12月8日晚，就《人工智能法案》達(dá)成協(xié)議。

這一法案將成為全球首部人工智能領(lǐng)域的全面監(jiān)管法規(guī)。歐盟內(nèi)部市場專員蒂埃里·布雷東（Thierry Breton）坦言：“這份協(xié)議將有助于歐洲在全球人工智能競賽中領(lǐng)跑?！?/p>

然而，圍繞歐盟《人工智能法案》的談判變得越來越漫長、越來越復(fù)雜。

據(jù)外媒的最新報(bào)道，在12月15日，歐盟各國政府舉行的協(xié)議匯報(bào)會(huì)上，德國、法國、意大利和波蘭堅(jiān)稱在最終文本準(zhǔn)備好之前他們不會(huì)簽署該協(xié)議。

雖然12月8日達(dá)成的政治協(xié)議確認(rèn)該法規(guī)將生效，但最終文本要到2月初才會(huì)公布，而且該法規(guī)的某些內(nèi)容可能要到2027年才會(huì)生效。

不過，歐盟委員會(huì)表示，對(duì)某些人工智能系統(tǒng)的禁令將在法律通過后的6個(gè)月內(nèi)生效，如基于特征分析、定位或過去的犯罪行為的“預(yù)測性警務(wù)”系統(tǒng)；而基礎(chǔ)模型的監(jiān)管將在12個(gè)月后生效，包括透明度報(bào)告和風(fēng)險(xiǎn)評(píng)估。

在法律生效之前，鼓勵(lì)企業(yè)自愿簽署人工智能協(xié)議，履行一些關(guān)鍵義務(wù)。不遵守該法律的公司可能會(huì)受到高達(dá)全球營業(yè)額7%或3500萬歐元的處罰（取最高的）。

不同的聲音

具有里程碑意義的人工智能監(jiān)管可以幫助歐盟禁止AI的某些用途，并要求提供商提高透明度。但一些國家領(lǐng)導(dǎo)人和行業(yè)專家發(fā)出警告，人工智能公司需要做出的改變?nèi)圆磺宄铱赡苓€很遙遠(yuǎn)。

紐約大學(xué)斯特恩商業(yè)與人權(quán)中心副主任保羅·貝萊特（Paul Barrett）表示：“從短期來看，歐盟人工智能法案的妥協(xié)不會(huì)對(duì)美國的老牌人工智能設(shè)計(jì)師產(chǎn)生太大的直接影響?！币虼?，就目前而言，OpenAI、微軟、谷歌和Meta等主要人工智能廠商可能會(huì)繼續(xù)爭奪主導(dǎo)地位，特別是在美國監(jiān)管不確定的情況下。

這一協(xié)議的達(dá)成“來之不易”。

《人工智能法案》于2021年首次提出，歐盟三大機(jī)構(gòu)擬過多個(gè)草案。據(jù)了解，此前三方談判的核心分歧是基礎(chǔ)模型的監(jiān)管方式。

據(jù)媒體報(bào)道，三方談判在10月24日本已就分級(jí)監(jiān)管模型達(dá)成了初步共識(shí)，但包括德、法、意在內(nèi)的至少五個(gè)成員國改變立場，即將最終落地之時(shí)，歐盟內(nèi)部出現(xiàn)了不同聲音。

《人工智能法案》在OpenAI的GPT-4大語言模型等通用人工智能（GPAI）工具爆發(fā)之前就已啟動(dòng)，對(duì)此類技術(shù)的監(jiān)管成為最后一刻討論中的一個(gè)癥結(jié)所在。該法案根據(jù)人工智能系統(tǒng)對(duì)社會(huì)的風(fēng)險(xiǎn)程度劃分了層級(jí)，正如歐盟在一份聲明中所說，“風(fēng)險(xiǎn)越高，規(guī)則就越嚴(yán)格?！?/p>

法國、意大利和德國曾在10月份提出對(duì)歐洲人工智能初創(chuàng)公司的豁免，德國聯(lián)邦政府公布了一份由德國、法國和意大利三國達(dá)成的關(guān)于人工智能監(jiān)管的聯(lián)合文件。該文件總體上支持對(duì)人工智能進(jìn)行必要的監(jiān)管，但強(qiáng)調(diào)相關(guān)法規(guī)應(yīng)該只用于規(guī)范人工智能的應(yīng)用，而非技術(shù)本身。

德國數(shù)字化和交通部部長福爾克·維辛（Volker Wissing）對(duì)此表示，“如果我們想在全球頂級(jí)人工智能競賽中有所作為，就需要規(guī)范人工智能的應(yīng)用，而不是技術(shù)。”

一些成員國越來越擔(dān)心，這種嚴(yán)格性可能會(huì)使歐盟成為一個(gè)對(duì)人工智能缺乏吸引力的市場。法國、德國和意大利都在談判期間游說減少對(duì)GPAI的限制。

經(jīng)過激烈爭論，協(xié)議弱化了一些最嚴(yán)格的監(jiān)管，包括限制可被視為“高風(fēng)險(xiǎn)”的系統(tǒng)，只有被劃歸為“高風(fēng)險(xiǎn)”的系統(tǒng)才會(huì)受到最嚴(yán)格的規(guī)則的約束。不會(huì)將所有 GPAI 歸類為高風(fēng)險(xiǎn)，而是會(huì)采用兩層系統(tǒng)和執(zhí)法例外。

這仍然沒有讓所有批評(píng)者滿意。法國總統(tǒng)馬克龍（Emmanuel Macron）對(duì)這些規(guī)則進(jìn)行了攻擊，稱《人工智能法案》創(chuàng)造了一個(gè)嚴(yán)格的監(jiān)管環(huán)境，阻礙了創(chuàng)新。

貝萊特表示，一些新的歐洲人工智能公司可能會(huì)發(fā)現(xiàn)，在現(xiàn)行規(guī)則下，籌集資金有點(diǎn)困難，這把優(yōu)勢拱手讓給了美國，歐洲以外的公司甚至可能選擇避開該地區(qū)。這也是歐洲在非人工智能技術(shù)行業(yè)遵循法規(guī)時(shí)面臨的潛在風(fēng)險(xiǎn)。

一種立場

《人工智能法案》回避了一些圍繞生成人工智能最具爭議的問題。例如，基于公開數(shù)據(jù)訓(xùn)練的人工智能模型已成為各組織爭論的一大焦點(diǎn)，這些數(shù)據(jù)可能受版權(quán)保護(hù)，且可能是敏感數(shù)據(jù)。然而，該法案并未就數(shù)據(jù)收集制定新的法律。

盡管歐盟率先通過《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，GDPR）制定了數(shù)據(jù)保護(hù)法，但其人工智能法規(guī)并不禁止公司收集信息，只是要求公司遵循GDPR準(zhǔn)則。

“根據(jù)規(guī)定，公司可能必須提供透明度摘要或數(shù)據(jù)營養(yǎng)標(biāo)簽，”數(shù)字貿(mào)易和數(shù)據(jù)治理中心主任、喬治華盛頓大學(xué)國際事務(wù)研究教授蘇珊·阿里爾·阿倫森 (Susan Ariel Aaronson) 表示，“但這并不會(huì)真正改變公司圍繞數(shù)據(jù)的行為?！?/p>

阿倫森指出，《人工智能法案》仍未明確公司應(yīng)如何處理模型訓(xùn)練數(shù)據(jù)中受版權(quán)保護(hù)的材料，只是指出開發(fā)人員應(yīng)遵循現(xiàn)有的版權(quán)法（這在人工智能周圍留下了許多灰色地帶）。因此，它沒有激勵(lì)人工智能模型開發(fā)人員避免使用受版權(quán)保護(hù)的數(shù)據(jù)。

該法案也不會(huì)對(duì)開源開發(fā)者、研究人員和價(jià)值鏈下游的小公司實(shí)施可能的嚴(yán)厲罰款——這一決定受到了該領(lǐng)域開源開發(fā)者的稱贊。

GitHub首席法務(wù)官雪萊·麥金利（Shelley McKinley）表示，這是開放式創(chuàng)新，致力于幫助解決一些社會(huì)最緊迫問題的開發(fā)人員的積極發(fā)展?！保℅itHub是一個(gè)開源開發(fā)中心，是微軟的子公司。）

觀察人士認(rèn)為，該法案目前能產(chǎn)生的最大影響可能是迫使其他政治人物，特別是美國決策者加快行動(dòng)。這并不是人工智能的第一個(gè)主要監(jiān)管框架，今年7月，中國通過了針對(duì)人工智能服務(wù)提供商的指導(dǎo)方針。雖然《人工智能法案》可能仍會(huì)發(fā)生變化，但阿倫森表示，這至少表明歐盟已經(jīng)傾聽并回應(yīng)了公眾對(duì)該技術(shù)的擔(dān)憂。

貝克·麥堅(jiān)時(shí)（Baker McKenzie）律師事務(wù)所數(shù)據(jù)隱私和信息技術(shù)合伙人洛薩·德特曼（Lothar Determann）表示，它建立在現(xiàn)有數(shù)據(jù)法規(guī)的基礎(chǔ)上，這一事實(shí)也可能鼓勵(lì)政府評(píng)估他們已經(jīng)制定的法規(guī)。數(shù)據(jù)隱私平臺(tái)OneTrust首席戰(zhàn)略官布萊克·布蘭農(nóng)（Blake Brannon）表示，更成熟的人工智能公司會(huì)根據(jù)GDPR等法律制定隱私保護(hù)準(zhǔn)則，并期待更嚴(yán)格的政策。他表示，根據(jù)公司的不同，《人工智能法案》是對(duì)現(xiàn)有戰(zhàn)略的“補(bǔ)充”。

相比之下，美國盡管擁有Meta、亞馬遜、Adobe、谷歌、Nvidia和OpenAI等主要參與者，但在人工智能監(jiān)管方面基本上未能落地。迄今為止，其最大的舉措是拜登政府發(fā)布行政命令，指示政府機(jī)構(gòu)制定安全標(biāo)準(zhǔn)，并以大型人工智能企業(yè)簽署的自愿、不具約束力的協(xié)議為基礎(chǔ)。

參議院提出的少數(shù)法案主要圍繞深度偽造（Deepfake，如AI換臉），而參議員查克·舒默（Chuck Schumer，紐約州民主黨）舉辦的閉門人工智能論壇幾乎沒有明確說明政府在管理該技術(shù)方面的方向。

現(xiàn)在，政策制定者可以參考?xì)W盟的做法并從中汲取經(jīng)驗(yàn)。這并不意味著美國將采取同樣冒險(xiǎn)的方法，但它可能會(huì)尋求擴(kuò)大數(shù)據(jù)透明度規(guī)則或允許GPAI模型更加寬松。

美國AI監(jiān)管平臺(tái)公司Credo AI創(chuàng)始人、國家人工智能咨詢委員會(huì)成員納夫里娜·辛格（Navrina Singh）認(rèn)為，雖然《人工智能法案》對(duì)于人工智能治理來說是一個(gè)重要時(shí)刻，但事情不會(huì)迅速改變，未來仍有大量工作要做。

辛格在一份聲明中稱：“美國和歐洲的監(jiān)管機(jī)構(gòu)的重點(diǎn)應(yīng)該是協(xié)助各種規(guī)模的組織安全設(shè)計(jì)、開發(fā)和部署人工智能，既透明又負(fù)責(zé)?！彼a(bǔ)充說，仍然缺乏標(biāo)準(zhǔn)和基準(zhǔn)測試流程，特別是在透明度方面。

盡管《人工智能法案》尚未最終確定，但大多數(shù)歐盟國家承認(rèn)這是他們想要走的方向。該法案不會(huì)追溯性地監(jiān)管現(xiàn)有模型或App，但OpenAI的GPT、Meta的Llama或谷歌的Gemini的未來版本將需要考慮歐盟設(shè)定的透明度要求?！度斯ぶ悄芊ò浮房赡懿粫?huì)在一夜之間產(chǎn)生巨大的影響，但它表明了歐盟在人工智能方面的立場。