談判終于搞定了！

圖片來(lái)源：由 無(wú)界 AI 生成

經(jīng)過數(shù)月的游說和政治角力，以及近 40 個(gè)小時(shí)的艱苦談判,，歐盟立法者終于在上周末就全球首個(gè) AI 監(jiān)管法案《人工智能法案》（AI Act）達(dá)成了初步協(xié)議。

該立法草案涉及包括 ChatGPT,、Bard 在內(nèi)的生成式人工智能系統(tǒng),。盡管它仍需得到歐盟成員國(guó)和議會(huì)的正式批準(zhǔn)，但在美國(guó)國(guó)會(huì)沒有任何顯著動(dòng)作的情況下,，這項(xiàng)協(xié)議意味著歐盟朝著具有里程碑意義的人工智能政策邁出了關(guān)鍵一步,。

據(jù)悉，該法案將全面監(jiān)管人工智能,，減輕 AI 對(duì)基本權(quán)利構(gòu)成最大風(fēng)險(xiǎn)的領(lǐng)域的傷害,，例如醫(yī)療保健、教育,、邊境監(jiān)控和公共服務(wù),，并禁止使用人工智能構(gòu)成“不可接受的風(fēng)險(xiǎn)”。

同時(shí),，該法案要求“高風(fēng)險(xiǎn)”人工智能系統(tǒng)必須遵守嚴(yán)格的規(guī)則,，這些規(guī)則需要風(fēng)險(xiǎn)緩解系統(tǒng)、高質(zhì)量的數(shù)據(jù)集,、更好的文檔以及人工監(jiān)督,。但是絕大多數(shù) AI 應(yīng)用，如推薦系統(tǒng)和垃圾郵件過濾器等,，則將獲得免費(fèi)通行證,。

對(duì)于人工智能這個(gè)仍處于“狂野西部”且極具影響力的行業(yè)來(lái)說，《人工智能法案》可能將成為世界上第一部全面的人工智能法律,，為其引入重要的規(guī)則和執(zhí)行機(jī)制,。

那么，對(duì)于這項(xiàng)法案,，我們需要了解哪些重點(diǎn)信息,？

在透明度和道德方面引入約束性規(guī)則

科技公司喜歡談?wù)撍麄儗?duì)人工智能道德的承諾，但當(dāng)涉及到具體措施時(shí),，談話就變得枯澀乏味了。

事實(shí)勝于雄辯,。實(shí)際上,，科技公司可以隨時(shí)決定改變其人工智能道德政策。眾所皆知,，OpenAI 最初是一個(gè)“開放”的人工智能研究實(shí)驗(yàn)室,，但后來(lái)為了保護(hù)自己的競(jìng)爭(zhēng)優(yōu)勢(shì)，像所有其他人工智能初創(chuàng)公司一樣,，關(guān)閉了對(duì)其研究的公眾訪問,。

但是《人工智能法案》將改變這一現(xiàn)狀。

據(jù)彭博社獲得的一份歐盟文件，所有通用人工智能系統(tǒng)的開發(fā)人員（具有廣泛用途的強(qiáng)大模型）都必須滿足基本的透明度要求,，除非這些系統(tǒng)是免費(fèi)開源的,，其中包括制定可接受的使用政策、隨時(shí)更新有關(guān)模型訓(xùn)練的信息,、報(bào)告用于訓(xùn)練其模型的數(shù)據(jù)的詳細(xì)摘要等,。

在遵守版權(quán)法方面，該法規(guī)要求科技公司對(duì)深度偽造和人工智能生成的內(nèi)容進(jìn)行標(biāo)記,，并以一種可以檢測(cè)到 AI 生成的媒體的方式設(shè)計(jì)系統(tǒng),。此舉比 AI 公司向美國(guó)白宮做出自愿承諾的舉措更進(jìn)一步，因?yàn)楹笳邇H僅是開發(fā)水印等人工智能溯源工具,。

另一方面,，該法案還要求所有提供保險(xiǎn)和銀行等基本服務(wù)的組織，對(duì)使用人工智能系統(tǒng)將如何影響人們的基本權(quán)利進(jìn)行影響評(píng)估,。

AI 公司仍有很大回旋空間

在一個(gè)后 ChatGPT 時(shí)代,，歐盟立法者認(rèn)為他們必須在監(jiān)管中考慮到通用人工智能模型。對(duì)此,，圍繞“應(yīng)該對(duì)哪種模型進(jìn)行監(jiān)管,，以及監(jiān)管是否會(huì)扼殺創(chuàng)新”等問題，行業(yè)內(nèi)出現(xiàn)了激烈的爭(zhēng)論,。

法國(guó)和德國(guó)曾表示,，擔(dān)心對(duì)通用人工智能模型實(shí)施過多監(jiān)管，可能會(huì)扼殺法國(guó) Mistral AI 或德國(guó) Aleph Alpha 等 AI 初創(chuàng)企業(yè),。

正如上面提到的,，《人工智能法案》要求基礎(chǔ)模型和建立在其之上的通用人工智能系統(tǒng)遵守歐盟版權(quán)法，并分享更多關(guān)于模型訓(xùn)練數(shù)據(jù)的信息,。但是,，對(duì)于被認(rèn)為會(huì)構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”的模型將受到額外規(guī)則的約束。簡(jiǎn)而言之,，科技公司必須分享其人工智能模型的安全性和能源效率,。

據(jù)文件顯示，歐盟將根據(jù)訓(xùn)練模型的計(jì)算能力來(lái)確定是否存在風(fēng)險(xiǎn),，為模型設(shè)定的閾值為每秒超過 10 萬(wàn)億次運(yùn)算,。有專家指出，目前唯一能達(dá)到這一門檻的模型是 OpenAI 的 GPT-4,。

除此以外,，歐盟執(zhí)行機(jī)構(gòu)還可以根據(jù)數(shù)據(jù)集的規(guī)模來(lái)確定其他機(jī)構(gòu)，例如是否在歐盟擁有至少 1 萬(wàn)名注冊(cè)商業(yè)用戶,、注冊(cè)用戶的最終數(shù)量等可能的指標(biāo),。

而在歐盟委員會(huì)制定出更協(xié)調(diào)且長(zhǎng)期有效的控制措施期間,，一些“能力更強(qiáng)”的模型應(yīng)該簽署行為準(zhǔn)則。至于沒有簽署行為準(zhǔn)則的公司,，則必須向歐盟委員會(huì)證明它們的模型會(huì)遵守《人工智能法案》,。這些模型必須滿足如下要求：

• 主動(dòng)報(bào)告自身能源消耗情況
• 在內(nèi)部或外部進(jìn)行紅隊(duì)測(cè)試/對(duì)抗性測(cè)試
• 評(píng)估和減輕可能的系統(tǒng)性風(fēng)險(xiǎn)，并報(bào)告任何事件
• 確保使用適當(dāng)?shù)木W(wǎng)絡(luò)安全控制措施
• 報(bào)告用于微調(diào)模型的信息以及系統(tǒng)結(jié)構(gòu)
• 如果制定了更節(jié)能的標(biāo)準(zhǔn),，需要符合新的標(biāo)準(zhǔn)

值得一提的是,，對(duì)開源模型的豁免并不適用于那些被認(rèn)為會(huì)帶來(lái)系統(tǒng)性風(fēng)險(xiǎn)的模型。

然而,，上述要求雖然嚴(yán)格,，卻有一個(gè)問題：該法案的妥協(xié)方案是，對(duì)最強(qiáng)大的 AI 模型應(yīng)用一套更嚴(yán)格的規(guī)則（主要根據(jù)訓(xùn)練它們所需的算力分類）,，但是科技公司實(shí)際上可以自行評(píng)估是否需要遵守,。

對(duì)此，歐盟委員會(huì)（European Commission）的一名官員不愿證實(shí),，目前的限制是否會(huì)涵蓋 OpenAI 的 GPT-4 或谷歌的 Gemini 等強(qiáng)大模型,，因?yàn)橹挥羞@些公司自己知道，在訓(xùn)練它們的模型時(shí)使用了多少算力,。不過,，這位官員也明確表示，隨著技術(shù)的發(fā)展,，歐盟可能會(huì)改變衡量 AI 模型強(qiáng)大程度的方式,。

歐盟將成為全球第一個(gè) AI 警察

根據(jù)《人工智能法案》，歐盟將設(shè)立一個(gè)新的歐洲人工智能辦公室,，以協(xié)調(diào)合規(guī),、實(shí)施和執(zhí)法。它將成為全球第一個(gè)對(duì)人工智能執(zhí)行約束性規(guī)則的機(jī)構(gòu),。該法案的治理機(jī)制還包括一個(gè)由獨(dú)立專家組成的科學(xué)小組,，負(fù)責(zé)就人工智能帶來(lái)的系統(tǒng)性風(fēng)險(xiǎn)，以及如何對(duì)模型進(jìn)行分類和測(cè)試提供指導(dǎo),。

此外,，對(duì)于違規(guī)行為，該法案制定了很高的罰款金額：從公司全球銷售額的 1.5% 到 7% 不等,，具體取決于違規(guī)的嚴(yán)重程度和公司規(guī)模,。

隨著該法案初步達(dá)成協(xié)議，歐盟保留了先發(fā)優(yōu)勢(shì),，就像《通用數(shù)據(jù)保護(hù)條例》（GDPR）一樣,，《人工智能法案》也可能成為全球標(biāo)準(zhǔn),，其他地方的公司想要在世界第二大經(jīng)濟(jì)體開展業(yè)務(wù)，就必須遵守這項(xiàng)法律,。相比之下,，歐盟的規(guī)則比美國(guó)出臺(tái)的規(guī)則（例如白宮行政命令）更進(jìn)一步,，因?yàn)樗鼈兙哂屑s束力,。基于此,，歐洲也將成為世界上第一個(gè)公民能夠?qū)θ斯ぶ悄芟到y(tǒng)提起投訴的地方,。

安全是重中之重

目前,，一些人工智能用途在歐盟被完全禁止：

• 使用敏感特征的生物識(shí)別分類系統(tǒng)
• 從互聯(lián)網(wǎng)或閉路電視錄像中無(wú)目的地抓取面部圖像,，以創(chuàng)建 Clearview AI 等面部識(shí)別數(shù)據(jù)庫(kù)
• 工作或?qū)W校中的情緒識(shí)別
• 社會(huì)評(píng)分
• 操縱人類行為的人工智能系統(tǒng)
• 用于利用人類弱點(diǎn)的人工智能

歐盟委員會(huì)的一名官員表示,，預(yù)測(cè)性監(jiān)管也被禁止,，除非它是在“明確的人類評(píng)估和客觀事實(shí)的基礎(chǔ)上使用的,，這種評(píng)估基本上不會(huì)僅僅因?yàn)樗惴ǖ闹甘?，就決定在刑事調(diào)查中決定追捕某個(gè)人”,。

然而,，《人工智能法案》不適用于專門為軍事和國(guó)防用途開發(fā)的人工智能系統(tǒng),。

關(guān)于該法案爭(zhēng)論之一是,，如何規(guī)范警察在公共場(chǎng)所使用生物識(shí)別系統(tǒng),，許多人擔(dān)心這可能會(huì)導(dǎo)致大規(guī)模監(jiān)視,。盡管歐洲議會(huì)（European Parliament）推動(dòng)完全禁止該技術(shù)，但法國(guó)等一些歐盟國(guó)家對(duì)此表示強(qiáng)烈反對(duì),，后者想要利用它來(lái)打擊犯罪和恐怖主義。

因此,，歐洲警方只有在獲得法院批準(zhǔn)后,，才能在公共場(chǎng)所使用生物識(shí)別系統(tǒng)，而且只能針對(duì)恐怖主義,、販賣人口、性剝削兒童和販毒等 16 種不同的特定犯罪,。此外,，執(zhí)法部門也可能在“與公共安全有關(guān)的特殊情況下”使用不符合歐洲標(biāo)準(zhǔn)的高風(fēng)險(xiǎn)人工智能系統(tǒng)。

接下來(lái)會(huì)如何呢,？

可能需要幾周甚至幾個(gè)月的時(shí)間,，公眾才能看到這項(xiàng)法案的最終措辭。毫無(wú)疑問的是，法案內(nèi)容仍需經(jīng)過技術(shù)上的修改，并且必須得到歐盟成員國(guó)和議會(huì)的批準(zhǔn)，才能正式成為法律,。但該協(xié)議的達(dá)成或許為快速發(fā)展的 AI 技術(shù)的監(jiān)管定下了基調(diào),。

參考資料：

https://www.technologyreview.com/2023/12/11/1084942/five-things-you-need-to-know-about-the-eus-new-ai-act/

https://www.bloomberg.com/news/articles/2023-12-09/new-eu-ai-regulations-what-do-they-mean-for-models-like-chatgpt