談判終于搞定了,！

圖片來源：由 無界 AI 生成

經(jīng)過數(shù)月的游說和政治角力,，以及近 40 個小時的艱苦談判,，歐盟立法者終于在上周末就全球首個 AI 監(jiān)管法案《人工智能法案》（AI Act）達成了初步協(xié)議,。

該立法草案涉及包括 ChatGPT,、Bard 在內(nèi)的生成式人工智能系統(tǒng)。盡管它仍需得到歐盟成員國和議會的正式批準(zhǔn),，但在美國國會沒有任何顯著動作的情況下,，這項協(xié)議意味著歐盟朝著具有里程碑意義的人工智能政策邁出了關(guān)鍵一步。

據(jù)悉,，該法案將全面監(jiān)管人工智能,，減輕 AI 對基本權(quán)利構(gòu)成最大風(fēng)險的領(lǐng)域的傷害，例如醫(yī)療保健,、教育,、邊境監(jiān)控和公共服務(wù)，并禁止使用人工智能構(gòu)成“不可接受的風(fēng)險”,。

同時,，該法案要求“高風(fēng)險”人工智能系統(tǒng)必須遵守嚴(yán)格的規(guī)則，這些規(guī)則需要風(fēng)險緩解系統(tǒng),、高質(zhì)量的數(shù)據(jù)集,、更好的文檔以及人工監(jiān)督。但是絕大多數(shù) AI 應(yīng)用,，如推薦系統(tǒng)和垃圾郵件過濾器等,，則將獲得免費通行證。

對于人工智能這個仍處于“狂野西部”且極具影響力的行業(yè)來說,，《人工智能法案》可能將成為世界上第一部全面的人工智能法律,，為其引入重要的規(guī)則和執(zhí)行機制。

那么,，對于這項法案,，我們需要了解哪些重點信息？

在透明度和道德方面引入約束性規(guī)則

科技公司喜歡談?wù)撍麄儗θ斯ぶ悄艿赖碌某兄Z,，但當(dāng)涉及到具體措施時,，談話就變得枯澀乏味了。

事實勝于雄辯,。實際上,，科技公司可以隨時決定改變其人工智能道德政策。眾所皆知,，OpenAI 最初是一個“開放”的人工智能研究實驗室,，但后來為了保護自己的競爭優(yōu)勢,，像所有其他人工智能初創(chuàng)公司一樣，關(guān)閉了對其研究的公眾訪問,。

但是《人工智能法案》將改變這一現(xiàn)狀,。

據(jù)彭博社獲得的一份歐盟文件，所有通用人工智能系統(tǒng)的開發(fā)人員（具有廣泛用途的強大模型）都必須滿足基本的透明度要求,，除非這些系統(tǒng)是免費開源的,，其中包括制定可接受的使用政策、隨時更新有關(guān)模型訓(xùn)練的信息,、報告用于訓(xùn)練其模型的數(shù)據(jù)的詳細(xì)摘要等,。

在遵守版權(quán)法方面，該法規(guī)要求科技公司對深度偽造和人工智能生成的內(nèi)容進行標(biāo)記,，并以一種可以檢測到 AI 生成的媒體的方式設(shè)計系統(tǒng),。此舉比 AI 公司向美國白宮做出自愿承諾的舉措更進一步，因為后者僅僅是開發(fā)水印等人工智能溯源工具,。

另一方面,，該法案還要求所有提供保險和銀行等基本服務(wù)的組織，對使用人工智能系統(tǒng)將如何影響人們的基本權(quán)利進行影響評估,。

AI 公司仍有很大回旋空間

在一個后 ChatGPT 時代,，歐盟立法者認(rèn)為他們必須在監(jiān)管中考慮到通用人工智能模型。對此,，圍繞“應(yīng)該對哪種模型進行監(jiān)管,，以及監(jiān)管是否會扼殺創(chuàng)新”等問題，行業(yè)內(nèi)出現(xiàn)了激烈的爭論,。

法國和德國曾表示，擔(dān)心對通用人工智能模型實施過多監(jiān)管,，可能會扼殺法國 Mistral AI 或德國 Aleph Alpha 等 AI 初創(chuàng)企業(yè),。

正如上面提到的，《人工智能法案》要求基礎(chǔ)模型和建立在其之上的通用人工智能系統(tǒng)遵守歐盟版權(quán)法,，并分享更多關(guān)于模型訓(xùn)練數(shù)據(jù)的信息,。但是，對于被認(rèn)為會構(gòu)成“系統(tǒng)性風(fēng)險”的模型將受到額外規(guī)則的約束,。簡而言之,，科技公司必須分享其人工智能模型的安全性和能源效率。

據(jù)文件顯示,，歐盟將根據(jù)訓(xùn)練模型的計算能力來確定是否存在風(fēng)險,，為模型設(shè)定的閾值為每秒超過 10 萬億次運算。有專家指出,，目前唯一能達到這一門檻的模型是 OpenAI 的 GPT-4,。

除此以外,，歐盟執(zhí)行機構(gòu)還可以根據(jù)數(shù)據(jù)集的規(guī)模來確定其他機構(gòu)，例如是否在歐盟擁有至少 1 萬名注冊商業(yè)用戶,、注冊用戶的最終數(shù)量等可能的指標(biāo),。

而在歐盟委員會制定出更協(xié)調(diào)且長期有效的控制措施期間，一些“能力更強”的模型應(yīng)該簽署行為準(zhǔn)則,。至于沒有簽署行為準(zhǔn)則的公司,，則必須向歐盟委員會證明它們的模型會遵守《人工智能法案》。這些模型必須滿足如下要求：

• 主動報告自身能源消耗情況
• 在內(nèi)部或外部進行紅隊測試/對抗性測試
• 評估和減輕可能的系統(tǒng)性風(fēng)險,，并報告任何事件
• 確保使用適當(dāng)?shù)木W(wǎng)絡(luò)安全控制措施
• 報告用于微調(diào)模型的信息以及系統(tǒng)結(jié)構(gòu)
• 如果制定了更節(jié)能的標(biāo)準(zhǔn),，需要符合新的標(biāo)準(zhǔn)

值得一提的是，對開源模型的豁免并不適用于那些被認(rèn)為會帶來系統(tǒng)性風(fēng)險的模型,。

然而,，上述要求雖然嚴(yán)格，卻有一個問題：該法案的妥協(xié)方案是,，對最強大的 AI 模型應(yīng)用一套更嚴(yán)格的規(guī)則（主要根據(jù)訓(xùn)練它們所需的算力分類）,，但是科技公司實際上可以自行評估是否需要遵守。

對此,，歐盟委員會（European Commission）的一名官員不愿證實,，目前的限制是否會涵蓋 OpenAI 的 GPT-4 或谷歌的 Gemini 等強大模型，因為只有這些公司自己知道,，在訓(xùn)練它們的模型時使用了多少算力,。不過，這位官員也明確表示,，隨著技術(shù)的發(fā)展,，歐盟可能會改變衡量 AI 模型強大程度的方式。

歐盟將成為全球第一個 AI 警察

根據(jù)《人工智能法案》,，歐盟將設(shè)立一個新的歐洲人工智能辦公室,，以協(xié)調(diào)合規(guī)、實施和執(zhí)法,。它將成為全球第一個對人工智能執(zhí)行約束性規(guī)則的機構(gòu),。該法案的治理機制還包括一個由獨立專家組成的科學(xué)小組，負(fù)責(zé)就人工智能帶來的系統(tǒng)性風(fēng)險,，以及如何對模型進行分類和測試提供指導(dǎo),。

此外，對于違規(guī)行為,，該法案制定了很高的罰款金額：從公司全球銷售額的 1.5% 到 7% 不等,，具體取決于違規(guī)的嚴(yán)重程度和公司規(guī)模。

隨著該法案初步達成協(xié)議，歐盟保留了先發(fā)優(yōu)勢,，就像《通用數(shù)據(jù)保護條例》（GDPR）一樣,，《人工智能法案》也可能成為全球標(biāo)準(zhǔn)，其他地方的公司想要在世界第二大經(jīng)濟體開展業(yè)務(wù),，就必須遵守這項法律,。相比之下，歐盟的規(guī)則比美國出臺的規(guī)則（例如白宮行政命令）更進一步,，因為它們具有約束力,。基于此,，歐洲也將成為世界上第一個公民能夠?qū)θ斯ぶ悄芟到y(tǒng)提起投訴的地方,。

安全是重中之重

目前，一些人工智能用途在歐盟被完全禁止：

• 使用敏感特征的生物識別分類系統(tǒng)
• 從互聯(lián)網(wǎng)或閉路電視錄像中無目的地抓取面部圖像,，以創(chuàng)建 Clearview AI 等面部識別數(shù)據(jù)庫
• 工作或?qū)W校中的情緒識別
• 社會評分
• 操縱人類行為的人工智能系統(tǒng)
• 用于利用人類弱點的人工智能

歐盟委員會的一名官員表示,，預(yù)測性監(jiān)管也被禁止，除非它是在“明確的人類評估和客觀事實的基礎(chǔ)上使用的,，這種評估基本上不會僅僅因為算法的指示,，就決定在刑事調(diào)查中決定追捕某個人”。

然而,，《人工智能法案》不適用于專門為軍事和國防用途開發(fā)的人工智能系統(tǒng),。

關(guān)于該法案爭論之一是，如何規(guī)范警察在公共場所使用生物識別系統(tǒng),，許多人擔(dān)心這可能會導(dǎo)致大規(guī)模監(jiān)視,。盡管歐洲議會（European Parliament）推動完全禁止該技術(shù)，但法國等一些歐盟國家對此表示強烈反對,，后者想要利用它來打擊犯罪和恐怖主義,。

因此，歐洲警方只有在獲得法院批準(zhǔn)后,，才能在公共場所使用生物識別系統(tǒng),，而且只能針對恐怖主義、販賣人口,、性剝削兒童和販毒等 16 種不同的特定犯罪。此外,，執(zhí)法部門也可能在“與公共安全有關(guān)的特殊情況下”使用不符合歐洲標(biāo)準(zhǔn)的高風(fēng)險人工智能系統(tǒng),。

接下來會如何呢？

可能需要幾周甚至幾個月的時間,，公眾才能看到這項法案的最終措辭,。毫無疑問的是，法案內(nèi)容仍需經(jīng)過技術(shù)上的修改，并且必須得到歐盟成員國和議會的批準(zhǔn),，才能正式成為法律,。但該協(xié)議的達成或許為快速發(fā)展的 AI 技術(shù)的監(jiān)管定下了基調(diào)。

參考資料：

https://www.technologyreview.com/2023/12/11/1084942/five-things-you-need-to-know-about-the-eus-new-ai-act/

https://www.bloomberg.com/news/articles/2023-12-09/new-eu-ai-regulations-what-do-they-mean-for-models-like-chatgpt