本報記者 秦梟 北京報道

在給人們帶來驚喜之余,，AI也衍生出了數(shù)據(jù)泄露,、電信詐騙、個人隱私風險等問題,。對此,，各國紛紛制定相關(guān)政策法規(guī),，規(guī)范AI的使用。在國內(nèi),，此前國家網(wǎng)信辦,、國家發(fā)展和改革委員會（以下簡稱“國家發(fā)展改革委”）等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》；美國此前也發(fā)布了一系列監(jiān)管文件,。

在較早將AI監(jiān)管議題提上日程的歐洲地區(qū),，AI監(jiān)管法案也將落地。此前,，歐洲議會曾通過了《人工智能法案》（AI Act）談判授權(quán)草案。但法案的后續(xù)談判進行了6個月之久,，這也讓外界產(chǎn)生了歐盟是否會在AI領(lǐng)域落后的擔憂,。

不過，據(jù)外媒最新消息,，歐洲議會,、歐盟成員國和歐盟委員會的談判代表已就生成式人工智能工具的一系列控制措施達成一致?！吨袊?jīng)營報》記者注意到,，其中就包括在全球關(guān)注度都很高的OpenAI的ChatGPT和谷歌的Bard。

狂歡下的隱憂

從去年年底由OpenAI研發(fā)的ChatGPT引發(fā)的AI浪潮,，其發(fā)展速度超出了所有人的預期,，對各個行業(yè)的滲透性、擴散性和顛覆性與日俱增,，特別是以預訓練大模型,、AI for Science等為代表的新興技術(shù)正在引發(fā)新一輪 AI 創(chuàng)新熱潮。伴隨大模型帶來的生成式 AI 突破,，科技,、經(jīng)濟、社會等領(lǐng)域也有望迎來深刻變革,。

這種顛覆性主要體現(xiàn)在,，大模型的技術(shù)迅速迭代，打破了原有AI技術(shù)發(fā)展的上限,，呈現(xiàn)出數(shù)據(jù)巨量化,、模型通用化、應(yīng)用模式中心化等特點,，以“無限生產(chǎn)”的能力重塑企業(yè)生產(chǎn)引擎,，推動生產(chǎn)效率顛覆式提升。從全球范圍看,，世界各地均在積極推動大模型研發(fā)和應(yīng)用,。

但與此同時，關(guān)于AI監(jiān)管的問題討論也一直在持續(xù)。

當前,，生成式AI的快速發(fā)展與相關(guān)法律法規(guī),、標準體系和倫理規(guī)范的建立存在矛盾。隱私與數(shù)據(jù)保護風險,、著作權(quán)侵權(quán)風險,、深度偽造風險、失業(yè)加劇風險,，以及歧視與偏見風險等問題正在不斷暴露,。

隨著問題的凸顯，各國也把對于AI的監(jiān)管提上日程,。斯坦福大學發(fā)布的《2023年人工智能指數(shù)報告》中提到,，對127個國家的立法記錄調(diào)研的結(jié)果顯示，包含“人工智能”的法案被通過成為法律的數(shù)量,，從2016年的僅1個增長到2022年的37個,。該報告對自2016年以來81個國家的人工智能法律法規(guī)記錄的分析也同樣表明，全球立法程序中提及人工智能的次數(shù)增加了近6.5倍,。

除了中美兩國之外,，歐盟在推動AI立法監(jiān)管上則相對緩慢。

2023年6月,，歐洲議會以499票贊成,、28票反對和93票棄權(quán)，高票通過了《人工智能法案》談判授權(quán)草案,。按照歐盟立法程序,，在此之后，歐洲議會,、歐盟成員國和歐盟委員會在進行“三方談判”后,，以確定法案的最終條款。

據(jù)悉,，上述草案包括用于監(jiān)管基礎(chǔ)模型的分級管理方法，基礎(chǔ)模型的定義是擁有超過4500萬用戶的模型,。聊天機器人ChatGPT被定義為非常有能力的基礎(chǔ)模型（very capable foundation models,，簡稱VCFM），VCFM需承擔額外的義務(wù),，包括定期審查以發(fā)現(xiàn)潛在漏洞,。

值得注意的是，針對上述法案的談判進行了6個月之久,。爭議之處是如何在保護自家的人工智能初創(chuàng)企業(yè)與潛在的社會風險之間找到平衡,。包括法國和德國在內(nèi)的一些歐盟國家反對這些規(guī)定，稱它們會不必要地阻礙本土企業(yè)。

對此,，谷歌全球總裁兼首席法律官肯特·沃克（Kent Walker）表示,，歐盟應(yīng)該以最好的AI規(guī)則為目標，而不是制定出第一部AI法規(guī),。他表示：“技術(shù)領(lǐng)先地位需要在創(chuàng)新和監(jiān)管之間取得平衡,。監(jiān)管機構(gòu)不應(yīng)對人工智能發(fā)展進行限制，而是在違反公眾信任時追究其責任,?！?/p>

肯特·沃克說：“我們早就說過，AI太重要了,，既不能放任不管,，也不能不好好監(jiān)管。監(jiān)管機構(gòu)應(yīng)競相制定最好的AI法規(guī),，而不是第一個AI法規(guī),。”

OpenAI首席執(zhí)行官薩姆·奧特曼（Sam Altman）也認為：“我們不需要嚴格的監(jiān)管,，未來幾代人可能也不需要,。但在某種程度上，當一個AI模型可以提供的產(chǎn)出相當于整個公司,、整個國家或整個世界時,，也許我們確實需要一些集體監(jiān)督?！?/p>

不過,，荷蘭數(shù)字化大臣Alexandra Van Huffelen表示：“歐盟必須在今年年底前達成協(xié)議，尤其是在通用人工智能方面,。全世界都在關(guān)注我們,，公民、利益相關(guān)者,、非政府組織和私營部門都希望我們就人工智能達成一項有意義的立法,。”

而在政治風險咨詢公司Eurasia Group的科技政策分析師尼克·萊納斯（Nick Reiners）看來,，“歐盟人工智能法案很難成為行業(yè)監(jiān)管的全球黃金標準,，在明年歐洲議會選舉之前可能無法達成一致，在周三的最后一輪談判中,，需要敲定的事情實在太多了,，即使他們按預期工作到深夜，可能也要推遲到明年了,?！?/p>

監(jiān)管成全球共識

不僅是在歐洲,，生成式AI的倫理和安全治理已經(jīng)成為全球 AI 領(lǐng)域普遍關(guān)注的議題。

在中國,，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委,、教育部、科技部,、工業(yè)和信息化部,、公安部等七部門于2023年7月13日聯(lián)合公布了《生成式人工智能服務(wù)管理暫行辦法》，堅持發(fā)展與安全并重的原則,，鼓勵創(chuàng)新與治理相結(jié)合,，實施了包容審慎和分類分級的監(jiān)管措施，旨在提高監(jiān)管的高效性,、精確性和敏捷性,，并于2023年8月15日開始施行。

美國則發(fā)布了一系列自愿性標準,，如《AI風險管理框架》和《AI權(quán)利法案藍圖》,，重點強調(diào) AI 的創(chuàng)新和發(fā)展，傾向于采用組織自愿遵守的指南,、框架或標準等方式進行 AI 應(yīng)用的軟治理,。

此外，在2023年10月,，聯(lián)合國也成立了一個高級別人工智能咨詢機構(gòu),，專門針對AI技術(shù)帶來的風險和機遇進行探討，同時為國際社會加強治理提供支持,。

在此前舉辦的人工智能安全峰會（AI Safety Summit）上,，美國、中國,、歐盟等28個國家的代表和企業(yè)簽署了《布萊切利人工智能安全宣言》,，這份宣言重申了“以人為中心、可信任的和負責任的”（human-centric, trustworthy and responsible）AI發(fā)展模式,，呼吁國際社會的合作,，并強調(diào)AI的實施以保障人權(quán)和實現(xiàn)聯(lián)合國可持續(xù)發(fā)展目標為目的。

中國科技部副部長吳朝暉在此次峰會上表示,，人工智能治理是全球各國共同面臨的重要課題,。他強調(diào)，在發(fā)展人工智能的同時,，應(yīng)當積極倡導以人為本，智能向善,，加強技術(shù)風險管控,。同時,，吳朝暉還提出了增強發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)的建議，以彌合智能鴻溝和治理能力差距,。

中國科學院自動化研究所研究員曾毅認為,，雖然先進人工智能有可能通過解決當前健康、教育,、環(huán)境、科學等領(lǐng)域的未解挑戰(zhàn),，但創(chuàng)造這些好處的人工智能系統(tǒng),，本身的屬性也成了巨大的風險來源。當規(guī)模更大,、不確定性更大的模型向所有人開放時,，誤用、濫用問題將不僅是人工智能科學家面臨的挑戰(zhàn),，也是全世界面臨的挑戰(zhàn),。他還提出：“我們需要建立一個涵蓋全世界的人工智能安全網(wǎng)絡(luò)，以解決不可預知的進展和失敗,?！?/p>