來(lái)源：烏鴉智能說(shuō)

周一發(fā)布的一份美國(guó)政府委托報(bào)告顯示,，美國(guó)政府必須”迅速果斷”采取行動(dòng)，避免人工智能（AI）潛在的重大國(guó)家安全風(fēng)險(xiǎn),。

“當(dāng)前人工智能前沿發(fā)展對(duì)國(guó)家安全構(gòu)成的風(fēng)險(xiǎn)，緊迫且日益增長(zhǎng),?！薄稌r(shí)代》周刊在發(fā)布前獲得了這份報(bào)告?！跋冗M(jìn)人工智能和AGI（人工通用智能）的崛起有可能破壞全球安全的穩(wěn)定,，其威力不禁讓人想起上世紀(jì)的核武器。”AGI目前仍是一種假想技術(shù),。據(jù)傳,，AGI可以執(zhí)行大多數(shù)任務(wù)，達(dá)到或超過(guò)人類的水平,。這種系統(tǒng)尚未出世,，但領(lǐng)先的人工智能實(shí)驗(yàn)室正在加緊研發(fā)相關(guān)技術(shù)。許多人預(yù)計(jì)這將在未來(lái)五年或更短時(shí)間內(nèi)成為現(xiàn)實(shí),。

撰寫報(bào)告的三位作者花了一年多的時(shí)間與200多名政府雇員,、專家和前沿人工智能公司的工作人員進(jìn)行了交談，例如OpenAI,GoogleDeepMind,Anthropic和Meta等公司的研發(fā)人員,。與專家的談話傳遞了很多讓人不安的訊息,，頂尖實(shí)驗(yàn)室中的許多人工智能安全工作者認(rèn)為，公司高管在決策過(guò)程中采取的部分激勵(lì)措施過(guò)于激進(jìn),。

這份題為《提高先進(jìn)人工智能安全性的行動(dòng)計(jì)劃》（AnActionPlantoIncreasetheSafetyandSecurityofAdvancedAI）的文件建議,，政府應(yīng)當(dāng)采取一系列監(jiān)管AI發(fā)展的政策，而這些政策一經(jīng)頒布,，將從根本上顛覆現(xiàn)有人工智能產(chǎn)業(yè),。報(bào)告建議,，國(guó)會(huì)應(yīng)將訓(xùn)練超過(guò)規(guī)定算力的人工智能模型定性為非法行為。報(bào)告建議成立一個(gè)新的聯(lián)邦人工智能機(jī)構(gòu)來(lái)設(shè)定算力標(biāo)準(zhǔn),，將這一門檻設(shè)定在略高于目前用于訓(xùn)練OpenAI的GPT-4等尖端模型的計(jì)算能力水平之上,。報(bào)告還說(shuō)，新的人工智能機(jī)構(gòu)應(yīng)要求處于行業(yè)”前沿”的人工智能公司在訓(xùn)練和部署新模型時(shí)獲得政府許可,，使其高于某個(gè)較低的門檻,。報(bào)告稱，當(dāng)局還應(yīng)”緊急”考慮禁止公布強(qiáng)大的人工智能模型的”權(quán)重”或內(nèi)部工作原理,，例如在開源許可下公布,，違者可能會(huì)被判處監(jiān)禁。報(bào)告建議,，政府應(yīng)進(jìn)一步加強(qiáng)對(duì)人工智能芯片制造和出口的控制,，并將聯(lián)邦資金用于”對(duì)齊”研究，使先進(jìn)的人工智能更加安全,。

根據(jù)公開記錄,，這份報(bào)告是美國(guó)國(guó)務(wù)院于2022年11月委托編寫的，隸屬于一份價(jià)值25萬(wàn)美元的聯(lián)邦合同,。該報(bào)告由格拉德斯通人工智能公司（GladstoneAI）撰寫,。該公司是一個(gè)專門為政府雇員提供人工智能技術(shù)簡(jiǎn)報(bào)的四人團(tuán)隊(duì)。(行動(dòng)計(jì)劃的部分內(nèi)容建議政府投入大量資金,，對(duì)官員進(jìn)行人工智能系統(tǒng)技術(shù)基礎(chǔ)方面的教育,，以便他們更好地了解其風(fēng)險(xiǎn)）。

報(bào)告文件共計(jì)247頁(yè),于2024年2月26日提交給國(guó)務(wù)院,。報(bào)告第一頁(yè)說(shuō),，這些建議“并不反映美國(guó)國(guó)務(wù)院或美國(guó)政府的觀點(diǎn)”。至今,，國(guó)務(wù)院尚未就該報(bào)告發(fā)表任何官方言論,。

這份報(bào)告中的建議主要針對(duì)人工智能行業(yè)目前的高速發(fā)展。2022年11月,，聊天機(jī)器人ChatGPT的橫空出世,，讓公眾開始撕開AI可能給人類社會(huì)帶來(lái)的生存風(fēng)險(xiǎn)。在世界各國(guó)政府緊急商議人工智能監(jiān)管政策的同時(shí),，世界上最大的科技公司也在加大力度建設(shè)基礎(chǔ)設(shè)施,，以訓(xùn)練更強(qiáng)大的AI系統(tǒng)–某些情況下，公司計(jì)劃使用10倍或100倍以上的計(jì)算能力,。與此同時(shí),，80%以上的美國(guó)公眾認(rèn)為人工智能可能會(huì)意外引發(fā)災(zāi)難性事件，77%的選民認(rèn)為政府應(yīng)該加大對(duì)人工智能的監(jiān)管力度。該份民意調(diào)查來(lái)自人工智能政策研究所,。

報(bào)告指出，嚴(yán)格規(guī)范人工智能系統(tǒng)的算力規(guī)格,，可能會(huì)”緩和現(xiàn)有人工智能開發(fā)者之間的競(jìng)爭(zhēng)態(tài)勢(shì)”,，并有助于降低芯片行業(yè)制造更快硬件的速度。報(bào)告建議,，隨著時(shí)間的推移,，一旦尖端模型的安全性得到充分證明，聯(lián)邦人工智能機(jī)構(gòu)可以提高門檻,，允許訓(xùn)練更先進(jìn)的人工智能系統(tǒng),。報(bào)告稱，同樣,，如果發(fā)現(xiàn)現(xiàn)有模型存在危險(xiǎn)能力,，政府也可以降低門檻。

但政府可能不會(huì)采納這份建議,。戰(zhàn)略與國(guó)際研究中心（CSIS）瓦德瓦尼人工智能與先進(jìn)技術(shù)中心主任格雷格-艾倫（GregAllen）在回應(yīng)《時(shí)代》周刊就報(bào)告中關(guān)于取締超過(guò)一定閾值的人工智能訓(xùn)練運(yùn)行的建議所提供的摘要時(shí)說(shuō)：“我認(rèn)為美國(guó)政府采納極有可能不會(huì)采納這份建議,。”他指出,，美國(guó)政府目前的人工智能政策是設(shè)定計(jì)算閾值,，超過(guò)該閾值則需要額外的透明度監(jiān)控和監(jiān)管要求，但并沒(méi)有設(shè)定超過(guò)該閾值的訓(xùn)練運(yùn)行即為非法的限制,。艾倫說(shuō)：“不出意外的話,，他們不太可能改變這種做法?！?/p>

自2021年起,，格萊斯頓公司（Gladstone）的首席執(zhí)行官和首席技術(shù)官，杰雷米-哈里斯（JeremieHarris）和愛德華-哈里斯（EdouardHarris）一直在向美國(guó)政府介紹人工智能的風(fēng)險(xiǎn),。他們說(shuō),，早期關(guān)注該事件的政府官員都認(rèn)為人工智能的風(fēng)險(xiǎn)很大，這些風(fēng)險(xiǎn)的責(zé)任應(yīng)分散到不同的團(tuán)隊(duì)或部門,。

哈里斯兄弟說(shuō),，2021年底，格萊斯頓終于找到了監(jiān)管人工智能風(fēng)險(xiǎn)的政府部門：國(guó)務(wù)院國(guó)際安全與防擴(kuò)散局,。國(guó)際安全與防擴(kuò)散局內(nèi)的各個(gè)小組承擔(dān)著跨機(jī)構(gòu)的任務(wù),，負(fù)責(zé)應(yīng)對(duì)新興技術(shù)帶來(lái)的風(fēng)險(xiǎn)，包括化學(xué)和生物武器以及放射性和核風(fēng)險(xiǎn),。在杰雷米和格萊斯頓公司當(dāng)時(shí)的首席執(zhí)行官馬克-比厄爾（MarkBeall）做簡(jiǎn)報(bào)后,，該局于2022年10月發(fā)出了一份報(bào)告招標(biāo)書，決定是否將人工智能加入其監(jiān)控的其他風(fēng)險(xiǎn)清單。(國(guó)務(wù)院沒(méi)有回應(yīng)就該決定結(jié)果發(fā)表評(píng)論的請(qǐng)求）,。格拉德斯通團(tuán)隊(duì)贏得了這份合同,，周一發(fā)布的報(bào)告就是其成果。

報(bào)告重點(diǎn)闡述了兩類不同的風(fēng)險(xiǎn),。報(bào)告將第一類風(fēng)險(xiǎn)稱為“武器化風(fēng)險(xiǎn)”：“這類系統(tǒng)有可能被用來(lái)設(shè)計(jì)甚至實(shí)施災(zāi)難性的生物,、化學(xué)或網(wǎng)絡(luò)攻擊，或在蜂群機(jī)器人技術(shù)中實(shí)現(xiàn)前所未有的武器化應(yīng)用”,。第二類是報(bào)告中所說(shuō)的”失控”風(fēng)險(xiǎn),，即先進(jìn)的人工智能系統(tǒng)可能超越其創(chuàng)造者。報(bào)告稱,，“我們有理由相信,，如果使用現(xiàn)有技術(shù)開發(fā)，它們可能無(wú)法控制,，并可能在默認(rèn)情況下對(duì)人類采取敵對(duì)行為”,。

報(bào)告稱，人工智能行業(yè)的”競(jìng)爭(zhēng)態(tài)勢(shì)”加劇了這兩類風(fēng)險(xiǎn),。最先研發(fā)人工智能的公司將獲得大部分的經(jīng)濟(jì)利潤(rùn),，因此他們會(huì)優(yōu)先考慮發(fā)展速度而非相關(guān)安全議題。”報(bào)告說(shuō)：“前沿人工智能實(shí)驗(yàn)室面臨著一種強(qiáng)烈而直接的激勵(lì),，鞭策他們盡可能快地?cái)U(kuò)展其人工智能系統(tǒng),。“與AI相關(guān)的安全安保措施不會(huì)帶來(lái)經(jīng)濟(jì)利益,，鮮少有公司將錢花在這上面,。”

格拉德斯通報(bào)告指出,，硬件–特別是目前用于訓(xùn)練人工智能系統(tǒng)的高端計(jì)算機(jī)芯片–是提高人工智能能力的重要瓶頸,。報(bào)告認(rèn)為，規(guī)范這種硬件的擴(kuò)散可能是“保障人工智能長(zhǎng)期全球安全和安保的最重要要求”,。報(bào)告稱,，政府應(yīng)探索將芯片出口許可證與芯片技術(shù)掛鉤的可能性，以監(jiān)測(cè)芯片是否被用于大型人工智能訓(xùn)練運(yùn)行,，以此來(lái)執(zhí)行針對(duì)訓(xùn)練規(guī)模超過(guò)GPT-4的人工智能系統(tǒng)的擬議規(guī)則,。不過(guò)，報(bào)告也指出,，美國(guó)也應(yīng)謹(jǐn)慎過(guò)度監(jiān)管可能會(huì)促進(jìn)外國(guó)芯片產(chǎn)業(yè)的發(fā)展,，從而削弱美國(guó)影響供應(yīng)鏈的能力。

報(bào)告還提出了一種可能性,，即宇宙不會(huì)眷顧那些試圖通過(guò)芯片阻止高級(jí)人工智能發(fā)展的人,。“隨著人工智能算法的不斷優(yōu)化，用較少的算力就能實(shí)現(xiàn)更多的人工智能功能,。隨著這一趨勢(shì)不斷增強(qiáng),，通過(guò)壟斷算力阻撓AI發(fā)展只是癡人說(shuō)夢(mèng)。鑒于此,，報(bào)告建議成立新的聯(lián)邦人工智能機(jī)構(gòu),，阻止相關(guān)研究成果的發(fā)表。當(dāng)然,，因?yàn)檫@會(huì)極大損害美國(guó)的人工智能產(chǎn)業(yè)，最終將難以落地,。

哈里斯夫婦在談話中認(rèn)識(shí)到,，他們的建議會(huì)讓人工智能行業(yè)的許多人覺得過(guò)于瘋狂。他們預(yù)計(jì),，禁止開源高級(jí)人工智能模型開源的建議不會(huì)受歡迎,。格拉德斯通公司首席技術(shù)官愛德華說(shuō)：“開源通常是一種美妙的愿景，將造福整個(gè)人類社會(huì),?！币岢鲞@樣的建議極具挑戰(zhàn)性，我們花了很多時(shí)間尋找方法來(lái)規(guī)避這樣的建議措施,。”CSIS的人工智能政策專家艾倫說(shuō),，他認(rèn)可開源人工智能讓政策制定者更難掌控風(fēng)險(xiǎn)的觀點(diǎn)。但他表示,，任何取締超過(guò)一定規(guī)模的模型開源的提議,，都需要考慮到美國(guó)法律的適用范圍有限這一事實(shí)。”他說(shuō)：“這是否意味著開源社區(qū)將遷往歐洲,？鑒于世界之大,，你必須考慮到這一點(diǎn)?！?/p>

報(bào)告作者說(shuō),，很多網(wǎng)民都已經(jīng)學(xué)會(huì)了如何跨越AI系統(tǒng)設(shè)置的安全防護(hù)欄獲使用更多存在爭(zhēng)議性的功能。埃杜阿德說(shuō)：“發(fā)布開源模型始終會(huì)面臨風(fēng)險(xiǎn),，但開源作為一種趨勢(shì)已經(jīng)不可逆轉(zhuǎn),，我們能做的只有承擔(dān)風(fēng)險(xiǎn)”

該報(bào)告的第三位合著者、前國(guó)防部官員比厄爾后來(lái)離開了格萊斯頓,，創(chuàng)辦了一個(gè)旨在支持人工智能政策的超級(jí)政治行動(dòng)委員會(huì),。該政治行動(dòng)委員會(huì)名為“美國(guó)人支持人工智能安全”（AmericansforAISafety），于本周一正式成立,。該組織在給《時(shí)代》周刊的一份聲明中說(shuō),，它的目標(biāo)是使人工智能安全和安保成為“2024年美國(guó)大選中的一個(gè)關(guān)鍵問(wèn)題，目標(biāo)是在2024年底之前通過(guò)人工智能安全立法”。PAC沒(méi)有透露其融資信息,，但表示“已經(jīng)設(shè)定了籌集數(shù)百萬(wàn)美元以完成使命的目標(biāo)”,。

在與Beall共同創(chuàng)辦Gladstone之前，哈里斯兄弟經(jīng)營(yíng)著一家人工智能公司,，該公司通過(guò)了硅谷著名孵化器YCombinator的審核,，當(dāng)時(shí)由OpenAI首席執(zhí)行官山姆-奧特曼（SamAltman)掌舵。這對(duì)兄弟將這作為他們以行業(yè)利益為重的證據(jù),，盡管他們的建議一旦實(shí)施,，將顛覆整個(gè)AI產(chǎn)業(yè)。”杰雷米告訴《時(shí)代》周刊：“快速行動(dòng),，打破常規(guī),，這是我們的人生信條。我們就是在這種理念的熏陶下成長(zhǎng)起來(lái)的,?！钡f(shuō)，當(dāng)你的行動(dòng)可能帶來(lái)巨大的負(fù)面影響時(shí),，這一信條就不再適用了,。”他說(shuō),，“我們現(xiàn)在正在設(shè)計(jì)的系統(tǒng)正在朝著超級(jí)智能的方向前行,，某種程度上，這種級(jí)別的科技很有可能被武器化,，帶來(lái)不可估量的影響,。不過(guò)還有什么更糟的呢？無(wú)非就是某一天,，AI突然不受控制,，屆時(shí)，我們就會(huì)全面禁止AI,，不再享受這項(xiàng)科技的福利,。”