技術(shù)發(fā)展帶來(lái)難以預(yù)知的風(fēng)險(xiǎn)和挑戰(zhàn)全球人工智能發(fā)展步入治理軌道本報(bào)記者 趙陽(yáng)當(dāng)前,，全球人工智能技術(shù)快速發(fā)展,，對(duì)經(jīng)濟(jì)社會(huì)發(fā)展和人類(lèi)文明進(jìn)步產(chǎn)生深遠(yuǎn)影響,，給世界帶來(lái)巨大機(jī)遇。與此同時(shí),，人工智能技術(shù)也帶來(lái)難以預(yù)知的各種風(fēng)險(xiǎn)和復(fù)雜挑戰(zhàn),。今年以來(lái)，多個(gè)國(guó)家和地區(qū)聚焦人工智能的治理工作已陸續(xù)展開(kāi),。在全球開(kāi)啟科技競(jìng)爭(zhēng)的同時(shí),，各國(guó)人工智能治理體系也在迅速形成。技術(shù)濫用問(wèn)題引發(fā)擔(dān)憂1956年被公認(rèn)為人工智能元年,。從那時(shí)起至今60余年,，人工智能技術(shù)在經(jīng)歷兩次發(fā)展浪潮后，以去年11月30日ChatGPT深度學(xué)習(xí)技術(shù)的推出為標(biāo)志,，開(kāi)始催生出各種各樣的創(chuàng)新應(yīng)用,?？焖俚募夹g(shù)不斷顛覆人們的想象，但隨之而來(lái)的技術(shù)濫用問(wèn)題也引發(fā)擔(dān)憂,。11月7日,，日本《日經(jīng)亞洲評(píng)論》刊發(fā)的《人工智能正在放大東南亞新數(shù)字公民面臨的風(fēng)險(xiǎn)》一文,，就證明了這種擔(dān)憂不無(wú)道理。平臺(tái)經(jīng)濟(jì)的興起以及數(shù)字化的推進(jìn),，正在幫助東南亞新興市場(chǎng)跨越式地邁向現(xiàn)代化,。截至2022年,，東盟的互聯(lián)網(wǎng)人口達(dá)到4.6億，在過(guò)去3年新增了1億用戶,。其中3.7億人會(huì)在網(wǎng)上購(gòu)物,。這種跨越式發(fā)展令人興奮，但在技術(shù)發(fā)展的復(fù)雜時(shí)期,，人工智能尤其是生成式人工智能的興起，加劇了東南亞新上網(wǎng)人群受到的欺詐威脅,。文章介紹了一種常見(jiàn)的詐騙手段——“魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)”,，即向受害者發(fā)送看似真實(shí)的電子郵件,，其中包含鏈接，如果點(diǎn)擊這些鏈接,，就會(huì)觸發(fā)惡意軟件,。這類(lèi)騙局對(duì)東南亞社會(huì)弱勢(shì)群體的影響尤為嚴(yán)重。網(wǎng)絡(luò)安全公司Darktrace的數(shù)據(jù)顯示,，由于生成式人工智能助長(zhǎng)了欺詐行為，今年前兩個(gè)月,，電子郵件攻擊數(shù)量同比增長(zhǎng)135%,。文章認(rèn)為，網(wǎng)絡(luò)犯罪在東南亞已經(jīng)是一個(gè)緊迫的問(wèn)題,。根據(jù)IBM(國(guó)際商業(yè)機(jī)器公司)的數(shù)據(jù),，截至2022年，該地區(qū)網(wǎng)絡(luò)欺詐案件在全球所有同類(lèi)案件中占31%,。弗雷斯特研究公司去年進(jìn)行的一項(xiàng)調(diào)查顯示,，東南亞市場(chǎng)四分之三的企業(yè)決策者表示，過(guò)去一年受到了網(wǎng)絡(luò)欺詐的影響,。文章最后總結(jié)稱,，隨著東南亞數(shù)字經(jīng)濟(jì)參與者數(shù)量的激增，犯罪分子可以利用的切入點(diǎn)也越來(lái)越多,?？赡茚槍?duì)一個(gè)消費(fèi)者，可能針對(duì)一個(gè)小創(chuàng)業(yè)公司的實(shí)習(xí)生,，還可能針對(duì)街角商店的銷(xiāo)售系統(tǒng),。雖然對(duì)這些小實(shí)體發(fā)起的攻擊不太可能立即對(duì)整個(gè)網(wǎng)絡(luò)系統(tǒng)產(chǎn)生深遠(yuǎn)影響，但對(duì)于生計(jì)會(huì)受到嚴(yán)重影響的東南亞購(gòu)物者或小企業(yè)來(lái)說(shuō),，這種攻擊將使他們及其周?chē)娜瞬辉冈偈褂脭?shù)字服務(wù),。不僅如此，“人工智能嘴替”已在多個(gè)國(guó)家蔓延,。美國(guó)總統(tǒng)拜登就透露他曾看到自己講話的深偽產(chǎn)品,，對(duì)圖像的逼真程度感到吃驚。多國(guó)和地區(qū)著手加強(qiáng)治理毋庸置疑,，人工智能的飛速發(fā)展正在顛覆人類(lèi)認(rèn)知,，它會(huì)不會(huì)打開(kāi)“潘多拉魔盒”？盡管這種擔(dān)憂之聲未免有些杞人憂天,，但也正是這種擔(dān)憂的存在,，促使全球多國(guó)和地區(qū)紛紛著手加強(qiáng)管理，以保證科技創(chuàng)新與規(guī)范并進(jìn),。當(dāng)?shù)貢r(shí)間6月14日,，歐洲議會(huì)以499票贊成,、28票反對(duì)、93票棄權(quán)的壓倒性優(yōu)勢(shì)通過(guò)了《人工智能法案》草案,。根據(jù)草案,，歐盟將人工智能系統(tǒng)(如ChatGPT等)劃分為不同的風(fēng)險(xiǎn)組。應(yīng)用程序越危險(xiǎn),，適用的規(guī)則就越嚴(yán)格,。同時(shí)，歐盟還正著手制定全面的人工智能禁令,，比如禁止鼓勵(lì)危險(xiǎn)行為的交互式對(duì)話工具,，以及用于預(yù)測(cè)誰(shuí)將犯罪的預(yù)測(cè)性警務(wù)工具等。10月30日,，拜登簽署了一項(xiàng)關(guān)于人工智能的行政命令,，被美國(guó)媒體稱為“有史以來(lái)政府為推進(jìn)人工智能安全領(lǐng)域所采取的最重大行動(dòng)”。此外,，美國(guó)商務(wù)部還將給人工智能生成內(nèi)容,，比如通常被稱為“深偽技術(shù)”的AI生成音頻或圖像，制定更加嚴(yán)格的標(biāo)準(zhǔn),。加拿大,、韓國(guó)、日本等國(guó)家同樣開(kāi)始在人工智能領(lǐng)域采取規(guī)范和限制措施,。作為人工智能大國(guó),，中國(guó)在全球人工智能治理上從未缺位，一直在致力于提升人工智能技術(shù)的安全性,、可靠性,、可控性、公平性,。4月11日,，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》(以下簡(jiǎn)稱《征求意見(jiàn)稿》)，促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用,?！墩髑笠庖?jiàn)稿》在明確了對(duì)人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新,、推廣應(yīng)用,、國(guó)際合作的鼓勵(lì)態(tài)度，在支持優(yōu)先采用安全可信的軟件,、工具,、計(jì)算和數(shù)據(jù)資源的同時(shí)，劃定了相關(guān)范圍,，即辦法管轄范圍,、辦法管理權(quán)限,、“提供者”的責(zé)任主體認(rèn)定,。此外，《征求意見(jiàn)稿》還將為未來(lái)生成式人工智能服務(wù)提供者在從業(yè)過(guò)程中的底線和規(guī)范提供法律依據(jù),。而早在2021年12月,，中國(guó)就向聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)提交《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》。2022年11月,，中國(guó)又向聯(lián)合國(guó)《特定常規(guī)武器公約》締約國(guó)大會(huì)提交了《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》,。這些主張堅(jiān)持維護(hù)人類(lèi)福祉，堅(jiān)守公平正義,，體現(xiàn)了大國(guó)責(zé)任擔(dān)當(dāng),。向國(guó)際社會(huì)提供中國(guó)方案毫無(wú)疑問(wèn)，人工智能正在席卷而來(lái),，這場(chǎng)深刻的革命,，將徹底改變我們這個(gè)時(shí)代和生活。面對(duì)人工智能技術(shù)帶來(lái)的難以預(yù)知的風(fēng)險(xiǎn)挑戰(zhàn),，國(guó)際社會(huì)迫切需要加強(qiáng)人工智能治理,，推動(dòng)人工智能朝著科技向善的方向發(fā)展。正如聯(lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯所指出的,，要帶著“一種緊迫感,、一種全球視野和一種學(xué)習(xí)者的心態(tài)”來(lái)應(yīng)對(duì)這項(xiàng)技術(shù)，各國(guó)應(yīng)展開(kāi)協(xié)調(diào)并設(shè)定紅線,，爭(zhēng)分奪秒推動(dòng)人工智能造福人類(lèi),。在這場(chǎng)風(fēng)險(xiǎn)挑戰(zhàn)中，中國(guó)向世界提供了人工智能治理方案,。在11月1日英國(guó)布萊奇利園舉行的首屆人工智能安全峰會(huì)上,，中國(guó)代表指出，人工智能治理攸關(guān)全人類(lèi)命運(yùn),，是世界各國(guó)面臨的共同課題,。發(fā)展人工智能，應(yīng)當(dāng)積極倡導(dǎo)以人為本,，智能向善,，加強(qiáng)技術(shù)風(fēng)險(xiǎn)管控，并在相互尊重,、平等互利的原則基礎(chǔ)上,，鼓勵(lì)各方協(xié)同共治，增強(qiáng)發(fā)展中國(guó)家在人工智能全球治理中的代表性和發(fā)言權(quán),，不斷彌合智能鴻溝和治理能力差距,。中方愿與各方一道就人工智能安全治理加強(qiáng)溝通交流,，為推動(dòng)形成普遍參與的國(guó)際機(jī)制和具有廣泛共識(shí)的治理框架積極貢獻(xiàn)智慧。而在不久前,，中方在第三屆“一帶一路”國(guó)際合作高峰論壇期間提出《全球人工智能治理倡議》,，就各方普遍關(guān)切的人工智能發(fā)展與治理問(wèn)題給出建設(shè)性解決思路，更為人工智能相關(guān)國(guó)際討論和規(guī)則制定提供了藍(lán)本,。比如支持在充分尊重各國(guó)政策和實(shí)踐基礎(chǔ)上,，形成具有廣泛共識(shí)的全球人工智能治理框架和標(biāo)準(zhǔn)規(guī)范；支持在聯(lián)合國(guó)框架下討論成立國(guó)際人工智能治理機(jī)構(gòu),；加強(qiáng)面向發(fā)展中國(guó)家的國(guó)際合作與援助等,。展現(xiàn)出中國(guó)推動(dòng)完善全球治理的大國(guó)擔(dān)當(dāng)，是中國(guó)積極踐行人類(lèi)命運(yùn)共同體理念,，落實(shí)全球發(fā)展倡議,、全球安全倡議、全球文明倡議的具體行動(dòng),。人工智能治理攸關(guān)全人類(lèi)命運(yùn),，是世界各國(guó)面臨的共同課題。中國(guó)提出的方案將有力推動(dòng)各方增進(jìn)對(duì)話合作,、凝聚共識(shí),，共同構(gòu)建開(kāi)放、公正,、有效的治理機(jī)制,，促進(jìn)人工智能造福全人類(lèi)。（法治日?qǐng)?bào)）