*本文為《半月談內(nèi)部版》2024年第5期內(nèi)容對(duì)話嘉賓朱榮生（清華大學(xué)戰(zhàn)略與安全研究中心特約專家,、元戰(zhàn)略智庫(kù)高級(jí)研究員）劉?偉（北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任）半月談?dòng)浾撸涸?span id="a6otyhj" class="wpcom_tag_link">人工智能發(fā)展過(guò)程中，您認(rèn)為最難以把控的變量與最突出的風(fēng)險(xiǎn)是什么,？劉偉：最難以把控的變量包括不確定性,、數(shù)據(jù)質(zhì)量,、道德和倫理問(wèn)題,。人工智能系統(tǒng)的復(fù)雜性使得其行為難以預(yù)測(cè)，常常具有不可解釋性,，尤其當(dāng)系統(tǒng)面臨新的,、未曾遇到的情況時(shí)。這種不確定性可能導(dǎo)致系統(tǒng)無(wú)法做出可靠的決策或產(chǎn)生意外的結(jié)果,。人工智能系統(tǒng)通常需要大量的數(shù)據(jù)來(lái)進(jìn)行訓(xùn)練和學(xué)習(xí),，而數(shù)據(jù)的質(zhì)量對(duì)系統(tǒng)性能至關(guān)重要。如果數(shù)據(jù)存在偏見(jiàn),、錯(cuò)誤或不完整的情況，那么系統(tǒng)的結(jié)果和決策可能也會(huì)受到影響,。人工智能系統(tǒng)的決策可能涉及道德和倫理方面的選擇,，例如自動(dòng)駕駛車輛在緊急情況下如何選擇撞擊的對(duì)象。如何確保人工智能系統(tǒng)的決策符合社會(huì)價(jià)值觀成為一個(gè)難題,。人工智能面臨的安全風(fēng)險(xiǎn)較為突出,。人工智能系統(tǒng)可能受到黑客攻擊，導(dǎo)致數(shù)據(jù)泄露,、系統(tǒng)癱瘓或被濫用,。尤其是在關(guān)鍵基礎(chǔ)設(shè)施、金融系統(tǒng)和醫(yī)療等關(guān)鍵領(lǐng)域,，安全風(fēng)險(xiǎn)顯得尤為突出,。因涉嫌侵犯隱私，ChatGPT在意大利下線朱榮生：從全球治理角度看,，歷史上的顛覆性科技革新在極大地解放社會(huì)生產(chǎn)力的同時(shí),，也引發(fā)了全球發(fā)展失衡、財(cái)富分配不均,、治理機(jī)制滯后的社會(huì)經(jīng)濟(jì)問(wèn)題,。每一輪科技革命帶動(dòng)的全球化往往會(huì)把世界經(jīng)濟(jì)推向一個(gè)深度調(diào)整期，不可避免地帶來(lái)傳統(tǒng)產(chǎn)業(yè)衰退、大量勞動(dòng)力失業(yè),、社會(huì)動(dòng)蕩加劇的經(jīng)濟(jì)負(fù)面效應(yīng),，這對(duì)全球經(jīng)濟(jì)治理體系改革提出了新要求。人工智能等先進(jìn)技術(shù)加速滲透融合到人類經(jīng)濟(jì)和軍事活動(dòng)的各個(gè)領(lǐng)域,，放大了維護(hù)國(guó)際穩(wěn)定和非傳統(tǒng)安全的挑戰(zhàn),。智能化戰(zhàn)爭(zhēng)初現(xiàn)端倪，人工智能賦能的無(wú)人作戰(zhàn)軍事平臺(tái)在巴以沖突,、納卡沖突,、俄烏沖突中被大量應(yīng)用。國(guó)外政策界對(duì)于軍用人工智能技術(shù)的快速部署,、肆意擴(kuò)散以及不負(fù)責(zé)任地戰(zhàn)場(chǎng)使用,，動(dòng)搖國(guó)際戰(zhàn)略穩(wěn)定性的擔(dān)憂日甚，其中最為急迫的關(guān)切是戰(zhàn)爭(zhēng)形態(tài)向智能化方向演進(jìn)將可能強(qiáng)化首攻優(yōu)勢(shì),。從國(guó)家間關(guān)系的角度看,，AI“強(qiáng)者先行”的發(fā)展特點(diǎn)也將強(qiáng)化國(guó)際競(jìng)爭(zhēng)壓力。盡管每個(gè)國(guó)家都有維護(hù)自身“人工智能主權(quán)”利益的需求,，但是大國(guó)和小國(guó)因?qū)嵙Φ牟痪饷媾R著不同程度的挑戰(zhàn),。大國(guó)具有更強(qiáng)的技術(shù)儲(chǔ)備和抗風(fēng)險(xiǎn)能力，能夠在國(guó)際技術(shù)交流網(wǎng)絡(luò)中處于核心地位,。相比之下,，小國(guó)恐怕會(huì)因缺少足夠的資源而越發(fā)依賴于大國(guó)的技術(shù)供給，從而在全球AI生態(tài)體系發(fā)展中處于邊緣位置,。這將進(jìn)一步提高數(shù)字地緣政治競(jìng)爭(zhēng)的烈度,，壓縮大國(guó)之間本已有限的關(guān)系緩和空間。半月談?dòng)浾撸喝绾卧诳刂骑L(fēng)險(xiǎn)的同時(shí),，讓AI成為對(duì)人類,、對(duì)社會(huì)進(jìn)步普惠而有益的工具？劉偉：確保AI系統(tǒng)的決策過(guò)程是透明的,，并能提供解釋,，以便人們理解其工作原理，如此一來(lái),，可增強(qiáng)人們對(duì)AI系統(tǒng)的信任感,，并幫助預(yù)防潛在的不良影響。同時(shí),，需要及時(shí)制定明確的倫理準(zhǔn)則,，確保AI系統(tǒng)的設(shè)計(jì)和使用符合道德原則和社會(huì)價(jià)值，包括確保AI系統(tǒng)不歧視,、不侵犯隱私和個(gè)人權(quán)利,，并遵守相關(guān)法律法規(guī),。在源頭上確保AI系統(tǒng)所使用的數(shù)據(jù)具有高質(zhì)量的特點(diǎn)，并嚴(yán)格保護(hù)個(gè)人隱私,。數(shù)據(jù)的來(lái)源,、使用和存儲(chǔ)都應(yīng)符合相關(guān)法規(guī)，并通過(guò)安全措施保護(hù)數(shù)據(jù)不被濫用或泄露,。建立有效的監(jiān)管機(jī)制,，確保AI系統(tǒng)的開(kāi)發(fā)和使用符合政府制定的規(guī)定和標(biāo)準(zhǔn)，加強(qiáng)對(duì)AI技術(shù)和應(yīng)用的審查和監(jiān)督,，以避免濫用和不良影響,。鼓勵(lì)公眾參與AI技術(shù)的發(fā)展和決策過(guò)程，并確保各利益相關(guān)方的利益得到平衡,，這可以通過(guò)開(kāi)展公開(kāi)磋商,、征求意見(jiàn)和建立多方合作來(lái)實(shí)現(xiàn)。建立監(jiān)測(cè)和評(píng)估機(jī)制,，及時(shí)發(fā)現(xiàn)和解決AI系統(tǒng)可能出現(xiàn)的風(fēng)險(xiǎn)和問(wèn)題,，不斷改進(jìn)和優(yōu)化AI系統(tǒng)的性能和安全性。朱榮生：從規(guī)制人工智能潛在風(fēng)險(xiǎn)的角度出發(fā),，各國(guó)在維護(hù)利益的同時(shí),，應(yīng)推動(dòng)AI全球治理合作。AI領(lǐng)域的相關(guān)治理攸關(guān)人類命運(yùn),，是全球治理面臨的嚴(yán)峻課題,。國(guó)際社會(huì)需要重視廣大發(fā)展中國(guó)家在新興技術(shù)浪潮中的脆弱性，技術(shù)強(qiáng)國(guó)不應(yīng)一味只顧本國(guó)利益而采取“脫鉤斷鏈”手段,。AI是一項(xiàng)軍民兩用技術(shù),，就其民用領(lǐng)域來(lái)說(shuō)，引導(dǎo)全球AI行業(yè)健康發(fā)展,，實(shí)現(xiàn)“人工智能向善”的目標(biāo)，進(jìn)而促進(jìn)AI技術(shù)造福于全人類,，是世界各國(guó)的共同利益,。在更為敏感的軍事安全方面，AI的軍事化應(yīng)用越發(fā)引起國(guó)際輿論的關(guān)注,。據(jù)國(guó)際媒體報(bào)道,，AI技術(shù)已在新一輪巴以沖突中被運(yùn)用，造成平民傷亡,。從建構(gòu)人工智能全球安全治理規(guī)則的角度出發(fā),，國(guó)際社會(huì)恐怕需要審視美西方提出的“負(fù)責(zé)任的人工智能”理念是否過(guò)于理想，是否應(yīng)該探索建立某種“有人道的AI”的共同主張,，以避免算法定生死釀成的人道主義災(zāi)難,?？傊苿?dòng)實(shí)現(xiàn)“AI為了人類”的目標(biāo),，恐怕不僅僅需要確保每個(gè)國(guó)家僅基于本國(guó)基本安全和發(fā)展利益的“主權(quán)人工智能”,，更需要具有推動(dòng)構(gòu)建基于人類命運(yùn)共同體的“全球人工智能”的意識(shí)與行動(dòng)。半月談?dòng)浾撸耗X(jué)得普通人應(yīng)如何迎接人工智能時(shí)代,？劉偉：隨著人工智能的發(fā)展,，某些工作崗位可能會(huì)被自動(dòng)化取代，所以不斷學(xué)習(xí)和提升自己的技能變得尤為重要,，AI在大量重復(fù)性,、機(jī)械化的工作中表現(xiàn)出色，但在涉及創(chuàng)造性思維,、情感交流和問(wèn)題解決方面仍有限制,，因此，重要的是培養(yǎng)自己的合作能力和創(chuàng)造力,，發(fā)展與人工智能協(xié)作的能力,。人工智能的應(yīng)用需要運(yùn)用各種科技工具和數(shù)據(jù)分析技能，人們可以學(xué)習(xí)如何使用各種科技工具,，以及如何進(jìn)行數(shù)據(jù)處理和分析,，從而更好地與人工智能共同工作。同時(shí),，隨著人工智能的不斷發(fā)展,，工作環(huán)境和需求也會(huì)發(fā)生變化。因此,，普通人需要保持靈活性和適應(yīng)性,，積極適應(yīng)新的工作方式和技術(shù)變革。雖然人工智能在某些方面表現(xiàn)出色,，但在涉及情感交流,、人文關(guān)懷和倫理決策等領(lǐng)域仍有不少局限性，因此,，我們可以培養(yǎng)一些情感技能和人文關(guān)懷,，發(fā)展與人工智能進(jìn)行人性化交互的能力。朱榮生：大家應(yīng)當(dāng)理性看待人工智能技術(shù)應(yīng)用對(duì)社會(huì)發(fā)展產(chǎn)生的影響,。盡管科技界和產(chǎn)業(yè)界對(duì)能夠睥睨人類智能水平的人工智能最終走入大眾視野存在樂(lè)觀預(yù)期,，但是當(dāng)前的人工智能技術(shù)還沒(méi)有表現(xiàn)出引發(fā)社會(huì)結(jié)構(gòu)顛覆性變化的效果。從ChatGPT到Sora,，人工智能所發(fā)揮的主要賦能作用是提高用戶的工作效率,，而沒(méi)有達(dá)到“大量機(jī)器取代人類就業(yè)”的變革程度。與其對(duì)不確定性的未來(lái)抱有焦慮情緒,，不如理性看待AI的發(fā)展及其影響,。當(dāng)然,，忽視AI技術(shù)失序發(fā)展可能產(chǎn)生的風(fēng)險(xiǎn)是不負(fù)責(zé)任的。如果人工智能技術(shù)依然延續(xù)當(dāng)前通過(guò)不斷疊加算力的“暴力計(jì)算”方式來(lái)提高能力,，并且最終實(shí)現(xiàn)超越人類的“智能外溢”,，那么放縱人工智能技術(shù)無(wú)限度發(fā)展的潛在風(fēng)險(xiǎn)將會(huì)加大。半月談?dòng)浾撸核纬?梁姊來(lái)源：半月談