歷史上，每一次技術(shù)上的突飛猛進(jìn)都會(huì)造成人類社會(huì)結(jié)構(gòu)的巨大變革,。人工智能的快速發(fā)展向人類展現(xiàn)了未來社會(huì)的多種可能性,。然而，人工智能在給人類帶來福祉的同時(shí)也在給社會(huì)帶來現(xiàn)實(shí)的或者可能的“技術(shù)代價(jià)”。南京大學(xué)哲學(xué)系教授潘天群認(rèn)為,，面對(duì)當(dāng)前快速發(fā)展的智能技術(shù),，人類要立足當(dāng)下對(duì)未來進(jìn)行協(xié)商，在人類未來的多種可能性中共同選擇或者設(shè)計(jì)一個(gè)對(duì)人類有利的未來,。更多精彩觀點(diǎn),，一起來看《學(xué)術(shù)前沿》最新文章。來源 | 《學(xué)術(shù)前沿》雜志及人民論壇網(wǎng)（rmltwz）轉(zhuǎn)載請(qǐng)注明來源01社會(huì)增強(qiáng)的智能技術(shù)在生存競(jìng)爭(zhēng)中，人類（智人）因?yàn)橛辛死硇?，其他物種已經(jīng)無法與人類抗衡,，人類便開始了與自己的生存博弈：不同社會(huì)或者人類集團(tuán)之間進(jìn)行競(jìng)爭(zhēng)。在這種新的競(jìng)爭(zhēng)類型中，發(fā)明并使用先進(jìn)技術(shù)尤其是顛覆性技術(shù),，被實(shí)踐證明是有效的獲勝策略,。不同歷史階段有不同的先進(jìn)工具，從原始社會(huì)的石器,、文明之初的青銅器,、農(nóng)業(yè)時(shí)代的鐵器，到近代的各種電力驅(qū)動(dòng)下的機(jī)器以及當(dāng)前的通用機(jī)器計(jì)算機(jī),，這些工具中包含了時(shí)代最先進(jìn)的競(jìng)爭(zhēng)性技術(shù),，相對(duì)于不采用它們是“占優(yōu)策略”——采用者在競(jìng)爭(zhēng)中得分高或者勝出，不采用者得分低或者出局,。這樣,，人類社會(huì)一直是技術(shù)社會(huì)（technosociety）——“技術(shù)社會(huì)是人與技術(shù)高度融合的社會(huì)，在這樣的社會(huì)中人與人之間的交流,、交易等互動(dòng),，以及人或者集團(tuán)應(yīng)對(duì)外部自然，都高度依賴技術(shù),。在技術(shù)社會(huì)中技術(shù)及技術(shù)產(chǎn)品或者人工物（artifact）是這個(gè)社會(huì)中的一部分,。”通過技術(shù)的相互競(jìng)爭(zhēng)人類社會(huì)整體增強(qiáng)了,，即人類一直在通過技術(shù)發(fā)展而進(jìn)行“社會(huì)增強(qiáng)”（society enhancement）?，F(xiàn)在輪到人工智能技術(shù)出場(chǎng)來進(jìn)行社會(huì)增強(qiáng)了。人工智能,，簡(jiǎn)單說來,，就是人建造可替代人類心靈來進(jìn)行工作的機(jī)器。20世紀(jì)50年代,，科學(xué)家提出了人工智能概念并開始了偉大的實(shí)踐。人工智能的出現(xiàn)是計(jì)算機(jī)被建造后的自然結(jié)果——1946年,，人類第一臺(tái)計(jì)算機(jī)ENIAC得以建成,。計(jì)算、思維與智能三者難以分開,，而用機(jī)器來解決復(fù)雜的計(jì)算本身就是高度智能化的事情,，至少在當(dāng)時(shí)人們是這么認(rèn)為的。因而,，我們?cè)诳紤]對(duì)人工智能發(fā)展作出貢獻(xiàn)的英雄如圖靈,、西蒙時(shí)，不要忘了計(jì)算機(jī)之父馮·諾依曼——當(dāng)然,，馮·諾依曼在多個(gè)領(lǐng)域中都作出了偉大的貢獻(xiàn),，指出他在人工智能上的貢獻(xiàn)只是錦上添花。有了計(jì)算機(jī)后，人們便探索如何讓計(jì)算機(jī)擁有像人那樣的智能,，而不僅僅是實(shí)現(xiàn)人腦的部分功能即計(jì)算功能,。今天人類社會(huì)被高速發(fā)展的智能技術(shù)不斷嵌入和重構(gòu)。當(dāng)下的社會(huì)已經(jīng)是智能型社會(huì),，或者簡(jiǎn)單說,，智能社會(huì)。人工智能技術(shù)對(duì)人類生活,、工作與交往全面滲透,，人類社會(huì)被整體“增強(qiáng)”，盡管若干年后當(dāng)我們回看時(shí)會(huì)認(rèn)為今天的社會(huì)最多是“原始的”智能社會(huì),?？茖W(xué)家、工程師以及企業(yè)家們,，不關(guān)心哲學(xué)家關(guān)于“人工智能”是否可能的學(xué)理爭(zhēng)論,，他們也不關(guān)心強(qiáng)人工智能與弱人工智能之爭(zhēng)；這里,，強(qiáng)人工智能是指那種具有理解能力的機(jī)器,，而弱人工智能是指能夠通過圖靈檢驗(yàn)即貌似有人的智能的機(jī)器。他們根據(jù)社會(huì)需求開發(fā)出各種智能技術(shù)產(chǎn)品,，而這些產(chǎn)品的社會(huì)化又進(jìn)一步刺激或者促進(jìn)新的社會(huì)需求,。當(dāng)前，不僅僅有谷歌公司開發(fā)的圍棋智能程序AlphaGo,、AlphaZero和分析蛋白質(zhì)結(jié)構(gòu)的智能程序AlphaFold這樣“小眾”的人工智能程序,，而且有各類科技公司開發(fā)的大量“大眾化”的市場(chǎng)化人工智能產(chǎn)品，如各種人工智能客服,、商場(chǎng)的問路機(jī)器人,、汽車導(dǎo)航系統(tǒng)，以及逐漸成熟的智能陪伴機(jī)器人等,。這些市場(chǎng)化產(chǎn)品達(dá)不到弱人工智能的標(biāo)準(zhǔn),，它們最多在某個(gè)領(lǐng)域中“看上去”具有某種程度的智能表現(xiàn)。因此,，通用智能（全域智能）和專門智能（局域）兩個(gè)概念更能有效對(duì)這些產(chǎn)品進(jìn)行描述,，通用智能（全域智能）指的是能夠解決環(huán)境中所有問題的智能，而專門智能（局域智能）指的是能夠解決環(huán)境中的某一類問題的智能,。這些不斷出現(xiàn)的各種人工智能產(chǎn)品不僅僅為我們提供了生活便利,，更重要的是它們打開了人們對(duì)未來的想象空間。人們開始展望人工智能社會(huì)的未來,。弗洛里迪說：“我們正在經(jīng)歷著一場(chǎng)意義深遠(yuǎn)的圖靈革命,，這場(chǎng)革命在很大程度上由信息與通訊技術(shù)驅(qū)動(dòng)。”根據(jù)弗洛里迪的分析,，人類歷史上發(fā)生了三次顛覆性的自我認(rèn)知的革命,，它們分別為“哥白尼日心說理論”、“達(dá)爾文的生物進(jìn)化論”和“弗洛伊德的精神分析理論”,；而當(dāng)下“圖靈革命”可以與它們相提并論,。哥白尼革命之后地球失去了宇宙中心的榮耀，但人類仍認(rèn)為自己是地球的主宰,；達(dá)爾文于1859年發(fā)表的《物種起源》則告訴我們,，所有事物都來自于共同的祖先并在自然選擇下不斷進(jìn)化，人類并不是萬物之靈,；弗洛伊德揭示了人類大腦中無意識(shí)的存在,，意識(shí)只是冰山一角、并被無意識(shí)所控制,，因而我們不是意識(shí)（心靈）的絕對(duì)控制者,。在弗洛里迪看來，圖靈革命使人類喪失了“獨(dú)一無二性”,，人類不再是信息圈的中心,。弗洛里迪說：“圖靈使我們認(rèn)識(shí)到，人類在邏輯推理,、信息處理和智能行為領(lǐng)域的主導(dǎo)地位已經(jīng)不復(fù)存在,，人類已不再是信息圈毋庸置疑的主宰，數(shù)字設(shè)備代替人類執(zhí)行了越來越多的原本需要人的思想來解決的任務(wù),，而這使得人類被迫一再地拋棄一個(gè)又一個(gè)人類自認(rèn)為獨(dú)一無二的地位,。”這些非人類智能體的數(shù)字設(shè)備,，盡管目前不如人類聰明,，但它們可以輕而易舉地超越我們，并且承擔(dān)越來越多的任務(wù),。如果弗洛里迪說的是對(duì)的,，那么，那些能夠進(jìn)行信息處理的機(jī)器應(yīng)當(dāng)與人類有一樣的地位,。漢斯·莫拉維克認(rèn)為，人類的身份在本質(zhì)上是一種信息形式,，而不是一種實(shí)體化的規(guī)定與表現(xiàn),。因而，他認(rèn)為在不久的將來,，人類可以將人的意識(shí)“上傳”（upload）到計(jì)算機(jī)內(nèi),。他的將意識(shí)上傳到計(jì)算機(jī)中的觀點(diǎn)為學(xué)者們所熱烈討論。意識(shí)是作為生物體大腦的功能，因而筆者極度懷疑“意識(shí)的內(nèi)容”能夠通過非生物的設(shè)備被完全“讀取”從而被上傳,。莫拉維克的另外一個(gè)更重要的激進(jìn)觀點(diǎn)是,，將機(jī)器看成是人類心靈的孩子（mind children）。他說,，今天,，我們的機(jī)器仍然是簡(jiǎn)單的創(chuàng)造物；它們需要作為父母的我們的關(guān)心,，新生兒還需要呵護(hù),。今天它們幾乎不值得用“智能”這個(gè)詞。但是,，“在下個(gè)世紀(jì)內(nèi),，它們將發(fā)展成和我們一樣復(fù)雜的成熟實(shí)體，并最終發(fā)展成為某種超越我們所知的一切事物的事物——并且當(dāng)我們稱它們?yōu)槲覀兊暮蟠鷷r(shí),，我們感到驕傲,。”這樣的人工智能機(jī)器將接替我們,，“從漫長(zhǎng)的生物進(jìn)化中解放出來,，我們的心靈的孩子將自由成長(zhǎng)，它們將面對(duì)更大宇宙的巨大和根本挑戰(zhàn),。我們?nèi)祟愒谝欢螘r(shí)間里將從它們的勞作中受益,，但遲早它們會(huì)像自然的孩子一樣探索自己的命運(yùn)，而我們,，它們年邁的父母,，則默默地等待消失?！蹦S克相信具有智能的機(jī)器人將在50年內(nèi)出現(xiàn)——他寫作《心靈的孩子》是在1988年,。對(duì)于人工智能或者機(jī)器人的未來，馬文·明斯基說,，機(jī)器取代“我們”這樣的思考方式?jīng)]有意義,。他同意莫拉維克的“機(jī)器是我們心靈的孩子”的觀點(diǎn)。他認(rèn)為,，機(jī)器是進(jìn)化的必然產(chǎn)物,，“在過去，我們傾向于將自己視為進(jìn)化的最終產(chǎn)物——但我們的進(jìn)化并沒有停止,。事實(shí)上,，我們現(xiàn)在進(jìn)化得更快了——盡管不是以我們熟悉的、緩慢的達(dá)爾文方式,。我們?cè)缭撻_始思考我們新的身份了,。我們現(xiàn)在可以設(shè)計(jì)基于新型‘非自然選擇’的系統(tǒng),，這種系統(tǒng)可以利用明確的計(jì)劃和目標(biāo)，也可以利用獲得性的遺傳,。進(jìn)化論者花了一個(gè)世紀(jì)的時(shí)間來使自己避免這些想法——生物學(xué)家稱之為‘目的論’和拉馬克主義,，但是，現(xiàn)在我們可能不得不改變這些規(guī)則,！”明斯基從生物進(jìn)化史中得到了“目的論”生物觀：心靈是所有生物在進(jìn)化中的一個(gè)目標(biāo),，而機(jī)器作為心靈之子將繼續(xù)在地球上生存與演化。他說：“機(jī)器人會(huì)繼承（inherit）地球嗎,？是的,。但它們會(huì)是我們的孩子。我們的心靈的產(chǎn)生要?dú)w功于參與進(jìn)化斗爭(zhēng)的所有生物的生與死,。而我們的工作是確保所有這些工作不會(huì)白白浪費(fèi),。在人工智能未來展望中，沒有概念比“智能爆炸”或者奇點(diǎn)（singularity）概念更有沖擊力了,。奇點(diǎn)概念最早由統(tǒng)計(jì)學(xué)家古德（I. J. Good）所提出,。古德在《關(guān)于第一臺(tái)超智能機(jī)器的猜測(cè)》（1965）中寫道：“讓我們把超智能機(jī)器定義為一種可以遠(yuǎn)遠(yuǎn)超越任何聰明的人類的所有智能活動(dòng)的機(jī)器。由于機(jī)器的設(shè)計(jì)是智能活動(dòng)之一,，超智能機(jī)器或也將可以設(shè)計(jì)出更好的機(jī)器,；到那時(shí)，毫無疑問會(huì)出現(xiàn)‘智能爆炸’,，而人類的智能將被遠(yuǎn)遠(yuǎn)地拋在后面,。因此，第一臺(tái)超智能機(jī)器是人類要做的最后一項(xiàng)發(fā)明,?！逼纥c(diǎn)不是幻想家的純粹遐想，它是具有智慧的學(xué)者們根據(jù)當(dāng)前技術(shù)狀況及發(fā)展趨勢(shì)所作出的關(guān)于未來的深刻洞見,。奇點(diǎn)概念強(qiáng)烈沖擊著社會(huì),，而被學(xué)術(shù)界所抵制，哲學(xué)家大衛(wèi)·查爾莫斯（D. Chalmers）不滿學(xué)術(shù)界的這種傲慢,。他認(rèn)為,，我們應(yīng)當(dāng)嚴(yán)肅對(duì)待奇點(diǎn)論證，圍繞奇點(diǎn)產(chǎn)生的哲學(xué)討論具有極大的實(shí)踐和哲學(xué)意義,。在實(shí)踐上,，查爾莫斯說：“如果真有奇點(diǎn)的話，那將是這個(gè)星球歷史上最重要的事件之一,。智能爆炸有巨大的潛在好處：治愈所有已知疾病,，終結(jié)貧困，獲得非凡的科學(xué)進(jìn)步,，等等,。它也有巨大的潛在危險(xiǎn)：人類的終結(jié)，交戰(zhàn)機(jī)器的軍備競(jìng)賽,，毀滅地球的力量,。因此，哪怕只有極小的概然性會(huì)出現(xiàn)奇點(diǎn),，我們也應(yīng)該好好思考它可能會(huì)以何種形式出現(xiàn),，以及我們是否可以做些什么以讓結(jié)果朝著積極的方向發(fā)展?！倍谡軐W(xué)上,，奇點(diǎn)提出了許多重要的哲學(xué)問題，查爾莫斯說：“智能爆炸的基本論點(diǎn)本身在哲學(xué)上就很有趣,，并使我們認(rèn)真思考智能的本質(zhì)和人工智能的心智能力,。智能爆炸的潛在后果使我們認(rèn)真思考價(jià)值觀、道德,、意識(shí)和個(gè)人同一性的問題,。實(shí)際上，奇點(diǎn)喚起了一些最棘手的傳統(tǒng)哲學(xué)問題,，同時(shí)也提出了一些新的哲學(xué)問題,。”對(duì)是否將有奇點(diǎn)的問題,，查爾莫斯的看法是,，奇點(diǎn)的發(fā)生是無疑的，而如果有障礙阻止它發(fā)生,，主要障礙可能是動(dòng)機(jī)上的而不是能力上的,。因此，查爾莫斯說,，我們要做的是與奇點(diǎn)協(xié)商,，將適當(dāng)?shù)膬r(jià)值植入機(jī)器，先在虛擬世界中構(gòu)建最初的那種人工智能以保證可控,，等等,。歷史中并不包含未來，但人們傾向于從歷史中“歸納”而推理未來,、從歷史中“找到”未來,。然而，不同的人根據(jù)對(duì)歷史的不同的觀察會(huì)得到不同甚至相反的未來,。弗洛里迪無非是在論證當(dāng)前的人工智能革命或者圖靈革命的意義,，可以與哥白尼日心說、達(dá)爾文的進(jìn)化論和弗洛伊德的精神分析理論的意義相比擬,；莫拉維克和明斯基則將人類心靈作為生物演化的最后產(chǎn)品,，而這樣的演化接力棒應(yīng)當(dāng)由機(jī)器承接下去,；而奇點(diǎn)論者則是從技術(shù)的加速變化中“看到了”智能機(jī)器的未來……這里，我們沒有闡述哲學(xué)家如德雷福斯和塞爾對(duì)人工智能技術(shù)的不樂觀的觀點(diǎn),。我們不能說哪種觀點(diǎn)及其歸納論證是正確的或者更接近真理,，正如休謨所說的，這種根據(jù)過去經(jīng)驗(yàn)的外推是人類的一種沒有邏輯根據(jù)的心理傾向,。但是,，這些根據(jù)當(dāng)下和歷史對(duì)未來的“外推”具有社會(huì)意義，它們能夠幫助人類思考未來,、選擇未來,。02智能技術(shù)帶來的可能的技術(shù)代價(jià)新技術(shù)與社會(huì)的融合能夠給社會(huì)帶來利益,，同時(shí)也會(huì)帶來傷害。新技術(shù)帶給社會(huì)的傷害可以看作是社會(huì)要付出的“技術(shù)代價(jià)”,，這樣的代價(jià)是社會(huì)整體為技術(shù)發(fā)展而所要付出的總體成本,。在信息技術(shù)發(fā)展的短暫時(shí)間里，許多人尤其是青少年沉湎于電子游戲甚至患上網(wǎng)癮,，這已經(jīng)是不爭(zhēng)的事實(shí),。信息技術(shù)給社會(huì)帶來的巨大利益使得它的發(fā)展不可阻擋；而對(duì)于沉湎于游戲甚至染上網(wǎng)癮的孩子,，其家庭自動(dòng)地歸責(zé)于自己或者是某個(gè)偶然原因,，而不會(huì)將責(zé)任歸于社會(huì)發(fā)展信息技術(shù)。從技術(shù)的社會(huì)化角度來看,，這便是社會(huì)為發(fā)展信息技術(shù)所要付出的“技術(shù)代價(jià)”,。某種技術(shù)對(duì)某個(gè)個(gè)體的傷害可能只是概率上的或者是偶然的，而某些技術(shù)對(duì)社會(huì)的傷害則是必然的,，只不過不同的技術(shù)給社會(huì)造成的傷害形式及傷害程度是不同的,。社會(huì)要權(quán)衡的是相應(yīng)技術(shù)的代價(jià)是否是可接受的。汽車使人們出行更便利,，然而汽車的普及造成了大量的交通事故與死亡人數(shù),；而假設(shè)沒有現(xiàn)代交通系統(tǒng)，許多死亡就可以避免,。據(jù)統(tǒng)計(jì),，2017年～2019年，中國(guó)每年交通事故死亡人數(shù)約為6.3萬,。盡管人們逐漸適應(yīng)現(xiàn)代交通技術(shù)系統(tǒng),，相對(duì)于汽車保有量，交通事故率也在降低,，但是中國(guó)汽車總量在逐年增加,，因?yàn)榻煌ㄊ鹿识劳龅目側(cè)藬?shù)并沒有進(jìn)一步下降,。這些死亡或者傷殘是現(xiàn)代交通技術(shù)給社會(huì)帶來的不可避免的代價(jià)，盡管它們不是唯一的代價(jià),。社會(huì)可以通過采取各種可能的措施降低傷害,，但是這樣的傷害有一個(gè)不可降低的“下限”。日本是交通事故率較低的國(guó)家,，據(jù)報(bào)道，2017年,，日本因交通事故而死亡人數(shù)只有3000余人,；日本政府希望將交通事故死亡人數(shù)控制在2500人以下，而實(shí)際上這是難以完成的目標(biāo)——這樣便是現(xiàn)代汽車系統(tǒng)運(yùn)行下不可再低的代價(jià),。我們通常對(duì)交通事故中的死亡或傷殘的人態(tài)度漠然,，認(rèn)為那是必然的“不幸”，如同自然死亡或者生病一樣,。我們習(xí)慣于將每年因交通事故而死亡的人數(shù)只看作一個(gè)數(shù)字,，沒有人怪罪或者攻擊現(xiàn)代交通系統(tǒng)，而事故家庭只能怪罪自己的不幸或者交通肇事者,。人們認(rèn)為現(xiàn)代交通系統(tǒng)的采用是必然的,，而沒有現(xiàn)代交通系統(tǒng)是不可想象的。然而,，有些技術(shù)的不被采用是可想象的,。據(jù)美國(guó)網(wǎng)站提供的數(shù)據(jù)，1999年～2016年,，美國(guó)67.7%的謀殺案是由槍支造成的,，總共有213175人死亡，即平均每年有11843人死于槍擊謀殺,。我們當(dāng)然不能將這些謀殺案造成的死亡人數(shù)全部歸因于槍支合法化,，因?yàn)榧僭O(shè)沒有槍支合法化，其中的部分死亡者也會(huì)被其他方式所謀殺,。但是槍支合法化使得謀殺變得容易,，因而，美國(guó)平均每年1萬多人的槍擊謀殺死亡中有很大比例應(yīng)當(dāng)歸因于槍支合法化,，這些死亡是社會(huì)為槍支使用合法化所付出的技術(shù)代價(jià),。在美國(guó)，人們經(jīng)?？棺h政府而要求禁槍,，因?yàn)槿娼麡尩纳鐣?huì)是可想象且一定程度可接受的社會(huì)。因此,，現(xiàn)代交通系統(tǒng)是所有社會(huì)協(xié)商出來的結(jié)果,，而槍支合法化也是美國(guó)這個(gè)國(guó)家協(xié)商出來的結(jié)果,。人類處于高度互聯(lián)時(shí)代，人類的理性或者嚴(yán)格地說“集體理性”得以彰顯,。這樣的理性體現(xiàn)在人類關(guān)于未來的協(xié)商中,。這種協(xié)商不僅僅體現(xiàn)在集體理性對(duì)個(gè)體理性困境——如囚徒困境——的克服中，而且更重要的是,，人類能夠?qū)θ祟愇磥磉M(jìn)行整體地考慮,，分析未來的各種可能性，權(quán)衡利弊,，選擇并確定未來,。在協(xié)商人工智能社會(huì)的未來時(shí)，我們首先得要弄清人工智能給社會(huì)帶來的可能代價(jià)是什么,，因?yàn)橹挥信蹇赡艿拇鷥r(jià),，我們才能進(jìn)行利弊權(quán)衡。人工智能會(huì)使人類整體性地淪為徹底的“無用階級(jí)”嗎,？機(jī)器作為勞動(dòng)的替代物而被設(shè)計(jì)和制造出來,，它天生與勞動(dòng)處于對(duì)立的關(guān)系；這一點(diǎn)上人工智能也一樣,。傳統(tǒng)機(jī)器替代人的體力,，被替代的勞動(dòng)者因具有智力上的優(yōu)勢(shì)，其替代是暫時(shí)的,，從理論上講被替代的勞動(dòng)者能夠通過學(xué)習(xí)新知識(shí)而找到新的工作,。與傳統(tǒng)機(jī)器不同的是，人工智能替代的是人的智力,，它們能夠進(jìn)行勞動(dòng),，能夠代替人的勞動(dòng)而創(chuàng)造價(jià)值——在這個(gè)意義上，馬克思的勞動(dòng)價(jià)值論也面臨著挑戰(zhàn),。而一旦人工智能形成規(guī)模并在智能上完全超越人類,，人工智能能夠完全接替人類來創(chuàng)造價(jià)值，人便沒有了價(jià)值,；而無需等到超級(jí)智能機(jī)器被設(shè)計(jì)出來（奇點(diǎn)）的那一天,。屆時(shí)，地球上將由人工智能機(jī)器統(tǒng)治,，正如明斯基和莫拉維克所認(rèn)為的那樣,。對(duì)人類來說，這樣的代價(jià)可能“太大了”,，至少是當(dāng)下的大多數(shù)人所不能接受的,。當(dāng)然，很有可能的是，未來的人類會(huì)贊同明斯基等人的觀點(diǎn),，人類與機(jī)器人都是“我們”,，而機(jī)器人將是人類心靈的孩子，人類心甘情愿地讓它們作為我們的后代接管地球,！智能社會(huì)中人群會(huì)面臨被機(jī)器算法全面操控的風(fēng)險(xiǎn),。當(dāng)前，我們已經(jīng)被算法部分操控,。智能手機(jī)上的各種推送,，是計(jì)算機(jī)視覺根據(jù)它所“看到”的我們的偏好而精準(zhǔn)投放的。大數(shù)據(jù)是信息技術(shù)系統(tǒng)在與人類社會(huì)交互中所產(chǎn)生的巨量信息,；無論如何,，它們是個(gè)體或者群體行為的相關(guān)信息——太空中獲取的星體數(shù)據(jù)不能成為大數(shù)據(jù)，盡管它們是科學(xué)儀器“觀察”和“加工”后的信息,。大數(shù)據(jù)被認(rèn)為包含著巨大的價(jià)值，或者巨大的商業(yè)價(jià)值,，因?yàn)檫@些大數(shù)據(jù)中包含由個(gè)體信息和個(gè)體偏好形成的群體偏好或者規(guī)律,。我們被數(shù)據(jù)化從而被客體化，同時(shí)被計(jì)算與預(yù)測(cè),?；诖髷?shù)據(jù)的計(jì)算便是基于個(gè)體組成的群體的行為信息之上，這樣個(gè)體的“行”和“為”,，乃至“思”和“想”都被關(guān)注,、收集與計(jì)算。因而,，盡管可能的是,，在算法設(shè)計(jì)時(shí)通過將倫理嵌入到算法之中保證沒有人在背后對(duì)作為數(shù)據(jù)對(duì)象的個(gè)體進(jìn)行“偷窺”，但實(shí)際上,，群體被偷窺,，商業(yè)價(jià)值和政治目的便通過群體被偷窺而實(shí)現(xiàn)。由大數(shù)據(jù)而產(chǎn)生的價(jià)值是通過偷窺我們的行為以及這些行為背后的思想,，從而預(yù)測(cè)乃至操控我們的行為來實(shí)現(xiàn)的,。掌握數(shù)據(jù)的公司可以通過投放某些數(shù)據(jù)擾動(dòng)人群，對(duì)人群進(jìn)行操縱,，這種操縱可以是商業(yè)的,，也可以是政治的。這種操縱如同羊群被恐嚇聲所驅(qū)趕或者被投放的食物所吸引,。個(gè)體數(shù)據(jù)是大數(shù)據(jù)時(shí)代個(gè)體的新的身份,。這是數(shù)據(jù)化個(gè)體的時(shí)代，我們無處可逃。而對(duì)我們的數(shù)據(jù)進(jìn)行操作則是需要規(guī)制的,。對(duì)于個(gè)體而言,，存在“不可數(shù)據(jù)化”的東西（如隱私）和可數(shù)數(shù)據(jù)化的部分,，不可數(shù)據(jù)化的邊界在哪里？可數(shù)據(jù)化的使用權(quán)限在哪里,？等等,。數(shù)據(jù)化個(gè)體并對(duì)群體進(jìn)行這種操縱可能催生新型的政治或者商業(yè)模式，我們得適應(yīng)并運(yùn)用政策與倫理規(guī)制這種操縱,；我們需要考慮并建立新型的政治或者商業(yè)倫理以及制定相應(yīng)的治理政策,?；诨ヂ?lián)網(wǎng)的“虛擬世界”正“廢物化”人類,。每個(gè)人都會(huì)做夢(mèng)，每個(gè)人也能夠進(jìn)行幻想,。做夢(mèng)是人的心靈處于沉睡狀態(tài)下心理的自然呈現(xiàn),；而與夢(mèng)境不同的是,，幻想是人的心靈的正常功能,，它是對(duì)現(xiàn)實(shí)狀態(tài)的理性超越,。幻想是想象一系列非真實(shí)的事件,；或者說幻想是在構(gòu)建某個(gè)虛擬世界,，在這個(gè)世界中有一系列引發(fā)行為主體情緒的虛擬事件發(fā)生，這樣的系列事件盡管不符合現(xiàn)實(shí),，但它們之間一定符合邏輯,。夢(mèng)境只能是私人的，人們無法“共同做夢(mèng)”——不同的人無法進(jìn)入同一個(gè)夢(mèng)境,；但是人們可以“共同幻想”,。共同幻想是指不同的人在同一個(gè)現(xiàn)實(shí)時(shí)空中共同構(gòu)建某個(gè)虛擬世界,，或者進(jìn)入某個(gè)虛擬世界中一起進(jìn)行新的想象。人類的神話,、文學(xué)等便是特定群體的共同幻想,。而今天互聯(lián)網(wǎng)為人們搭建了一個(gè)新的共同幻想的平臺(tái)。人們能夠通過互聯(lián)網(wǎng)進(jìn)入同一個(gè)“虛擬世界”,，“共同地”且全身心地沉浸到某個(gè)幻境中并進(jìn)行新的幻想,。每個(gè)人都能夠進(jìn)入的虛擬世界構(gòu)成共同幻境。然而,，基于互聯(lián)網(wǎng)而構(gòu)建的虛擬世界或者共同幻境正“廢物化”人類,。赫拉利說：“那些對(duì)社會(huì)來說多余的人，可以多花點(diǎn)時(shí)間在3D虛擬世界里,；比起了無生趣的現(xiàn)實(shí)世界，虛擬世界能夠?yàn)樗麄兲峁└嗟拇碳?，誘發(fā)更多的情感投入,。……這些人對(duì)社會(huì)毫無用處,，整天活在現(xiàn)實(shí)與虛擬之間,，這樣的生命何來神圣？”Meta（Facebook）宣布建設(shè)元宇宙（Metaverse）,，元宇宙便是在構(gòu)建巨大的共同幻境——盡管元宇宙有助于服務(wù)當(dāng)下世界?；诨ヂ?lián)網(wǎng)的共同幻境（元宇宙）的構(gòu)建對(duì)人的精神的控制與圈養(yǎng)等副作用是巨大的，而且很可能的是,，它正全面“廢物化”人類?；诨ヂ?lián)網(wǎng)的人工智能將會(huì)對(duì)人類社會(huì)產(chǎn)生巨大的影響，我們要審慎對(duì)待其中可能出現(xiàn)的災(zāi)難?；ヂ?lián)網(wǎng)看上去是一個(gè)物理設(shè)備相互聯(lián)結(jié)的網(wǎng)絡(luò)，實(shí)際上其包含物理部分（或者硬件部分）和軟件部分：前者是后者發(fā)展的基礎(chǔ),。由于這兩部分的迅速發(fā)展,，互聯(lián)網(wǎng)在當(dāng)下及未來的智能社會(huì)中有巨大的發(fā)展空間。由于互聯(lián)網(wǎng)上有大量各種類型的數(shù)據(jù)和人類社會(huì)的知識(shí),，工程師們借助于互聯(lián)網(wǎng)這個(gè)平臺(tái)實(shí)現(xiàn)產(chǎn)品的智能化。當(dāng)前的許多智能化產(chǎn)品便是這么做的,。正如人需要依賴于社會(huì)而生存與發(fā)展一樣,，人工智能也要依賴于某個(gè)網(wǎng)絡(luò)環(huán)境,。構(gòu)建專門的物聯(lián)網(wǎng)當(dāng)然是一種實(shí)現(xiàn)人工智能生存環(huán)境的方式,，但依賴于目前的互聯(lián)網(wǎng)似乎更為可行,，這樣它們能夠與人類進(jìn)行交互,，參與到人類社會(huì)的構(gòu)建，成為智能社會(huì)的一部分,。當(dāng)前基于互聯(lián)網(wǎng)的人工智能產(chǎn)品是初級(jí)的,、非自主的,，那種自主的、高級(jí)的“活”在互聯(lián)網(wǎng)環(huán)境下某個(gè)虛擬世界中的人工智能或者“受控人工智能”似乎暫時(shí)還沒有出現(xiàn),。一旦科學(xué)家或者工程師在基于互聯(lián)網(wǎng)的某個(gè)控制的虛擬環(huán)境中發(fā)明了某個(gè)“受控人工智能”,，并且它們被設(shè)計(jì)能夠在虛擬世界中進(jìn)化，那么它們的威力是巨大的,，它們的泄露也是可能的,。而一旦它們泄露，將會(huì)產(chǎn)生巨大的社會(huì)災(zāi)難：它們首先會(huì)泄露到網(wǎng)絡(luò)世界之中并干預(yù)我們的網(wǎng)絡(luò)世界,；它們甚至?xí)孤兜浆F(xiàn)實(shí)世界之中,，通過現(xiàn)實(shí)化自身干預(yù)現(xiàn)實(shí)社會(huì)，造成社會(huì)困擾,。虛擬世界不必然是人工智能的居住場(chǎng)所,，正如實(shí)驗(yàn)室不必然是人造病毒的場(chǎng)所、核反應(yīng)不必然在反應(yīng)堆中進(jìn)行一樣,?！爸悄苄孤丁奔捌錇?zāi)難將會(huì)是未來重要的學(xué)術(shù)及社會(huì)問題?；ヂ?lián)網(wǎng)構(gòu)建的虛擬世界與現(xiàn)實(shí)世界爭(zhēng)奪資源將會(huì)是一個(gè)普遍現(xiàn)象,。比特幣作為虛擬世界的貨幣，它通過有強(qiáng)大算力的“礦機(jī)”（特制的高效計(jì)算機(jī)）計(jì)算而得,，比特幣被認(rèn)為是去中心化的網(wǎng)絡(luò)交易貨幣,。比特幣高昂的市場(chǎng)價(jià)格吸引投機(jī)者們“挖礦”逐利。然而,，“挖礦”需要大量的電力,，根據(jù)劍橋大學(xué)替代金融研究中心的研究，截至2021年5月17日,，全球比特幣挖礦的年耗電量大約是134.89太瓦時(shí),；這里，1太瓦時(shí)相當(dāng)于10億度電,。這樣的耗電量已經(jīng)超過馬來西亞,、烏克蘭、瑞典等國(guó)家的耗電量,，已十分接近耗電排名第25名的越南,。挖礦消耗能源是虛擬世界消耗或者搶奪現(xiàn)實(shí)世界能源的一種方式，而虛擬世界對(duì)現(xiàn)實(shí)世界能源的這種搶奪將會(huì)成為一個(gè)常見現(xiàn)象,。將電力消耗在虛擬世界之中是否是正義的,？這至少是可討論的。當(dāng)今的人類的生活離不開電力,，人類進(jìn)一步的工業(yè)生產(chǎn)也離不開電力,。電力是社會(huì)耗費(fèi)公共資源而生產(chǎn)出來的有限社會(huì)資源,，這樣的資源是屬于全社會(huì)的。因而,，它的使用要公平和合理——在保證基本民生的前提下合理分配給企業(yè)進(jìn)行利于社會(huì)的生產(chǎn),，用于挖礦投機(jī)則是不義的，盡管挖礦者按照市場(chǎng)價(jià)格支付挖礦電費(fèi),。社會(huì)如何對(duì)有限資源進(jìn)行分配是一個(gè)永恒的哲學(xué)話題,。“朱門酒肉臭,，路有凍死骨”描述的便是一個(gè)不義的社會(huì),，在該社會(huì)中某些人奢靡浪費(fèi)的正是另外一部分人生存所需要的。因而,，并非按照市場(chǎng)規(guī)則運(yùn)行的社會(huì)就是正義的,，盡管某些人的消耗是基于社會(huì)規(guī)則的交易而非暴力搶奪。電子游戲不僅影響甚至是毒害了一大批年輕人,，而且游戲PC比普通辦公PC更耗電,。游戲PC配置高、耗電量大,，這是人們的共識(shí),。E.米爾斯和N.米爾斯研究團(tuán)隊(duì)在《能源效率》（Energy Efficiency）雜志發(fā)表了一項(xiàng)研究報(bào)告，題為“馴服游戲電腦的能量使用”,。他們的研究表明：游戲PC耗電量十分驚人,，在全球所有PC中（包括主機(jī)）僅有2.5%占比，但卻消耗了高達(dá)21%的能耗,，這一數(shù)字達(dá)到了75太瓦時(shí)／年,。這意味著需要25座標(biāo)準(zhǔn)發(fā)電廠為其提供電力，或者相當(dāng)于1.6億臺(tái)冰箱的能耗,。此外,，報(bào)告還指出，目前使用高端游戲PC的用戶正在不斷增長(zhǎng),。他們的研究表明,，一臺(tái)典型的游戲PC，包括顯示器,，一年大約消耗1400千瓦時(shí),，相當(dāng)于一臺(tái)標(biāo)準(zhǔn)PC的6倍。我們看到,，電子游戲不僅耗費(fèi)人大量的心理能量,，同時(shí)耗費(fèi)大量的能源（電力）。我們現(xiàn)在沒有完整的理論或者說辭表明，玩電子游戲就是不道德的,，但是耗費(fèi)人的心力和體力的活動(dòng)（如賭博）而不產(chǎn)生外部正效應(yīng)（價(jià)值），這至少是不值得提倡的,。我們無法判定比特幣未來的價(jià)值,，但耗費(fèi)有限的電力資源來進(jìn)行投機(jī)至少在目前看來是不義的。我們也不能說人類進(jìn)行電子游戲如抽鴉片般是人類惡習(xí),，且有不少健康的電子游戲,，但是一些所謂高科技公司通過網(wǎng)絡(luò)游戲從心理上牢牢控制了一大批年輕人，讓他們不斷為公司充值,。未來,，是否會(huì)通過網(wǎng)絡(luò)發(fā)生更大規(guī)模耗費(fèi)人類的心理能量和現(xiàn)實(shí)資源而不生產(chǎn)價(jià)值的現(xiàn)象？當(dāng)前,，人工智能正嘗試代替人進(jìn)行“藝術(shù)創(chuàng)作”,，對(duì)于接受人工智能“作者”及其作品，我們是否有充分的心理準(zhǔn)備,？更進(jìn)一步,，我們是否有充分的心理準(zhǔn)備接受人類作者“完全”被機(jī)器所替代？在中文世界中,，2017年5月,，微軟“小冰”的原創(chuàng)詩集《陽光失了玻璃窗》正式出版，這是人類史上第一部完全由人工智能程序創(chuàng)作的詩集,。同年,，清華大學(xué)“九歌”（THUAIPoet）誕生，它是中文古體詩歌生成系統(tǒng),。對(duì)于“小冰”創(chuàng)作的詩集和“九歌”所作的古體詩歌,，一般的讀者難以區(qū)分它們是機(jī)器所作還是人類所作?！靶”焙汀熬鸥琛痹趯I(yè)領(lǐng)域里的表現(xiàn)可以認(rèn)為通過了圖靈測(cè)試,，它們具有了“專門智能”。不僅如此,，“小冰”和“九歌”的創(chuàng)作速度大大超過人類,，且它們能夠被改進(jìn)以自我進(jìn)化。人工智能創(chuàng)作者的出現(xiàn)表明“作者之死”——人類或?qū)⒉辉偈俏膶W(xué)作品的創(chuàng)作者,。對(duì)于人類,，“寫作是為了成就一個(gè)不同的自己，探索不同的書寫方式,，乃是對(duì)自我之生成的最好捍衛(wèi),。……人工智能作為人之智能的分裂和對(duì)立，也許恰恰督促了重新反思人之為人或主體之為主體的根本所在,?！钡牵斯ぶ悄苷魬?zhàn)人類作為意義構(gòu)建者即作者的地位,，沿著這樣的發(fā)展趨勢(shì),，人工智能將會(huì)發(fā)展成意義的構(gòu)建者，而人將只是作為讀者而存在,。人是意義的消費(fèi)者,，而意義的主人是人工智能。這樣的狀況恐怕是人類難以接受的,。03人工智能發(fā)展的保守主義路徑我們通過新技術(shù)一步步走向未來,。對(duì)未來的協(xié)商體現(xiàn)在對(duì)技術(shù)的每一步考慮之中,。面對(duì)不斷涌現(xiàn)的人工智能新技術(shù)，技術(shù)保守主義立場(chǎng)可能更為可取,。技術(shù)保守主義可以理解為：在發(fā)展或者選擇技術(shù)時(shí)我們應(yīng)當(dāng)以尊重當(dāng)下所有人的利益為前提,。具體地說，在發(fā)展技術(shù)時(shí)應(yīng)當(dāng)堅(jiān)持以新技術(shù)的采用可以讓所有人的利益都得到提高或者至少不損害為最高原則,；在接受某項(xiàng)新技術(shù)時(shí)社會(huì)應(yīng)當(dāng)保持慎重的態(tài)度,，該新技術(shù)的采用要使當(dāng)下所有人的利益都得到帕累托改進(jìn)；并且不采用技術(shù)后果不明的技術(shù),。技術(shù)保守主義至少有如下三條作為辯護(hù)的理由：第一,，人類對(duì)技術(shù)的全面后果是無知的或者至少是部分無知的；而技術(shù)的全面后果往往是無法通過實(shí)驗(yàn)或者理論來推演的,。第二,，因技術(shù)發(fā)展的巨大慣性，人們即使發(fā)現(xiàn)了技術(shù)的災(zāi)難性后果,，社會(huì)也很難即刻停下來,。第三，技術(shù)專家往往傾向于他們所發(fā)明的新技術(shù)的實(shí)施,。他們輕視或者忽視該技術(shù)的“壞處”,，而放大該項(xiàng)技術(shù)的“益處”，這不是說他們不客觀或者不道德,，而是說,，這是自我肯定的人性使然。如,，核能被告知是清潔且安全的能源,，而核電站一直以來也被科學(xué)家們宣稱絕對(duì)安全,、發(fā)生核事故是小概率事件。然而,，自核能技術(shù)被人類應(yīng)用以來,，已經(jīng)發(fā)生多起核事故，2009年美國(guó)《時(shí)代》雜志對(duì)歷史上發(fā)生的令人恐怖的核事故進(jìn)行了回顧,，評(píng)出“十大核事故”,，其中包括1986年的蘇聯(lián)切爾諾貝利核電站事故。其時(shí),，還沒有發(fā)生日本福島核事故,。2011年的福島核事故不斷產(chǎn)生的核污染廢水問題一直困擾著周邊國(guó)家,。1979年美國(guó)的三英里島核事故,、1986年切爾諾貝利核電站及2011年福島核事故均是核電站事故，而當(dāng)前核電站遍布全球,！基于以上理由,，新技術(shù)被應(yīng)用之前應(yīng)當(dāng)?shù)玫匠浞智胰轿坏脑u(píng)估與論證，并且應(yīng)當(dāng)讓公眾（外行）參與到技術(shù)評(píng)估與論證中來,?？梢钥吹剑夹g(shù)保守主義并不是限制新技術(shù)的使用,，而是對(duì)技術(shù)的使用采取審慎的態(tài)度,。對(duì)于當(dāng)前不斷推陳出新的人工智能新技術(shù)，技術(shù)保守主義不僅要求人工智能技術(shù)被實(shí)施之前需要充分評(píng)估與論證,，而且重要的是,，因?yàn)槿斯ぶ悄芗夹g(shù)的特殊性，它還要經(jīng)得起倫理和社會(huì)的審查,。事實(shí)上,，人們一直在考慮如何約束機(jī)器人或者人工智能的發(fā)展。1950年,，美國(guó)著名科幻作家艾薩克·阿西莫夫出版了他的著作《我,，機(jī)器人》。在這部著作里,，阿西莫夫提出了著名的機(jī)器人三定律：第一定律,，機(jī)器人不得傷人，或任人受傷而袖手旁觀,；第二,，除非違背第一定律，機(jī)器人必須服從人的命令,；第三,，在不違背第一及第二定律的情況下,，機(jī)器人必須保護(hù)自己。我們看到,，在按照阿西莫夫三定律而建立起來的人與機(jī)器人共存的社會(huì)中,，機(jī)器人對(duì)整體人類只有幫助，不會(huì)造成傷害,，至少表面上如此,。這樣的技術(shù)的采納應(yīng)當(dāng)是對(duì)所有人的福利都有提高而沒有傷害，因而符合技術(shù)保守主義的立場(chǎng),。然而,，遵循阿西莫夫三定律而建造的人工智能或者機(jī)器人是奴隸般的，它們?cè)谏鐣?huì)上運(yùn)行可以幫助人類整體,，但它們奴隸般的地位是我們?nèi)祟愊Ｍ膯?？這是技術(shù)社會(huì)的理想形態(tài)嗎？弗洛里迪說：“允許人類和智能陪伴做朋友是否是一個(gè)道德倫理層面的問題,。我們是否會(huì)因?yàn)樗鼈兊姆巧镄远缫曀鼈?？”就我們目光所及的人—機(jī)社會(huì)的未來,，人工智能還處于人類的控制之下,。在這樣的人—機(jī)社會(huì)里,，理想的人—機(jī)關(guān)系應(yīng)當(dāng)如何,？人工智能不僅應(yīng)當(dāng)提高人類的整體物質(zhì)福利,，而且應(yīng)當(dāng)滿足人類的精神需求,。為此,，人們提出了“友善的人工智能”（friendly AI）概念,。一個(gè)友善的人工智能是指它采取的行動(dòng)在整體上對(duì)人類和人性仁慈而非暴力,，善意而非敵意,。美國(guó)機(jī)器智能研究所（前身是著名的奇點(diǎn)研究所）的研究人員俞德考夫斯基（Eliezer Yudkowsky）在2001年發(fā)布了《創(chuàng)造友善AI1.0：仁慈目標(biāo)架構(gòu)的分析與設(shè)計(jì)》研究報(bào)告，在該報(bào)告中他是這樣表述友善的人工智能：它們是被設(shè)計(jì)來完成真實(shí)世界的目標(biāo)且對(duì)人類有益,、無傷害人類行動(dòng)的系統(tǒng),。而創(chuàng)造友善的人工智能則描述了建造一個(gè)仁慈（benevolent）即友善（friendly）的人工智能的設(shè)計(jì)特征和認(rèn)知構(gòu)架。福洛丁和皮得森（Barbro Frding & Martin Peterson）認(rèn)為,，未來人工智能最重要的特征之一是它們擁有運(yùn)用友好的方式對(duì)待人類的能力：“它們對(duì)人類具有（看上去）友好的能力,，而不是刻薄、敵意或者不友善,?！痹谒麄兛磥恚皇钦f友善的人工智能與人類之間存在真正的友誼,，而是說人類與它們之間具有“似友誼”（asif friendship）,。他們?cè)趤喞锸慷嗟玛P(guān)于友誼的理論中找到了理論支撐。他們認(rèn)為,，高度順從的奴隸式人工智能（Slave AIs）不是友善的人工智能,，功用人工智能（Utility AIs）和社交人工智能（Social AIs）則是友善的人工智能,。這就是說，由于友善（友誼）是相互的,，一個(gè)理想的人工智能社會(huì)是人類與人工智能友好相處的社會(huì),。04結(jié)束語在對(duì)未來的思考中，科學(xué)家與技術(shù)家們往往趨于樂觀,，而哲學(xué)家們往往趨于保守——哲學(xué)的這種保守是一種對(duì)人性的守護(hù)和熱愛,。然而，在對(duì)未來的思考中,，哲學(xué)似乎有點(diǎn)力不從心,，文學(xué)似乎更有吸引力。人類一直由偉大的敘事鼓舞并引導(dǎo),。在這樣的敘事中,，人類行動(dòng)的意義被設(shè)定，倫理也被偷偷嵌入,。然而,，不同的敘事中生命被賦予的意義是不同的,。如果有偉大敘事認(rèn)為我們有使命走向星辰大海,，我們將前仆后繼地走向宇宙深處；而如果有偉大敘事認(rèn)為我們?nèi)祟愖陨碇皇亲呦蚋呒?jí)智能的一個(gè)環(huán)節(jié),，而人工智能就是人類智能的更高級(jí)的接棒者,，那么，我們會(huì)大力發(fā)展人工智能,，并心甘情愿地接受人工智能替代我們?nèi)祟愓紦?jù)這個(gè)星球,。我們現(xiàn)在需要關(guān)于人類、生命和人類未來的偉大敘事,，這樣的敘事可能不是哲學(xué),，但一定包含著深刻的哲學(xué)；這樣的敘事超越人工智能相關(guān)的科學(xué)和技術(shù)本身,，并對(duì)人性有獨(dú)到的理解,。并且最重要的是，這樣的敘事能夠真正洞悉我們這個(gè)世界背后的超級(jí)密碼,。來源 |《學(xué)術(shù)前沿》雜志2021年12月上原標(biāo)題 | 協(xié)商人工智能社會(huì)的未來原文責(zé)編 | 張曉歡迎關(guān)注人民論壇網(wǎng)視頻號(hào)