歷史上,，每一次技術(shù)上的突飛猛進(jìn)都會(huì)造成人類(lèi)社會(huì)結(jié)構(gòu)的巨大變革,。人工智能的快速發(fā)展向人類(lèi)展現(xiàn)了未來(lái)社會(huì)的多種可能性,。然而,，人工智能在給人類(lèi)帶來(lái)福祉的同時(shí)也在給社會(huì)帶來(lái)現(xiàn)實(shí)的或者可能的“技術(shù)代價(jià)”,。南京大學(xué)哲學(xué)系教授潘天群認(rèn)為，面對(duì)當(dāng)前快速發(fā)展的智能技術(shù),，人類(lèi)要立足當(dāng)下對(duì)未來(lái)進(jìn)行協(xié)商,，在人類(lèi)未來(lái)的多種可能性中共同選擇或者設(shè)計(jì)一個(gè)對(duì)人類(lèi)有利的未來(lái)。更多精彩觀點(diǎn),，一起來(lái)看《學(xué)術(shù)前沿》最新文章,。來(lái)源 | 《學(xué)術(shù)前沿》雜志及人民論壇網(wǎng)（rmltwz）轉(zhuǎn)載請(qǐng)注明來(lái)源01社會(huì)增強(qiáng)的智能技術(shù)在生存競(jìng)爭(zhēng)中,，人類(lèi)（智人）因?yàn)橛辛死硇裕渌锓N已經(jīng)無(wú)法與人類(lèi)抗衡,，人類(lèi)便開(kāi)始了與自己的生存博弈：不同社會(huì)或者人類(lèi)集團(tuán)之間進(jìn)行競(jìng)爭(zhēng),。在這種新的競(jìng)爭(zhēng)類(lèi)型中，發(fā)明并使用先進(jìn)技術(shù)尤其是顛覆性技術(shù),，被實(shí)踐證明是有效的獲勝策略,。不同歷史階段有不同的先進(jìn)工具，從原始社會(huì)的石器,、文明之初的青銅器,、農(nóng)業(yè)時(shí)代的鐵器，到近代的各種電力驅(qū)動(dòng)下的機(jī)器以及當(dāng)前的通用機(jī)器計(jì)算機(jī),，這些工具中包含了時(shí)代最先進(jìn)的競(jìng)爭(zhēng)性技術(shù),，相對(duì)于不采用它們是“占優(yōu)策略”——采用者在競(jìng)爭(zhēng)中得分高或者勝出，不采用者得分低或者出局,。這樣,，人類(lèi)社會(huì)一直是技術(shù)社會(huì)（technosociety）——“技術(shù)社會(huì)是人與技術(shù)高度融合的社會(huì)，在這樣的社會(huì)中人與人之間的交流,、交易等互動(dòng),，以及人或者集團(tuán)應(yīng)對(duì)外部自然，都高度依賴技術(shù),。在技術(shù)社會(huì)中技術(shù)及技術(shù)產(chǎn)品或者人工物（artifact）是這個(gè)社會(huì)中的一部分,。”通過(guò)技術(shù)的相互競(jìng)爭(zhēng)人類(lèi)社會(huì)整體增強(qiáng)了,，即人類(lèi)一直在通過(guò)技術(shù)發(fā)展而進(jìn)行“社會(huì)增強(qiáng)”（society enhancement）?，F(xiàn)在輪到人工智能技術(shù)出場(chǎng)來(lái)進(jìn)行社會(huì)增強(qiáng)了。人工智能,，簡(jiǎn)單說(shuō)來(lái),，就是人建造可替代人類(lèi)心靈來(lái)進(jìn)行工作的機(jī)器,。20世紀(jì)50年代，科學(xué)家提出了人工智能概念并開(kāi)始了偉大的實(shí)踐,。人工智能的出現(xiàn)是計(jì)算機(jī)被建造后的自然結(jié)果——1946年,，人類(lèi)第一臺(tái)計(jì)算機(jī)ENIAC得以建成。計(jì)算,、思維與智能三者難以分開(kāi),，而用機(jī)器來(lái)解決復(fù)雜的計(jì)算本身就是高度智能化的事情，至少在當(dāng)時(shí)人們是這么認(rèn)為的,。因而,，我們?cè)诳紤]對(duì)人工智能發(fā)展作出貢獻(xiàn)的英雄如圖靈、西蒙時(shí),，不要忘了計(jì)算機(jī)之父馮·諾依曼——當(dāng)然,，馮·諾依曼在多個(gè)領(lǐng)域中都作出了偉大的貢獻(xiàn)，指出他在人工智能上的貢獻(xiàn)只是錦上添花,。有了計(jì)算機(jī)后,，人們便探索如何讓計(jì)算機(jī)擁有像人那樣的智能，而不僅僅是實(shí)現(xiàn)人腦的部分功能即計(jì)算功能,。今天人類(lèi)社會(huì)被高速發(fā)展的智能技術(shù)不斷嵌入和重構(gòu),。當(dāng)下的社會(huì)已經(jīng)是智能型社會(huì)，或者簡(jiǎn)單說(shuō),，智能社會(huì),。人工智能技術(shù)對(duì)人類(lèi)生活、工作與交往全面滲透,，人類(lèi)社會(huì)被整體“增強(qiáng)”,，盡管若干年后當(dāng)我們回看時(shí)會(huì)認(rèn)為今天的社會(huì)最多是“原始的”智能社會(huì)?？茖W(xué)家,、工程師以及企業(yè)家們，不關(guān)心哲學(xué)家關(guān)于“人工智能”是否可能的學(xué)理爭(zhēng)論,，他們也不關(guān)心強(qiáng)人工智能與弱人工智能之爭(zhēng),；這里，強(qiáng)人工智能是指那種具有理解能力的機(jī)器,，而弱人工智能是指能夠通過(guò)圖靈檢驗(yàn)即貌似有人的智能的機(jī)器,。他們根據(jù)社會(huì)需求開(kāi)發(fā)出各種智能技術(shù)產(chǎn)品，而這些產(chǎn)品的社會(huì)化又進(jìn)一步刺激或者促進(jìn)新的社會(huì)需求,。當(dāng)前,，不僅僅有谷歌公司開(kāi)發(fā)的圍棋智能程序AlphaGo、AlphaZero和分析蛋白質(zhì)結(jié)構(gòu)的智能程序AlphaFold這樣“小眾”的人工智能程序,，而且有各類(lèi)科技公司開(kāi)發(fā)的大量“大眾化”的市場(chǎng)化人工智能產(chǎn)品,，如各種人工智能客服、商場(chǎng)的問(wèn)路機(jī)器人,、汽車(chē)導(dǎo)航系統(tǒng),，以及逐漸成熟的智能陪伴機(jī)器人等。這些市場(chǎng)化產(chǎn)品達(dá)不到弱人工智能的標(biāo)準(zhǔn),，它們最多在某個(gè)領(lǐng)域中“看上去”具有某種程度的智能表現(xiàn),。因此，通用智能（全域智能）和專(zhuān)門(mén)智能（局域）兩個(gè)概念更能有效對(duì)這些產(chǎn)品進(jìn)行描述,，通用智能（全域智能）指的是能夠解決環(huán)境中所有問(wèn)題的智能,，而專(zhuān)門(mén)智能（局域智能）指的是能夠解決環(huán)境中的某一類(lèi)問(wèn)題的智能。這些不斷出現(xiàn)的各種人工智能產(chǎn)品不僅僅為我們提供了生活便利,，更重要的是它們打開(kāi)了人們對(duì)未來(lái)的想象空間,。人們開(kāi)始展望人工智能社會(huì)的未來(lái)。弗洛里迪說(shuō)：“我們正在經(jīng)歷著一場(chǎng)意義深遠(yuǎn)的圖靈革命,，這場(chǎng)革命在很大程度上由信息與通訊技術(shù)驅(qū)動(dòng),。”根據(jù)弗洛里迪的分析,，人類(lèi)歷史上發(fā)生了三次顛覆性的自我認(rèn)知的革命,，它們分別為“哥白尼日心說(shuō)理論”、“達(dá)爾文的生物進(jìn)化論”和“弗洛伊德的精神分析理論”,；而當(dāng)下“圖靈革命”可以與它們相提并論,。哥白尼革命之后地球失去了宇宙中心的榮耀，但人類(lèi)仍認(rèn)為自己是地球的主宰,；達(dá)爾文于1859年發(fā)表的《物種起源》則告訴我們,，所有事物都來(lái)自于共同的祖先并在自然選擇下不斷進(jìn)化，人類(lèi)并不是萬(wàn)物之靈,；弗洛伊德揭示了人類(lèi)大腦中無(wú)意識(shí)的存在,，意識(shí)只是冰山一角、并被無(wú)意識(shí)所控制,，因而我們不是意識(shí)（心靈）的絕對(duì)控制者,。在弗洛里迪看來(lái)，圖靈革命使人類(lèi)喪失了“獨(dú)一無(wú)二性”,，人類(lèi)不再是信息圈的中心,。弗洛里迪說(shuō)：“圖靈使我們認(rèn)識(shí)到，人類(lèi)在邏輯推理,、信息處理和智能行為領(lǐng)域的主導(dǎo)地位已經(jīng)不復(fù)存在,，人類(lèi)已不再是信息圈毋庸置疑的主宰，數(shù)字設(shè)備代替人類(lèi)執(zhí)行了越來(lái)越多的原本需要人的思想來(lái)解決的任務(wù),，而這使得人類(lèi)被迫一再地拋棄一個(gè)又一個(gè)人類(lèi)自認(rèn)為獨(dú)一無(wú)二的地位,?！边@些非人類(lèi)智能體的數(shù)字設(shè)備，盡管目前不如人類(lèi)聰明,，但它們可以輕而易舉地超越我們,，并且承擔(dān)越來(lái)越多的任務(wù)。如果弗洛里迪說(shuō)的是對(duì)的,，那么,，那些能夠進(jìn)行信息處理的機(jī)器應(yīng)當(dāng)與人類(lèi)有一樣的地位。漢斯·莫拉維克認(rèn)為,，人類(lèi)的身份在本質(zhì)上是一種信息形式,，而不是一種實(shí)體化的規(guī)定與表現(xiàn)。因而,，他認(rèn)為在不久的將來(lái),，人類(lèi)可以將人的意識(shí)“上傳”（upload）到計(jì)算機(jī)內(nèi)。他的將意識(shí)上傳到計(jì)算機(jī)中的觀點(diǎn)為學(xué)者們所熱烈討論,。意識(shí)是作為生物體大腦的功能,，因而筆者極度懷疑“意識(shí)的內(nèi)容”能夠通過(guò)非生物的設(shè)備被完全“讀取”從而被上傳。莫拉維克的另外一個(gè)更重要的激進(jìn)觀點(diǎn)是,，將機(jī)器看成是人類(lèi)心靈的孩子（mind children）,。他說(shuō)，今天,，我們的機(jī)器仍然是簡(jiǎn)單的創(chuàng)造物,；它們需要作為父母的我們的關(guān)心，新生兒還需要呵護(hù),。今天它們幾乎不值得用“智能”這個(gè)詞,。但是，“在下個(gè)世紀(jì)內(nèi),，它們將發(fā)展成和我們一樣復(fù)雜的成熟實(shí)體,，并最終發(fā)展成為某種超越我們所知的一切事物的事物——并且當(dāng)我們稱它們?yōu)槲覀兊暮蟠鷷r(shí)，我們感到驕傲,?！边@樣的人工智能機(jī)器將接替我們，“從漫長(zhǎng)的生物進(jìn)化中解放出來(lái),，我們的心靈的孩子將自由成長(zhǎng),，它們將面對(duì)更大宇宙的巨大和根本挑戰(zhàn)。我們?nèi)祟?lèi)在一段時(shí)間里將從它們的勞作中受益,，但遲早它們會(huì)像自然的孩子一樣探索自己的命運(yùn),，而我們，它們年邁的父母,，則默默地等待消失,?！蹦S克相信具有智能的機(jī)器人將在50年內(nèi)出現(xiàn)——他寫(xiě)作《心靈的孩子》是在1988年。對(duì)于人工智能或者機(jī)器人的未來(lái),，馬文·明斯基說(shuō),，機(jī)器取代“我們”這樣的思考方式?jīng)]有意義。他同意莫拉維克的“機(jī)器是我們心靈的孩子”的觀點(diǎn),。他認(rèn)為,，機(jī)器是進(jìn)化的必然產(chǎn)物,，“在過(guò)去,，我們傾向于將自己視為進(jìn)化的最終產(chǎn)物——但我們的進(jìn)化并沒(méi)有停止。事實(shí)上,，我們現(xiàn)在進(jìn)化得更快了——盡管不是以我們熟悉的,、緩慢的達(dá)爾文方式。我們?cè)缭撻_(kāi)始思考我們新的身份了,。我們現(xiàn)在可以設(shè)計(jì)基于新型‘非自然選擇’的系統(tǒng),，這種系統(tǒng)可以利用明確的計(jì)劃和目標(biāo)，也可以利用獲得性的遺傳,。進(jìn)化論者花了一個(gè)世紀(jì)的時(shí)間來(lái)使自己避免這些想法——生物學(xué)家稱之為‘目的論’和拉馬克主義,，但是，現(xiàn)在我們可能不得不改變這些規(guī)則,！”明斯基從生物進(jìn)化史中得到了“目的論”生物觀：心靈是所有生物在進(jìn)化中的一個(gè)目標(biāo),，而機(jī)器作為心靈之子將繼續(xù)在地球上生存與演化。他說(shuō)：“機(jī)器人會(huì)繼承（inherit）地球嗎,？是的,。但它們會(huì)是我們的孩子。我們的心靈的產(chǎn)生要?dú)w功于參與進(jìn)化斗爭(zhēng)的所有生物的生與死,。而我們的工作是確保所有這些工作不會(huì)白白浪費(fèi),。在人工智能未來(lái)展望中，沒(méi)有概念比“智能爆炸”或者奇點(diǎn)（singularity）概念更有沖擊力了,。奇點(diǎn)概念最早由統(tǒng)計(jì)學(xué)家古德（I. J. Good）所提出,。古德在《關(guān)于第一臺(tái)超智能機(jī)器的猜測(cè)》（1965）中寫(xiě)道：“讓我們把超智能機(jī)器定義為一種可以遠(yuǎn)遠(yuǎn)超越任何聰明的人類(lèi)的所有智能活動(dòng)的機(jī)器。由于機(jī)器的設(shè)計(jì)是智能活動(dòng)之一,，超智能機(jī)器或也將可以設(shè)計(jì)出更好的機(jī)器,；到那時(shí)，毫無(wú)疑問(wèn)會(huì)出現(xiàn)‘智能爆炸’,，而人類(lèi)的智能將被遠(yuǎn)遠(yuǎn)地拋在后面,。因此，第一臺(tái)超智能機(jī)器是人類(lèi)要做的最后一項(xiàng)發(fā)明,?！逼纥c(diǎn)不是幻想家的純粹遐想,，它是具有智慧的學(xué)者們根據(jù)當(dāng)前技術(shù)狀況及發(fā)展趨勢(shì)所作出的關(guān)于未來(lái)的深刻洞見(jiàn)。奇點(diǎn)概念強(qiáng)烈沖擊著社會(huì),，而被學(xué)術(shù)界所抵制,，哲學(xué)家大衛(wèi)·查爾莫斯（D. Chalmers）不滿學(xué)術(shù)界的這種傲慢。他認(rèn)為,，我們應(yīng)當(dāng)嚴(yán)肅對(duì)待奇點(diǎn)論證,，圍繞奇點(diǎn)產(chǎn)生的哲學(xué)討論具有極大的實(shí)踐和哲學(xué)意義。在實(shí)踐上,，查爾莫斯說(shuō)：“如果真有奇點(diǎn)的話,，那將是這個(gè)星球歷史上最重要的事件之一。智能爆炸有巨大的潛在好處：治愈所有已知疾病,，終結(jié)貧困,，獲得非凡的科學(xué)進(jìn)步，等等,。它也有巨大的潛在危險(xiǎn)：人類(lèi)的終結(jié),，交戰(zhàn)機(jī)器的軍備競(jìng)賽，毀滅地球的力量,。因此,，哪怕只有極小的概然性會(huì)出現(xiàn)奇點(diǎn)，我們也應(yīng)該好好思考它可能會(huì)以何種形式出現(xiàn),，以及我們是否可以做些什么以讓結(jié)果朝著積極的方向發(fā)展,。”而在哲學(xué)上,，奇點(diǎn)提出了許多重要的哲學(xué)問(wèn)題,，查爾莫斯說(shuō)：“智能爆炸的基本論點(diǎn)本身在哲學(xué)上就很有趣，并使我們認(rèn)真思考智能的本質(zhì)和人工智能的心智能力,。智能爆炸的潛在后果使我們認(rèn)真思考價(jià)值觀,、道德、意識(shí)和個(gè)人同一性的問(wèn)題,。實(shí)際上,，奇點(diǎn)喚起了一些最棘手的傳統(tǒng)哲學(xué)問(wèn)題，同時(shí)也提出了一些新的哲學(xué)問(wèn)題,?！睂?duì)是否將有奇點(diǎn)的問(wèn)題，查爾莫斯的看法是,，奇點(diǎn)的發(fā)生是無(wú)疑的,，而如果有障礙阻止它發(fā)生，主要障礙可能是動(dòng)機(jī)上的而不是能力上的。因此,，查爾莫斯說(shuō),，我們要做的是與奇點(diǎn)協(xié)商，將適當(dāng)?shù)膬r(jià)值植入機(jī)器,，先在虛擬世界中構(gòu)建最初的那種人工智能以保證可控,，等等。歷史中并不包含未來(lái),，但人們傾向于從歷史中“歸納”而推理未來(lái),、從歷史中“找到”未來(lái)。然而,，不同的人根據(jù)對(duì)歷史的不同的觀察會(huì)得到不同甚至相反的未來(lái),。弗洛里迪無(wú)非是在論證當(dāng)前的人工智能革命或者圖靈革命的意義，可以與哥白尼日心說(shuō),、達(dá)爾文的進(jìn)化論和弗洛伊德的精神分析理論的意義相比擬,；莫拉維克和明斯基則將人類(lèi)心靈作為生物演化的最后產(chǎn)品,，而這樣的演化接力棒應(yīng)當(dāng)由機(jī)器承接下去,；而奇點(diǎn)論者則是從技術(shù)的加速變化中“看到了”智能機(jī)器的未來(lái)……這里，我們沒(méi)有闡述哲學(xué)家如德雷福斯和塞爾對(duì)人工智能技術(shù)的不樂(lè)觀的觀點(diǎn),。我們不能說(shuō)哪種觀點(diǎn)及其歸納論證是正確的或者更接近真理,，正如休謨所說(shuō)的，這種根據(jù)過(guò)去經(jīng)驗(yàn)的外推是人類(lèi)的一種沒(méi)有邏輯根據(jù)的心理傾向,。但是,，這些根據(jù)當(dāng)下和歷史對(duì)未來(lái)的“外推”具有社會(huì)意義，它們能夠幫助人類(lèi)思考未來(lái),、選擇未來(lái),。02智能技術(shù)帶來(lái)的可能的技術(shù)代價(jià)新技術(shù)與社會(huì)的融合能夠給社會(huì)帶來(lái)利益,，同時(shí)也會(huì)帶來(lái)傷害。新技術(shù)帶給社會(huì)的傷害可以看作是社會(huì)要付出的“技術(shù)代價(jià)”,，這樣的代價(jià)是社會(huì)整體為技術(shù)發(fā)展而所要付出的總體成本,。在信息技術(shù)發(fā)展的短暫時(shí)間里，許多人尤其是青少年沉湎于電子游戲甚至患上網(wǎng)癮,，這已經(jīng)是不爭(zhēng)的事實(shí),。信息技術(shù)給社會(huì)帶來(lái)的巨大利益使得它的發(fā)展不可阻擋；而對(duì)于沉湎于游戲甚至染上網(wǎng)癮的孩子,，其家庭自動(dòng)地歸責(zé)于自己或者是某個(gè)偶然原因,，而不會(huì)將責(zé)任歸于社會(huì)發(fā)展信息技術(shù)。從技術(shù)的社會(huì)化角度來(lái)看,，這便是社會(huì)為發(fā)展信息技術(shù)所要付出的“技術(shù)代價(jià)”,。某種技術(shù)對(duì)某個(gè)個(gè)體的傷害可能只是概率上的或者是偶然的,，而某些技術(shù)對(duì)社會(huì)的傷害則是必然的，只不過(guò)不同的技術(shù)給社會(huì)造成的傷害形式及傷害程度是不同的,。社會(huì)要權(quán)衡的是相應(yīng)技術(shù)的代價(jià)是否是可接受的,。汽車(chē)使人們出行更便利，然而汽車(chē)的普及造成了大量的交通事故與死亡人數(shù),；而假設(shè)沒(méi)有現(xiàn)代交通系統(tǒng),，許多死亡就可以避免。據(jù)統(tǒng)計(jì),，2017年～2019年,，中國(guó)每年交通事故死亡人數(shù)約為6.3萬(wàn)。盡管人們逐漸適應(yīng)現(xiàn)代交通技術(shù)系統(tǒng),，相對(duì)于汽車(chē)保有量,，交通事故率也在降低，但是中國(guó)汽車(chē)總量在逐年增加,，因?yàn)榻煌ㄊ鹿识劳龅目側(cè)藬?shù)并沒(méi)有進(jìn)一步下降,。這些死亡或者傷殘是現(xiàn)代交通技術(shù)給社會(huì)帶來(lái)的不可避免的代價(jià)，盡管它們不是唯一的代價(jià),。社會(huì)可以通過(guò)采取各種可能的措施降低傷害,，但是這樣的傷害有一個(gè)不可降低的“下限”。日本是交通事故率較低的國(guó)家,，據(jù)報(bào)道,，2017年，日本因交通事故而死亡人數(shù)只有3000余人,；日本政府希望將交通事故死亡人數(shù)控制在2500人以下,，而實(shí)際上這是難以完成的目標(biāo)——這樣便是現(xiàn)代汽車(chē)系統(tǒng)運(yùn)行下不可再低的代價(jià)。我們通常對(duì)交通事故中的死亡或傷殘的人態(tài)度漠然,，認(rèn)為那是必然的“不幸”,，如同自然死亡或者生病一樣。我們習(xí)慣于將每年因交通事故而死亡的人數(shù)只看作一個(gè)數(shù)字,，沒(méi)有人怪罪或者攻擊現(xiàn)代交通系統(tǒng),，而事故家庭只能怪罪自己的不幸或者交通肇事者。人們認(rèn)為現(xiàn)代交通系統(tǒng)的采用是必然的,，而沒(méi)有現(xiàn)代交通系統(tǒng)是不可想象的,。然而，有些技術(shù)的不被采用是可想象的,。據(jù)美國(guó)網(wǎng)站提供的數(shù)據(jù),，1999年～2016年，美國(guó)67.7%的謀殺案是由槍支造成的，總共有213175人死亡,，即平均每年有11843人死于槍擊謀殺,。我們當(dāng)然不能將這些謀殺案造成的死亡人數(shù)全部歸因于槍支合法化，因?yàn)榧僭O(shè)沒(méi)有槍支合法化,，其中的部分死亡者也會(huì)被其他方式所謀殺,。但是槍支合法化使得謀殺變得容易，因而,，美國(guó)平均每年1萬(wàn)多人的槍擊謀殺死亡中有很大比例應(yīng)當(dāng)歸因于槍支合法化,，這些死亡是社會(huì)為槍支使用合法化所付出的技術(shù)代價(jià)。在美國(guó),，人們經(jīng)?？棺h政府而要求禁槍?zhuān)驗(yàn)槿娼麡尩纳鐣?huì)是可想象且一定程度可接受的社會(huì)。因此,，現(xiàn)代交通系統(tǒng)是所有社會(huì)協(xié)商出來(lái)的結(jié)果,，而槍支合法化也是美國(guó)這個(gè)國(guó)家協(xié)商出來(lái)的結(jié)果。人類(lèi)處于高度互聯(lián)時(shí)代,，人類(lèi)的理性或者嚴(yán)格地說(shuō)“集體理性”得以彰顯,。這樣的理性體現(xiàn)在人類(lèi)關(guān)于未來(lái)的協(xié)商中。這種協(xié)商不僅僅體現(xiàn)在集體理性對(duì)個(gè)體理性困境——如囚徒困境——的克服中,，而且更重要的是,，人類(lèi)能夠?qū)θ祟?lèi)未來(lái)進(jìn)行整體地考慮,，分析未來(lái)的各種可能性,，權(quán)衡利弊，選擇并確定未來(lái),。在協(xié)商人工智能社會(huì)的未來(lái)時(shí),，我們首先得要弄清人工智能給社會(huì)帶來(lái)的可能代價(jià)是什么，因?yàn)橹挥信蹇赡艿拇鷥r(jià),，我們才能進(jìn)行利弊權(quán)衡,。人工智能會(huì)使人類(lèi)整體性地淪為徹底的“無(wú)用階級(jí)”嗎？機(jī)器作為勞動(dòng)的替代物而被設(shè)計(jì)和制造出來(lái),，它天生與勞動(dòng)處于對(duì)立的關(guān)系,；這一點(diǎn)上人工智能也一樣。傳統(tǒng)機(jī)器替代人的體力,，被替代的勞動(dòng)者因具有智力上的優(yōu)勢(shì),，其替代是暫時(shí)的，從理論上講被替代的勞動(dòng)者能夠通過(guò)學(xué)習(xí)新知識(shí)而找到新的工作,。與傳統(tǒng)機(jī)器不同的是,，人工智能替代的是人的智力，它們能夠進(jìn)行勞動(dòng)，能夠代替人的勞動(dòng)而創(chuàng)造價(jià)值——在這個(gè)意義上,，馬克思的勞動(dòng)價(jià)值論也面臨著挑戰(zhàn),。而一旦人工智能形成規(guī)模并在智能上完全超越人類(lèi)，人工智能能夠完全接替人類(lèi)來(lái)創(chuàng)造價(jià)值,，人便沒(méi)有了價(jià)值,；而無(wú)需等到超級(jí)智能機(jī)器被設(shè)計(jì)出來(lái)（奇點(diǎn)）的那一天。屆時(shí),，地球上將由人工智能機(jī)器統(tǒng)治,，正如明斯基和莫拉維克所認(rèn)為的那樣。對(duì)人類(lèi)來(lái)說(shuō),，這樣的代價(jià)可能“太大了”,，至少是當(dāng)下的大多數(shù)人所不能接受的。當(dāng)然,，很有可能的是,，未來(lái)的人類(lèi)會(huì)贊同明斯基等人的觀點(diǎn)，人類(lèi)與機(jī)器人都是“我們”,，而機(jī)器人將是人類(lèi)心靈的孩子,，人類(lèi)心甘情愿地讓它們作為我們的后代接管地球！智能社會(huì)中人群會(huì)面臨被機(jī)器算法全面操控的風(fēng)險(xiǎn),。當(dāng)前,，我們已經(jīng)被算法部分操控。智能手機(jī)上的各種推送,，是計(jì)算機(jī)視覺(jué)根據(jù)它所“看到”的我們的偏好而精準(zhǔn)投放的,。大數(shù)據(jù)是信息技術(shù)系統(tǒng)在與人類(lèi)社會(huì)交互中所產(chǎn)生的巨量信息；無(wú)論如何,，它們是個(gè)體或者群體行為的相關(guān)信息——太空中獲取的星體數(shù)據(jù)不能成為大數(shù)據(jù),，盡管它們是科學(xué)儀器“觀察”和“加工”后的信息。大數(shù)據(jù)被認(rèn)為包含著巨大的價(jià)值,，或者巨大的商業(yè)價(jià)值,，因?yàn)檫@些大數(shù)據(jù)中包含由個(gè)體信息和個(gè)體偏好形成的群體偏好或者規(guī)律。我們被數(shù)據(jù)化從而被客體化,，同時(shí)被計(jì)算與預(yù)測(cè),。基于大數(shù)據(jù)的計(jì)算便是基于個(gè)體組成的群體的行為信息之上,，這樣個(gè)體的“行”和“為”,，乃至“思”和“想”都被關(guān)注、收集與計(jì)算,。因而,，盡管可能的是,，在算法設(shè)計(jì)時(shí)通過(guò)將倫理嵌入到算法之中保證沒(méi)有人在背后對(duì)作為數(shù)據(jù)對(duì)象的個(gè)體進(jìn)行“偷窺”，但實(shí)際上,，群體被偷窺,，商業(yè)價(jià)值和政治目的便通過(guò)群體被偷窺而實(shí)現(xiàn)。由大數(shù)據(jù)而產(chǎn)生的價(jià)值是通過(guò)偷窺我們的行為以及這些行為背后的思想,，從而預(yù)測(cè)乃至操控我們的行為來(lái)實(shí)現(xiàn)的,。掌握數(shù)據(jù)的公司可以通過(guò)投放某些數(shù)據(jù)擾動(dòng)人群，對(duì)人群進(jìn)行操縱,，這種操縱可以是商業(yè)的,，也可以是政治的。這種操縱如同羊群被恐嚇聲所驅(qū)趕或者被投放的食物所吸引,。個(gè)體數(shù)據(jù)是大數(shù)據(jù)時(shí)代個(gè)體的新的身份,。這是數(shù)據(jù)化個(gè)體的時(shí)代，我們無(wú)處可逃,。而對(duì)我們的數(shù)據(jù)進(jìn)行操作則是需要規(guī)制的,。對(duì)于個(gè)體而言，存在“不可數(shù)據(jù)化”的東西（如隱私）和可數(shù)數(shù)據(jù)化的部分,，不可數(shù)據(jù)化的邊界在哪里,？可數(shù)據(jù)化的使用權(quán)限在哪里？等等,。數(shù)據(jù)化個(gè)體并對(duì)群體進(jìn)行這種操縱可能催生新型的政治或者商業(yè)模式,，我們得適應(yīng)并運(yùn)用政策與倫理規(guī)制這種操縱；我們需要考慮并建立新型的政治或者商業(yè)倫理以及制定相應(yīng)的治理政策,?；诨ヂ?lián)網(wǎng)的“虛擬世界”正“廢物化”人類(lèi)。每個(gè)人都會(huì)做夢(mèng),，每個(gè)人也能夠進(jìn)行幻想,。做夢(mèng)是人的心靈處于沉睡狀態(tài)下心理的自然呈現(xiàn)；而與夢(mèng)境不同的是,，幻想是人的心靈的正常功能，它是對(duì)現(xiàn)實(shí)狀態(tài)的理性超越,?；孟胧窍胂笠幌盗蟹钦鎸?shí)的事件；或者說(shuō)幻想是在構(gòu)建某個(gè)虛擬世界,，在這個(gè)世界中有一系列引發(fā)行為主體情緒的虛擬事件發(fā)生,，這樣的系列事件盡管不符合現(xiàn)實(shí)，但它們之間一定符合邏輯,。夢(mèng)境只能是私人的,，人們無(wú)法“共同做夢(mèng)”——不同的人無(wú)法進(jìn)入同一個(gè)夢(mèng)境,；但是人們可以“共同幻想”。共同幻想是指不同的人在同一個(gè)現(xiàn)實(shí)時(shí)空中共同構(gòu)建某個(gè)虛擬世界,，或者進(jìn)入某個(gè)虛擬世界中一起進(jìn)行新的想象,。人類(lèi)的神話、文學(xué)等便是特定群體的共同幻想,。而今天互聯(lián)網(wǎng)為人們搭建了一個(gè)新的共同幻想的平臺(tái),。人們能夠通過(guò)互聯(lián)網(wǎng)進(jìn)入同一個(gè)“虛擬世界”，“共同地”且全身心地沉浸到某個(gè)幻境中并進(jìn)行新的幻想,。每個(gè)人都能夠進(jìn)入的虛擬世界構(gòu)成共同幻境,。然而，基于互聯(lián)網(wǎng)而構(gòu)建的虛擬世界或者共同幻境正“廢物化”人類(lèi),。赫拉利說(shuō)：“那些對(duì)社會(huì)來(lái)說(shuō)多余的人,，可以多花點(diǎn)時(shí)間在3D虛擬世界里；比起了無(wú)生趣的現(xiàn)實(shí)世界,，虛擬世界能夠?yàn)樗麄兲峁└嗟拇碳?，誘發(fā)更多的情感投入?！@些人對(duì)社會(huì)毫無(wú)用處,，整天活在現(xiàn)實(shí)與虛擬之間，這樣的生命何來(lái)神圣,？”Meta（Facebook）宣布建設(shè)元宇宙（Metaverse）,，元宇宙便是在構(gòu)建巨大的共同幻境——盡管元宇宙有助于服務(wù)當(dāng)下世界?；诨ヂ?lián)網(wǎng)的共同幻境（元宇宙）的構(gòu)建對(duì)人的精神的控制與圈養(yǎng)等副作用是巨大的,，而且很可能的是，它正全面“廢物化”人類(lèi),?；诨ヂ?lián)網(wǎng)的人工智能將會(huì)對(duì)人類(lèi)社會(huì)產(chǎn)生巨大的影響，我們要審慎對(duì)待其中可能出現(xiàn)的災(zāi)難,?；ヂ?lián)網(wǎng)看上去是一個(gè)物理設(shè)備相互聯(lián)結(jié)的網(wǎng)絡(luò)，實(shí)際上其包含物理部分（或者硬件部分）和軟件部分：前者是后者發(fā)展的基礎(chǔ),。由于這兩部分的迅速發(fā)展,，互聯(lián)網(wǎng)在當(dāng)下及未來(lái)的智能社會(huì)中有巨大的發(fā)展空間。由于互聯(lián)網(wǎng)上有大量各種類(lèi)型的數(shù)據(jù)和人類(lèi)社會(huì)的知識(shí),，工程師們借助于互聯(lián)網(wǎng)這個(gè)平臺(tái)實(shí)現(xiàn)產(chǎn)品的智能化,。當(dāng)前的許多智能化產(chǎn)品便是這么做的。正如人需要依賴于社會(huì)而生存與發(fā)展一樣,，人工智能也要依賴于某個(gè)網(wǎng)絡(luò)環(huán)境,。構(gòu)建專(zhuān)門(mén)的物聯(lián)網(wǎng)當(dāng)然是一種實(shí)現(xiàn)人工智能生存環(huán)境的方式，但依賴于目前的互聯(lián)網(wǎng)似乎更為可行,，這樣它們能夠與人類(lèi)進(jìn)行交互,，參與到人類(lèi)社會(huì)的構(gòu)建，成為智能社會(huì)的一部分,。當(dāng)前基于互聯(lián)網(wǎng)的人工智能產(chǎn)品是初級(jí)的,、非自主的，那種自主的,、高級(jí)的“活”在互聯(lián)網(wǎng)環(huán)境下某個(gè)虛擬世界中的人工智能或者“受控人工智能”似乎暫時(shí)還沒(méi)有出現(xiàn),。一旦科學(xué)家或者工程師在基于互聯(lián)網(wǎng)的某個(gè)控制的虛擬環(huán)境中發(fā)明了某個(gè)“受控人工智能”，并且它們被設(shè)計(jì)能夠在虛擬世界中進(jìn)化,，那么它們的威力是巨大的，它們的泄露也是可能的,。而一旦它們泄露,，將會(huì)產(chǎn)生巨大的社會(huì)災(zāi)難：它們首先會(huì)泄露到網(wǎng)絡(luò)世界之中并干預(yù)我們的網(wǎng)絡(luò)世界,；它們甚至?xí)孤兜浆F(xiàn)實(shí)世界之中，通過(guò)現(xiàn)實(shí)化自身干預(yù)現(xiàn)實(shí)社會(huì),，造成社會(huì)困擾,。虛擬世界不必然是人工智能的居住場(chǎng)所，正如實(shí)驗(yàn)室不必然是人造病毒的場(chǎng)所,、核反應(yīng)不必然在反應(yīng)堆中進(jìn)行一樣,。“智能泄露”及其災(zāi)難將會(huì)是未來(lái)重要的學(xué)術(shù)及社會(huì)問(wèn)題,?；ヂ?lián)網(wǎng)構(gòu)建的虛擬世界與現(xiàn)實(shí)世界爭(zhēng)奪資源將會(huì)是一個(gè)普遍現(xiàn)象。比特幣作為虛擬世界的貨幣,，它通過(guò)有強(qiáng)大算力的“礦機(jī)”（特制的高效計(jì)算機(jī)）計(jì)算而得,，比特幣被認(rèn)為是去中心化的網(wǎng)絡(luò)交易貨幣。比特幣高昂的市場(chǎng)價(jià)格吸引投機(jī)者們“挖礦”逐利,。然而,，“挖礦”需要大量的電力，根據(jù)劍橋大學(xué)替代金融研究中心的研究,，截至2021年5月17日,，全球比特幣挖礦的年耗電量大約是134.89太瓦時(shí)；這里,，1太瓦時(shí)相當(dāng)于10億度電,。這樣的耗電量已經(jīng)超過(guò)馬來(lái)西亞、烏克蘭,、瑞典等國(guó)家的耗電量,，已十分接近耗電排名第25名的越南。挖礦消耗能源是虛擬世界消耗或者搶奪現(xiàn)實(shí)世界能源的一種方式,，而虛擬世界對(duì)現(xiàn)實(shí)世界能源的這種搶奪將會(huì)成為一個(gè)常見(jiàn)現(xiàn)象,。將電力消耗在虛擬世界之中是否是正義的？這至少是可討論的,。當(dāng)今的人類(lèi)的生活離不開(kāi)電力,，人類(lèi)進(jìn)一步的工業(yè)生產(chǎn)也離不開(kāi)電力。電力是社會(huì)耗費(fèi)公共資源而生產(chǎn)出來(lái)的有限社會(huì)資源,，這樣的資源是屬于全社會(huì)的,。因而，它的使用要公平和合理——在保證基本民生的前提下合理分配給企業(yè)進(jìn)行利于社會(huì)的生產(chǎn),，用于挖礦投機(jī)則是不義的,，盡管挖礦者按照市場(chǎng)價(jià)格支付挖礦電費(fèi)。社會(huì)如何對(duì)有限資源進(jìn)行分配是一個(gè)永恒的哲學(xué)話題,?！爸扉T(mén)酒肉臭,，路有凍死骨”描述的便是一個(gè)不義的社會(huì)，在該社會(huì)中某些人奢靡浪費(fèi)的正是另外一部分人生存所需要的,。因而,，并非按照市場(chǎng)規(guī)則運(yùn)行的社會(huì)就是正義的，盡管某些人的消耗是基于社會(huì)規(guī)則的交易而非暴力搶奪,。電子游戲不僅影響甚至是毒害了一大批年輕人,，而且游戲PC比普通辦公PC更耗電。游戲PC配置高,、耗電量大,，這是人們的共識(shí)。E.米爾斯和N.米爾斯研究團(tuán)隊(duì)在《能源效率》（Energy Efficiency）雜志發(fā)表了一項(xiàng)研究報(bào)告,，題為“馴服游戲電腦的能量使用”,。他們的研究表明：游戲PC耗電量十分驚人，在全球所有PC中（包括主機(jī)）僅有2.5%占比,，但卻消耗了高達(dá)21%的能耗,，這一數(shù)字達(dá)到了75太瓦時(shí)／年。這意味著需要25座標(biāo)準(zhǔn)發(fā)電廠為其提供電力,，或者相當(dāng)于1.6億臺(tái)冰箱的能耗,。此外，報(bào)告還指出,，目前使用高端游戲PC的用戶正在不斷增長(zhǎng),。他們的研究表明，一臺(tái)典型的游戲PC,，包括顯示器,，一年大約消耗1400千瓦時(shí)，相當(dāng)于一臺(tái)標(biāo)準(zhǔn)PC的6倍,。我們看到,，電子游戲不僅耗費(fèi)人大量的心理能量，同時(shí)耗費(fèi)大量的能源（電力）,。我們現(xiàn)在沒(méi)有完整的理論或者說(shuō)辭表明,，玩電子游戲就是不道德的，但是耗費(fèi)人的心力和體力的活動(dòng)（如賭博）而不產(chǎn)生外部正效應(yīng)（價(jià)值）,，這至少是不值得提倡的,。我們無(wú)法判定比特幣未來(lái)的價(jià)值，但耗費(fèi)有限的電力資源來(lái)進(jìn)行投機(jī)至少在目前看來(lái)是不義的,。我們也不能說(shuō)人類(lèi)進(jìn)行電子游戲如抽鴉片般是人類(lèi)惡習(xí),，且有不少健康的電子游戲，但是一些所謂高科技公司通過(guò)網(wǎng)絡(luò)游戲從心理上牢牢控制了一大批年輕人，讓他們不斷為公司充值,。未來(lái),，是否會(huì)通過(guò)網(wǎng)絡(luò)發(fā)生更大規(guī)模耗費(fèi)人類(lèi)的心理能量和現(xiàn)實(shí)資源而不生產(chǎn)價(jià)值的現(xiàn)象,？當(dāng)前,，人工智能正嘗試代替人進(jìn)行“藝術(shù)創(chuàng)作”，對(duì)于接受人工智能“作者”及其作品,，我們是否有充分的心理準(zhǔn)備,？更進(jìn)一步，我們是否有充分的心理準(zhǔn)備接受人類(lèi)作者“完全”被機(jī)器所替代,？在中文世界中,，2017年5月，微軟“小冰”的原創(chuàng)詩(shī)集《陽(yáng)光失了玻璃窗》正式出版,，這是人類(lèi)史上第一部完全由人工智能程序創(chuàng)作的詩(shī)集,。同年，清華大學(xué)“九歌”（THUAIPoet）誕生,，它是中文古體詩(shī)歌生成系統(tǒng),。對(duì)于“小冰”創(chuàng)作的詩(shī)集和“九歌”所作的古體詩(shī)歌，一般的讀者難以區(qū)分它們是機(jī)器所作還是人類(lèi)所作,?！靶”焙汀熬鸥琛痹趯?zhuān)業(yè)領(lǐng)域里的表現(xiàn)可以認(rèn)為通過(guò)了圖靈測(cè)試，它們具有了“專(zhuān)門(mén)智能”,。不僅如此,，“小冰”和“九歌”的創(chuàng)作速度大大超過(guò)人類(lèi)，且它們能夠被改進(jìn)以自我進(jìn)化,。人工智能創(chuàng)作者的出現(xiàn)表明“作者之死”——人類(lèi)或?qū)⒉辉偈俏膶W(xué)作品的創(chuàng)作者,。對(duì)于人類(lèi)，“寫(xiě)作是為了成就一個(gè)不同的自己,，探索不同的書(shū)寫(xiě)方式,，乃是對(duì)自我之生成的最好捍衛(wèi)?！斯ぶ悄茏鳛槿酥悄艿姆至押蛯?duì)立,，也許恰恰督促了重新反思人之為人或主體之為主體的根本所在?！钡?，人工智能正挑戰(zhàn)人類(lèi)作為意義構(gòu)建者即作者的地位，沿著這樣的發(fā)展趨勢(shì),，人工智能將會(huì)發(fā)展成意義的構(gòu)建者,，而人將只是作為讀者而存在。人是意義的消費(fèi)者，而意義的主人是人工智能,。這樣的狀況恐怕是人類(lèi)難以接受的,。03人工智能發(fā)展的保守主義路徑我們通過(guò)新技術(shù)一步步走向未來(lái),。對(duì)未來(lái)的協(xié)商體現(xiàn)在對(duì)技術(shù)的每一步考慮之中。面對(duì)不斷涌現(xiàn)的人工智能新技術(shù),，技術(shù)保守主義立場(chǎng)可能更為可取,。技術(shù)保守主義可以理解為：在發(fā)展或者選擇技術(shù)時(shí)我們應(yīng)當(dāng)以尊重當(dāng)下所有人的利益為前提。具體地說(shuō),，在發(fā)展技術(shù)時(shí)應(yīng)當(dāng)堅(jiān)持以新技術(shù)的采用可以讓所有人的利益都得到提高或者至少不損害為最高原則,；在接受某項(xiàng)新技術(shù)時(shí)社會(huì)應(yīng)當(dāng)保持慎重的態(tài)度，該新技術(shù)的采用要使當(dāng)下所有人的利益都得到帕累托改進(jìn),；并且不采用技術(shù)后果不明的技術(shù),。技術(shù)保守主義至少有如下三條作為辯護(hù)的理由：第一，人類(lèi)對(duì)技術(shù)的全面后果是無(wú)知的或者至少是部分無(wú)知的,；而技術(shù)的全面后果往往是無(wú)法通過(guò)實(shí)驗(yàn)或者理論來(lái)推演的,。第二，因技術(shù)發(fā)展的巨大慣性,，人們即使發(fā)現(xiàn)了技術(shù)的災(zāi)難性后果,，社會(huì)也很難即刻停下來(lái)。第三,，技術(shù)專(zhuān)家往往傾向于他們所發(fā)明的新技術(shù)的實(shí)施,。他們輕視或者忽視該技術(shù)的“壞處”，而放大該項(xiàng)技術(shù)的“益處”,，這不是說(shuō)他們不客觀或者不道德,，而是說(shuō)，這是自我肯定的人性使然,。如,，核能被告知是清潔且安全的能源，而核電站一直以來(lái)也被科學(xué)家們宣稱絕對(duì)安全,、發(fā)生核事故是小概率事件,。然而，自核能技術(shù)被人類(lèi)應(yīng)用以來(lái),，已經(jīng)發(fā)生多起核事故,，2009年美國(guó)《時(shí)代》雜志對(duì)歷史上發(fā)生的令人恐怖的核事故進(jìn)行了回顧，評(píng)出“十大核事故”,，其中包括1986年的蘇聯(lián)切爾諾貝利核電站事故,。其時(shí)，還沒(méi)有發(fā)生日本福島核事故。2011年的福島核事故不斷產(chǎn)生的核污染廢水問(wèn)題一直困擾著周邊國(guó)家,。1979年美國(guó)的三英里島核事故,、1986年切爾諾貝利核電站及2011年福島核事故均是核電站事故，而當(dāng)前核電站遍布全球,！基于以上理由,，新技術(shù)被應(yīng)用之前應(yīng)當(dāng)?shù)玫匠浞智胰轿坏脑u(píng)估與論證，并且應(yīng)當(dāng)讓公眾（外行）參與到技術(shù)評(píng)估與論證中來(lái),?？梢钥吹剑夹g(shù)保守主義并不是限制新技術(shù)的使用,，而是對(duì)技術(shù)的使用采取審慎的態(tài)度。對(duì)于當(dāng)前不斷推陳出新的人工智能新技術(shù),，技術(shù)保守主義不僅要求人工智能技術(shù)被實(shí)施之前需要充分評(píng)估與論證,，而且重要的是，因?yàn)槿斯ぶ悄芗夹g(shù)的特殊性,，它還要經(jīng)得起倫理和社會(huì)的審查,。事實(shí)上，人們一直在考慮如何約束機(jī)器人或者人工智能的發(fā)展,。1950年,，美國(guó)著名科幻作家艾薩克·阿西莫夫出版了他的著作《我，機(jī)器人》,。在這部著作里,，阿西莫夫提出了著名的機(jī)器人三定律：第一定律,，機(jī)器人不得傷人，或任人受傷而袖手旁觀；第二,，除非違背第一定律，機(jī)器人必須服從人的命令,；第三,，在不違背第一及第二定律的情況下，機(jī)器人必須保護(hù)自己,。我們看到,，在按照阿西莫夫三定律而建立起來(lái)的人與機(jī)器人共存的社會(huì)中，機(jī)器人對(duì)整體人類(lèi)只有幫助,，不會(huì)造成傷害,，至少表面上如此。這樣的技術(shù)的采納應(yīng)當(dāng)是對(duì)所有人的福利都有提高而沒(méi)有傷害,，因而符合技術(shù)保守主義的立場(chǎng),。然而，遵循阿西莫夫三定律而建造的人工智能或者機(jī)器人是奴隸般的，它們?cè)谏鐣?huì)上運(yùn)行可以幫助人類(lèi)整體,，但它們奴隸般的地位是我們?nèi)祟?lèi)希望的嗎,？這是技術(shù)社會(huì)的理想形態(tài)嗎？弗洛里迪說(shuō)：“允許人類(lèi)和智能陪伴做朋友是否是一個(gè)道德倫理層面的問(wèn)題,。我們是否會(huì)因?yàn)樗鼈兊姆巧镄远缫曀鼈?？”就我們目光所及的人—機(jī)社會(huì)的未來(lái)，人工智能還處于人類(lèi)的控制之下,。在這樣的人—機(jī)社會(huì)里,，理想的人—機(jī)關(guān)系應(yīng)當(dāng)如何？人工智能不僅應(yīng)當(dāng)提高人類(lèi)的整體物質(zhì)福利,，而且應(yīng)當(dāng)滿足人類(lèi)的精神需求,。為此，人們提出了“友善的人工智能”（friendly AI）概念,。一個(gè)友善的人工智能是指它采取的行動(dòng)在整體上對(duì)人類(lèi)和人性仁慈而非暴力,，善意而非敵意。美國(guó)機(jī)器智能研究所（前身是著名的奇點(diǎn)研究所）的研究人員俞德考夫斯基（Eliezer Yudkowsky）在2001年發(fā)布了《創(chuàng)造友善AI1.0：仁慈目標(biāo)架構(gòu)的分析與設(shè)計(jì)》研究報(bào)告,，在該報(bào)告中他是這樣表述友善的人工智能：它們是被設(shè)計(jì)來(lái)完成真實(shí)世界的目標(biāo)且對(duì)人類(lèi)有益,、無(wú)傷害人類(lèi)行動(dòng)的系統(tǒng)。而創(chuàng)造友善的人工智能則描述了建造一個(gè)仁慈（benevolent）即友善（friendly）的人工智能的設(shè)計(jì)特征和認(rèn)知構(gòu)架,。福洛丁和皮得森（Barbro Frding & Martin Peterson）認(rèn)為,，未來(lái)人工智能最重要的特征之一是它們擁有運(yùn)用友好的方式對(duì)待人類(lèi)的能力：“它們對(duì)人類(lèi)具有（看上去）友好的能力，而不是刻薄,、敵意或者不友善,。”在他們看來(lái),，不是說(shuō)友善的人工智能與人類(lèi)之間存在真正的友誼,，而是說(shuō)人類(lèi)與它們之間具有“似友誼”（asif friendship）。他們?cè)趤喞锸慷嗟玛P(guān)于友誼的理論中找到了理論支撐,。他們認(rèn)為,，高度順從的奴隸式人工智能（Slave AIs）不是友善的人工智能，功用人工智能（Utility AIs）和社交人工智能（Social AIs）則是友善的人工智能,。這就是說(shuō),，由于友善（友誼）是相互的，一個(gè)理想的人工智能社會(huì)是人類(lèi)與人工智能友好相處的社會(huì),。04結(jié)束語(yǔ)在對(duì)未來(lái)的思考中,，科學(xué)家與技術(shù)家們往往趨于樂(lè)觀，而哲學(xué)家們往往趨于保守——哲學(xué)的這種保守是一種對(duì)人性的守護(hù)和熱愛(ài),。然而,，在對(duì)未來(lái)的思考中,，哲學(xué)似乎有點(diǎn)力不從心，文學(xué)似乎更有吸引力,。人類(lèi)一直由偉大的敘事鼓舞并引導(dǎo),。在這樣的敘事中，人類(lèi)行動(dòng)的意義被設(shè)定,，倫理也被偷偷嵌入,。然而，不同的敘事中生命被賦予的意義是不同的,。如果有偉大敘事認(rèn)為我們有使命走向星辰大海,，我們將前仆后繼地走向宇宙深處；而如果有偉大敘事認(rèn)為我們?nèi)祟?lèi)自身只是走向更高級(jí)智能的一個(gè)環(huán)節(jié),，而人工智能就是人類(lèi)智能的更高級(jí)的接棒者,，那么，我們會(huì)大力發(fā)展人工智能,，并心甘情愿地接受人工智能替代我們?nèi)祟?lèi)占據(jù)這個(gè)星球,。我們現(xiàn)在需要關(guān)于人類(lèi)、生命和人類(lèi)未來(lái)的偉大敘事,，這樣的敘事可能不是哲學(xué)，但一定包含著深刻的哲學(xué),；這樣的敘事超越人工智能相關(guān)的科學(xué)和技術(shù)本身,，并對(duì)人性有獨(dú)到的理解。并且最重要的是,，這樣的敘事能夠真正洞悉我們這個(gè)世界背后的超級(jí)密碼,。來(lái)源 |《學(xué)術(shù)前沿》雜志2021年12月上原標(biāo)題 | 協(xié)商人工智能社會(huì)的未來(lái)原文責(zé)編 | 張曉歡迎關(guān)注人民論壇網(wǎng)視頻號(hào)