歷史上，每一次技術(shù)上的突飛猛進(jìn)都會造成人類社會結(jié)構(gòu)的巨大變革,。人工智能的快速發(fā)展向人類展現(xiàn)了未來社會的多種可能性,。然而，人工智能在給人類帶來福祉的同時也在給社會帶來現(xiàn)實(shí)的或者可能的“技術(shù)代價”。南京大學(xué)哲學(xué)系教授潘天群認(rèn)為,，面對當(dāng)前快速發(fā)展的智能技術(shù),，人類要立足當(dāng)下對未來進(jìn)行協(xié)商，在人類未來的多種可能性中共同選擇或者設(shè)計一個對人類有利的未來,。更多精彩觀點(diǎn),，一起來看《學(xué)術(shù)前沿》最新文章。來源 | 《學(xué)術(shù)前沿》雜志及人民論壇網(wǎng)（rmltwz）轉(zhuǎn)載請注明來源01社會增強(qiáng)的智能技術(shù)在生存競爭中，人類（智人）因?yàn)橛辛死硇?，其他物種已經(jīng)無法與人類抗衡,，人類便開始了與自己的生存博弈：不同社會或者人類集團(tuán)之間進(jìn)行競爭,。在這種新的競爭類型中，發(fā)明并使用先進(jìn)技術(shù)尤其是顛覆性技術(shù),，被實(shí)踐證明是有效的獲勝策略,。不同歷史階段有不同的先進(jìn)工具，從原始社會的石器,、文明之初的青銅器,、農(nóng)業(yè)時代的鐵器，到近代的各種電力驅(qū)動下的機(jī)器以及當(dāng)前的通用機(jī)器計算機(jī),，這些工具中包含了時代最先進(jìn)的競爭性技術(shù),，相對于不采用它們是“占優(yōu)策略”——采用者在競爭中得分高或者勝出，不采用者得分低或者出局,。這樣,，人類社會一直是技術(shù)社會（technosociety）——“技術(shù)社會是人與技術(shù)高度融合的社會，在這樣的社會中人與人之間的交流,、交易等互動,，以及人或者集團(tuán)應(yīng)對外部自然，都高度依賴技術(shù),。在技術(shù)社會中技術(shù)及技術(shù)產(chǎn)品或者人工物（artifact）是這個社會中的一部分,。”通過技術(shù)的相互競爭人類社會整體增強(qiáng)了,，即人類一直在通過技術(shù)發(fā)展而進(jìn)行“社會增強(qiáng)”（society enhancement）?，F(xiàn)在輪到人工智能技術(shù)出場來進(jìn)行社會增強(qiáng)了。人工智能,，簡單說來,，就是人建造可替代人類心靈來進(jìn)行工作的機(jī)器。20世紀(jì)50年代,，科學(xué)家提出了人工智能概念并開始了偉大的實(shí)踐,。人工智能的出現(xiàn)是計算機(jī)被建造后的自然結(jié)果——1946年，人類第一臺計算機(jī)ENIAC得以建成,。計算,、思維與智能三者難以分開，而用機(jī)器來解決復(fù)雜的計算本身就是高度智能化的事情,，至少在當(dāng)時人們是這么認(rèn)為的,。因而，我們在考慮對人工智能發(fā)展作出貢獻(xiàn)的英雄如圖靈,、西蒙時,，不要忘了計算機(jī)之父馮·諾依曼——當(dāng)然，馮·諾依曼在多個領(lǐng)域中都作出了偉大的貢獻(xiàn),，指出他在人工智能上的貢獻(xiàn)只是錦上添花,。有了計算機(jī)后,，人們便探索如何讓計算機(jī)擁有像人那樣的智能,，而不僅僅是實(shí)現(xiàn)人腦的部分功能即計算功能,。今天人類社會被高速發(fā)展的智能技術(shù)不斷嵌入和重構(gòu)。當(dāng)下的社會已經(jīng)是智能型社會,，或者簡單說,，智能社會。人工智能技術(shù)對人類生活,、工作與交往全面滲透,，人類社會被整體“增強(qiáng)”，盡管若干年后當(dāng)我們回看時會認(rèn)為今天的社會最多是“原始的”智能社會,?？茖W(xué)家、工程師以及企業(yè)家們,，不關(guān)心哲學(xué)家關(guān)于“人工智能”是否可能的學(xué)理爭論,，他們也不關(guān)心強(qiáng)人工智能與弱人工智能之爭；這里,，強(qiáng)人工智能是指那種具有理解能力的機(jī)器,，而弱人工智能是指能夠通過圖靈檢驗(yàn)即貌似有人的智能的機(jī)器。他們根據(jù)社會需求開發(fā)出各種智能技術(shù)產(chǎn)品,，而這些產(chǎn)品的社會化又進(jìn)一步刺激或者促進(jìn)新的社會需求,。當(dāng)前，不僅僅有谷歌公司開發(fā)的圍棋智能程序AlphaGo,、AlphaZero和分析蛋白質(zhì)結(jié)構(gòu)的智能程序AlphaFold這樣“小眾”的人工智能程序,，而且有各類科技公司開發(fā)的大量“大眾化”的市場化人工智能產(chǎn)品，如各種人工智能客服,、商場的問路機(jī)器人,、汽車導(dǎo)航系統(tǒng)，以及逐漸成熟的智能陪伴機(jī)器人等,。這些市場化產(chǎn)品達(dá)不到弱人工智能的標(biāo)準(zhǔn),，它們最多在某個領(lǐng)域中“看上去”具有某種程度的智能表現(xiàn)。因此,，通用智能（全域智能）和專門智能（局域）兩個概念更能有效對這些產(chǎn)品進(jìn)行描述,，通用智能（全域智能）指的是能夠解決環(huán)境中所有問題的智能，而專門智能（局域智能）指的是能夠解決環(huán)境中的某一類問題的智能,。這些不斷出現(xiàn)的各種人工智能產(chǎn)品不僅僅為我們提供了生活便利,，更重要的是它們打開了人們對未來的想象空間。人們開始展望人工智能社會的未來,。弗洛里迪說：“我們正在經(jīng)歷著一場意義深遠(yuǎn)的圖靈革命,，這場革命在很大程度上由信息與通訊技術(shù)驅(qū)動,。”根據(jù)弗洛里迪的分析,，人類歷史上發(fā)生了三次顛覆性的自我認(rèn)知的革命,，它們分別為“哥白尼日心說理論”、“達(dá)爾文的生物進(jìn)化論”和“弗洛伊德的精神分析理論”,；而當(dāng)下“圖靈革命”可以與它們相提并論,。哥白尼革命之后地球失去了宇宙中心的榮耀，但人類仍認(rèn)為自己是地球的主宰,；達(dá)爾文于1859年發(fā)表的《物種起源》則告訴我們,，所有事物都來自于共同的祖先并在自然選擇下不斷進(jìn)化，人類并不是萬物之靈,；弗洛伊德揭示了人類大腦中無意識的存在,，意識只是冰山一角、并被無意識所控制,，因而我們不是意識（心靈）的絕對控制者,。在弗洛里迪看來，圖靈革命使人類喪失了“獨(dú)一無二性”,，人類不再是信息圈的中心,。弗洛里迪說：“圖靈使我們認(rèn)識到，人類在邏輯推理,、信息處理和智能行為領(lǐng)域的主導(dǎo)地位已經(jīng)不復(fù)存在,，人類已不再是信息圈毋庸置疑的主宰，數(shù)字設(shè)備代替人類執(zhí)行了越來越多的原本需要人的思想來解決的任務(wù),，而這使得人類被迫一再地拋棄一個又一個人類自認(rèn)為獨(dú)一無二的地位,。”這些非人類智能體的數(shù)字設(shè)備,，盡管目前不如人類聰明,，但它們可以輕而易舉地超越我們，并且承擔(dān)越來越多的任務(wù),。如果弗洛里迪說的是對的,，那么，那些能夠進(jìn)行信息處理的機(jī)器應(yīng)當(dāng)與人類有一樣的地位,。漢斯·莫拉維克認(rèn)為,，人類的身份在本質(zhì)上是一種信息形式，而不是一種實(shí)體化的規(guī)定與表現(xiàn),。因而,，他認(rèn)為在不久的將來，人類可以將人的意識“上傳”（upload）到計算機(jī)內(nèi)。他的將意識上傳到計算機(jī)中的觀點(diǎn)為學(xué)者們所熱烈討論,。意識是作為生物體大腦的功能,，因而筆者極度懷疑“意識的內(nèi)容”能夠通過非生物的設(shè)備被完全“讀取”從而被上傳。莫拉維克的另外一個更重要的激進(jìn)觀點(diǎn)是,，將機(jī)器看成是人類心靈的孩子（mind children）,。他說，今天,，我們的機(jī)器仍然是簡單的創(chuàng)造物,；它們需要作為父母的我們的關(guān)心,，新生兒還需要呵護(hù),。今天它們幾乎不值得用“智能”這個詞,。但是，“在下個世紀(jì)內(nèi),，它們將發(fā)展成和我們一樣復(fù)雜的成熟實(shí)體，并最終發(fā)展成為某種超越我們所知的一切事物的事物——并且當(dāng)我們稱它們?yōu)槲覀兊暮蟠鷷r,，我們感到驕傲,。”這樣的人工智能機(jī)器將接替我們,，“從漫長的生物進(jìn)化中解放出來,，我們的心靈的孩子將自由成長，它們將面對更大宇宙的巨大和根本挑戰(zhàn),。我們?nèi)祟愒谝欢螘r間里將從它們的勞作中受益,，但遲早它們會像自然的孩子一樣探索自己的命運(yùn)，而我們,，它們年邁的父母,，則默默地等待消失?！蹦S克相信具有智能的機(jī)器人將在50年內(nèi)出現(xiàn)——他寫作《心靈的孩子》是在1988年,。對于人工智能或者機(jī)器人的未來，馬文·明斯基說,，機(jī)器取代“我們”這樣的思考方式?jīng)]有意義,。他同意莫拉維克的“機(jī)器是我們心靈的孩子”的觀點(diǎn)。他認(rèn)為,，機(jī)器是進(jìn)化的必然產(chǎn)物,，“在過去，我們傾向于將自己視為進(jìn)化的最終產(chǎn)物——但我們的進(jìn)化并沒有停止,。事實(shí)上,，我們現(xiàn)在進(jìn)化得更快了——盡管不是以我們熟悉的、緩慢的達(dá)爾文方式。我們早該開始思考我們新的身份了,。我們現(xiàn)在可以設(shè)計基于新型‘非自然選擇’的系統(tǒng),，這種系統(tǒng)可以利用明確的計劃和目標(biāo)，也可以利用獲得性的遺傳,。進(jìn)化論者花了一個世紀(jì)的時間來使自己避免這些想法——生物學(xué)家稱之為‘目的論’和拉馬克主義,，但是，現(xiàn)在我們可能不得不改變這些規(guī)則,！”明斯基從生物進(jìn)化史中得到了“目的論”生物觀：心靈是所有生物在進(jìn)化中的一個目標(biāo),，而機(jī)器作為心靈之子將繼續(xù)在地球上生存與演化。他說：“機(jī)器人會繼承（inherit）地球嗎,？是的,。但它們會是我們的孩子。我們的心靈的產(chǎn)生要?dú)w功于參與進(jìn)化斗爭的所有生物的生與死,。而我們的工作是確保所有這些工作不會白白浪費(fèi),。在人工智能未來展望中，沒有概念比“智能爆炸”或者奇點(diǎn)（singularity）概念更有沖擊力了,。奇點(diǎn)概念最早由統(tǒng)計學(xué)家古德（I. J. Good）所提出,。古德在《關(guān)于第一臺超智能機(jī)器的猜測》（1965）中寫道：“讓我們把超智能機(jī)器定義為一種可以遠(yuǎn)遠(yuǎn)超越任何聰明的人類的所有智能活動的機(jī)器。由于機(jī)器的設(shè)計是智能活動之一,，超智能機(jī)器或也將可以設(shè)計出更好的機(jī)器,；到那時，毫無疑問會出現(xiàn)‘智能爆炸’,，而人類的智能將被遠(yuǎn)遠(yuǎn)地拋在后面,。因此，第一臺超智能機(jī)器是人類要做的最后一項(xiàng)發(fā)明,?！逼纥c(diǎn)不是幻想家的純粹遐想，它是具有智慧的學(xué)者們根據(jù)當(dāng)前技術(shù)狀況及發(fā)展趨勢所作出的關(guān)于未來的深刻洞見,。奇點(diǎn)概念強(qiáng)烈沖擊著社會,，而被學(xué)術(shù)界所抵制，哲學(xué)家大衛(wèi)·查爾莫斯（D. Chalmers）不滿學(xué)術(shù)界的這種傲慢,。他認(rèn)為,，我們應(yīng)當(dāng)嚴(yán)肅對待奇點(diǎn)論證，圍繞奇點(diǎn)產(chǎn)生的哲學(xué)討論具有極大的實(shí)踐和哲學(xué)意義,。在實(shí)踐上,，查爾莫斯說：“如果真有奇點(diǎn)的話，那將是這個星球歷史上最重要的事件之一,。智能爆炸有巨大的潛在好處：治愈所有已知疾病,，終結(jié)貧困,，獲得非凡的科學(xué)進(jìn)步，等等,。它也有巨大的潛在危險：人類的終結(jié),，交戰(zhàn)機(jī)器的軍備競賽，毀滅地球的力量,。因此,，哪怕只有極小的概然性會出現(xiàn)奇點(diǎn)，我們也應(yīng)該好好思考它可能會以何種形式出現(xiàn),，以及我們是否可以做些什么以讓結(jié)果朝著積極的方向發(fā)展,。”而在哲學(xué)上,，奇點(diǎn)提出了許多重要的哲學(xué)問題,，查爾莫斯說：“智能爆炸的基本論點(diǎn)本身在哲學(xué)上就很有趣，并使我們認(rèn)真思考智能的本質(zhì)和人工智能的心智能力,。智能爆炸的潛在后果使我們認(rèn)真思考價值觀,、道德,、意識和個人同一性的問題,。實(shí)際上，奇點(diǎn)喚起了一些最棘手的傳統(tǒng)哲學(xué)問題,，同時也提出了一些新的哲學(xué)問題,。”對是否將有奇點(diǎn)的問題,，查爾莫斯的看法是,，奇點(diǎn)的發(fā)生是無疑的，而如果有障礙阻止它發(fā)生,，主要障礙可能是動機(jī)上的而不是能力上的,。因此，查爾莫斯說,，我們要做的是與奇點(diǎn)協(xié)商,，將適當(dāng)?shù)膬r值植入機(jī)器，先在虛擬世界中構(gòu)建最初的那種人工智能以保證可控,，等等,。歷史中并不包含未來，但人們傾向于從歷史中“歸納”而推理未來,、從歷史中“找到”未來,。然而，不同的人根據(jù)對歷史的不同的觀察會得到不同甚至相反的未來,。弗洛里迪無非是在論證當(dāng)前的人工智能革命或者圖靈革命的意義,，可以與哥白尼日心說、達(dá)爾文的進(jìn)化論和弗洛伊德的精神分析理論的意義相比擬；莫拉維克和明斯基則將人類心靈作為生物演化的最后產(chǎn)品,，而這樣的演化接力棒應(yīng)當(dāng)由機(jī)器承接下去,；而奇點(diǎn)論者則是從技術(shù)的加速變化中“看到了”智能機(jī)器的未來……這里，我們沒有闡述哲學(xué)家如德雷福斯和塞爾對人工智能技術(shù)的不樂觀的觀點(diǎn),。我們不能說哪種觀點(diǎn)及其歸納論證是正確的或者更接近真理,，正如休謨所說的，這種根據(jù)過去經(jīng)驗(yàn)的外推是人類的一種沒有邏輯根據(jù)的心理傾向,。但是,，這些根據(jù)當(dāng)下和歷史對未來的“外推”具有社會意義，它們能夠幫助人類思考未來,、選擇未來,。02智能技術(shù)帶來的可能的技術(shù)代價新技術(shù)與社會的融合能夠給社會帶來利益,，同時也會帶來傷害。新技術(shù)帶給社會的傷害可以看作是社會要付出的“技術(shù)代價”,，這樣的代價是社會整體為技術(shù)發(fā)展而所要付出的總體成本,。在信息技術(shù)發(fā)展的短暫時間里，許多人尤其是青少年沉湎于電子游戲甚至患上網(wǎng)癮,，這已經(jīng)是不爭的事實(shí),。信息技術(shù)給社會帶來的巨大利益使得它的發(fā)展不可阻擋；而對于沉湎于游戲甚至染上網(wǎng)癮的孩子,，其家庭自動地歸責(zé)于自己或者是某個偶然原因,，而不會將責(zé)任歸于社會發(fā)展信息技術(shù)。從技術(shù)的社會化角度來看,，這便是社會為發(fā)展信息技術(shù)所要付出的“技術(shù)代價”,。某種技術(shù)對某個個體的傷害可能只是概率上的或者是偶然的，而某些技術(shù)對社會的傷害則是必然的,，只不過不同的技術(shù)給社會造成的傷害形式及傷害程度是不同的,。社會要權(quán)衡的是相應(yīng)技術(shù)的代價是否是可接受的。汽車使人們出行更便利,，然而汽車的普及造成了大量的交通事故與死亡人數(shù),；而假設(shè)沒有現(xiàn)代交通系統(tǒng)，許多死亡就可以避免,。據(jù)統(tǒng)計,，2017年～2019年，中國每年交通事故死亡人數(shù)約為6.3萬,。盡管人們逐漸適應(yīng)現(xiàn)代交通技術(shù)系統(tǒng),，相對于汽車保有量,，交通事故率也在降低，但是中國汽車總量在逐年增加,，因?yàn)榻煌ㄊ鹿识劳龅目側(cè)藬?shù)并沒有進(jìn)一步下降,。這些死亡或者傷殘是現(xiàn)代交通技術(shù)給社會帶來的不可避免的代價，盡管它們不是唯一的代價,。社會可以通過采取各種可能的措施降低傷害,，但是這樣的傷害有一個不可降低的“下限”。日本是交通事故率較低的國家,，據(jù)報道,，2017年，日本因交通事故而死亡人數(shù)只有3000余人,；日本政府希望將交通事故死亡人數(shù)控制在2500人以下,，而實(shí)際上這是難以完成的目標(biāo)——這樣便是現(xiàn)代汽車系統(tǒng)運(yùn)行下不可再低的代價。我們通常對交通事故中的死亡或傷殘的人態(tài)度漠然,，認(rèn)為那是必然的“不幸”,，如同自然死亡或者生病一樣。我們習(xí)慣于將每年因交通事故而死亡的人數(shù)只看作一個數(shù)字,，沒有人怪罪或者攻擊現(xiàn)代交通系統(tǒng),，而事故家庭只能怪罪自己的不幸或者交通肇事者。人們認(rèn)為現(xiàn)代交通系統(tǒng)的采用是必然的,，而沒有現(xiàn)代交通系統(tǒng)是不可想象的,。然而，有些技術(shù)的不被采用是可想象的,。據(jù)美國網(wǎng)站提供的數(shù)據(jù)，1999年～2016年,，美國67.7%的謀殺案是由槍支造成的,，總共有213175人死亡，即平均每年有11843人死于槍擊謀殺,。我們當(dāng)然不能將這些謀殺案造成的死亡人數(shù)全部歸因于槍支合法化,，因?yàn)榧僭O(shè)沒有槍支合法化，其中的部分死亡者也會被其他方式所謀殺,。但是槍支合法化使得謀殺變得容易,，因而，美國平均每年1萬多人的槍擊謀殺死亡中有很大比例應(yīng)當(dāng)歸因于槍支合法化,，這些死亡是社會為槍支使用合法化所付出的技術(shù)代價,。在美國，人們經(jīng)?？棺h政府而要求禁槍,，因?yàn)槿娼麡尩纳鐣强上胂笄乙欢ǔ潭瓤山邮艿纳鐣?。因此，現(xiàn)代交通系統(tǒng)是所有社會協(xié)商出來的結(jié)果,，而槍支合法化也是美國這個國家協(xié)商出來的結(jié)果,。人類處于高度互聯(lián)時代，人類的理性或者嚴(yán)格地說“集體理性”得以彰顯,。這樣的理性體現(xiàn)在人類關(guān)于未來的協(xié)商中,。這種協(xié)商不僅僅體現(xiàn)在集體理性對個體理性困境——如囚徒困境——的克服中，而且更重要的是,，人類能夠?qū)θ祟愇磥磉M(jìn)行整體地考慮,，分析未來的各種可能性，權(quán)衡利弊,，選擇并確定未來,。在協(xié)商人工智能社會的未來時，我們首先得要弄清人工智能給社會帶來的可能代價是什么,，因?yàn)橹挥信蹇赡艿拇鷥r,，我們才能進(jìn)行利弊權(quán)衡。人工智能會使人類整體性地淪為徹底的“無用階級”嗎,？機(jī)器作為勞動的替代物而被設(shè)計和制造出來,，它天生與勞動處于對立的關(guān)系；這一點(diǎn)上人工智能也一樣,。傳統(tǒng)機(jī)器替代人的體力,，被替代的勞動者因具有智力上的優(yōu)勢，其替代是暫時的,，從理論上講被替代的勞動者能夠通過學(xué)習(xí)新知識而找到新的工作,。與傳統(tǒng)機(jī)器不同的是，人工智能替代的是人的智力,，它們能夠進(jìn)行勞動,，能夠代替人的勞動而創(chuàng)造價值——在這個意義上，馬克思的勞動價值論也面臨著挑戰(zhàn),。而一旦人工智能形成規(guī)模并在智能上完全超越人類,，人工智能能夠完全接替人類來創(chuàng)造價值，人便沒有了價值,；而無需等到超級智能機(jī)器被設(shè)計出來（奇點(diǎn)）的那一天,。屆時，地球上將由人工智能機(jī)器統(tǒng)治,，正如明斯基和莫拉維克所認(rèn)為的那樣,。對人類來說，這樣的代價可能“太大了”,，至少是當(dāng)下的大多數(shù)人所不能接受的,。當(dāng)然,，很有可能的是，未來的人類會贊同明斯基等人的觀點(diǎn),，人類與機(jī)器人都是“我們”,，而機(jī)器人將是人類心靈的孩子，人類心甘情愿地讓它們作為我們的后代接管地球,！智能社會中人群會面臨被機(jī)器算法全面操控的風(fēng)險,。當(dāng)前，我們已經(jīng)被算法部分操控,。智能手機(jī)上的各種推送,，是計算機(jī)視覺根據(jù)它所“看到”的我們的偏好而精準(zhǔn)投放的。大數(shù)據(jù)是信息技術(shù)系統(tǒng)在與人類社會交互中所產(chǎn)生的巨量信息,；無論如何,，它們是個體或者群體行為的相關(guān)信息——太空中獲取的星體數(shù)據(jù)不能成為大數(shù)據(jù)，盡管它們是科學(xué)儀器“觀察”和“加工”后的信息,。大數(shù)據(jù)被認(rèn)為包含著巨大的價值,，或者巨大的商業(yè)價值，因?yàn)檫@些大數(shù)據(jù)中包含由個體信息和個體偏好形成的群體偏好或者規(guī)律,。我們被數(shù)據(jù)化從而被客體化,，同時被計算與預(yù)測?；诖髷?shù)據(jù)的計算便是基于個體組成的群體的行為信息之上,，這樣個體的“行”和“為”，乃至“思”和“想”都被關(guān)注,、收集與計算,。因而，盡管可能的是,，在算法設(shè)計時通過將倫理嵌入到算法之中保證沒有人在背后對作為數(shù)據(jù)對象的個體進(jìn)行“偷窺”,，但實(shí)際上，群體被偷窺,，商業(yè)價值和政治目的便通過群體被偷窺而實(shí)現(xiàn)。由大數(shù)據(jù)而產(chǎn)生的價值是通過偷窺我們的行為以及這些行為背后的思想,，從而預(yù)測乃至操控我們的行為來實(shí)現(xiàn)的,。掌握數(shù)據(jù)的公司可以通過投放某些數(shù)據(jù)擾動人群，對人群進(jìn)行操縱,，這種操縱可以是商業(yè)的,，也可以是政治的。這種操縱如同羊群被恐嚇聲所驅(qū)趕或者被投放的食物所吸引,。個體數(shù)據(jù)是大數(shù)據(jù)時代個體的新的身份,。這是數(shù)據(jù)化個體的時代,，我們無處可逃。而對我們的數(shù)據(jù)進(jìn)行操作則是需要規(guī)制的,。對于個體而言,，存在“不可數(shù)據(jù)化”的東西（如隱私）和可數(shù)數(shù)據(jù)化的部分，不可數(shù)據(jù)化的邊界在哪里,？可數(shù)據(jù)化的使用權(quán)限在哪里,？等等。數(shù)據(jù)化個體并對群體進(jìn)行這種操縱可能催生新型的政治或者商業(yè)模式,，我們得適應(yīng)并運(yùn)用政策與倫理規(guī)制這種操縱,；我們需要考慮并建立新型的政治或者商業(yè)倫理以及制定相應(yīng)的治理政策?；诨ヂ?lián)網(wǎng)的“虛擬世界”正“廢物化”人類,。每個人都會做夢，每個人也能夠進(jìn)行幻想,。做夢是人的心靈處于沉睡狀態(tài)下心理的自然呈現(xiàn),；而與夢境不同的是，幻想是人的心靈的正常功能,，它是對現(xiàn)實(shí)狀態(tài)的理性超越,。幻想是想象一系列非真實(shí)的事件,；或者說幻想是在構(gòu)建某個虛擬世界,，在這個世界中有一系列引發(fā)行為主體情緒的虛擬事件發(fā)生，這樣的系列事件盡管不符合現(xiàn)實(shí),，但它們之間一定符合邏輯,。夢境只能是私人的，人們無法“共同做夢”——不同的人無法進(jìn)入同一個夢境,；但是人們可以“共同幻想”,。共同幻想是指不同的人在同一個現(xiàn)實(shí)時空中共同構(gòu)建某個虛擬世界，或者進(jìn)入某個虛擬世界中一起進(jìn)行新的想象,。人類的神話,、文學(xué)等便是特定群體的共同幻想。而今天互聯(lián)網(wǎng)為人們搭建了一個新的共同幻想的平臺,。人們能夠通過互聯(lián)網(wǎng)進(jìn)入同一個“虛擬世界”,，“共同地”且全身心地沉浸到某個幻境中并進(jìn)行新的幻想。每個人都能夠進(jìn)入的虛擬世界構(gòu)成共同幻境,。然而,，基于互聯(lián)網(wǎng)而構(gòu)建的虛擬世界或者共同幻境正“廢物化”人類。赫拉利說：“那些對社會來說多余的人,，可以多花點(diǎn)時間在3D虛擬世界里,；比起了無生趣的現(xiàn)實(shí)世界,，虛擬世界能夠?yàn)樗麄兲峁└嗟拇碳ぃT發(fā)更多的情感投入,?！@些人對社會毫無用處，整天活在現(xiàn)實(shí)與虛擬之間,，這樣的生命何來神圣,？”Meta（Facebook）宣布建設(shè)元宇宙（Metaverse），元宇宙便是在構(gòu)建巨大的共同幻境——盡管元宇宙有助于服務(wù)當(dāng)下世界,?；诨ヂ?lián)網(wǎng)的共同幻境（元宇宙）的構(gòu)建對人的精神的控制與圈養(yǎng)等副作用是巨大的，而且很可能的是,，它正全面“廢物化”人類,。基于互聯(lián)網(wǎng)的人工智能將會對人類社會產(chǎn)生巨大的影響,，我們要審慎對待其中可能出現(xiàn)的災(zāi)難,。互聯(lián)網(wǎng)看上去是一個物理設(shè)備相互聯(lián)結(jié)的網(wǎng)絡(luò),，實(shí)際上其包含物理部分（或者硬件部分）和軟件部分：前者是后者發(fā)展的基礎(chǔ),。由于這兩部分的迅速發(fā)展，互聯(lián)網(wǎng)在當(dāng)下及未來的智能社會中有巨大的發(fā)展空間,。由于互聯(lián)網(wǎng)上有大量各種類型的數(shù)據(jù)和人類社會的知識,，工程師們借助于互聯(lián)網(wǎng)這個平臺實(shí)現(xiàn)產(chǎn)品的智能化。當(dāng)前的許多智能化產(chǎn)品便是這么做的,。正如人需要依賴于社會而生存與發(fā)展一樣,，人工智能也要依賴于某個網(wǎng)絡(luò)環(huán)境。構(gòu)建專門的物聯(lián)網(wǎng)當(dāng)然是一種實(shí)現(xiàn)人工智能生存環(huán)境的方式,，但依賴于目前的互聯(lián)網(wǎng)似乎更為可行，這樣它們能夠與人類進(jìn)行交互,，參與到人類社會的構(gòu)建,，成為智能社會的一部分。當(dāng)前基于互聯(lián)網(wǎng)的人工智能產(chǎn)品是初級的,、非自主的,，那種自主的、高級的“活”在互聯(lián)網(wǎng)環(huán)境下某個虛擬世界中的人工智能或者“受控人工智能”似乎暫時還沒有出現(xiàn),。一旦科學(xué)家或者工程師在基于互聯(lián)網(wǎng)的某個控制的虛擬環(huán)境中發(fā)明了某個“受控人工智能”,，并且它們被設(shè)計能夠在虛擬世界中進(jìn)化，那么它們的威力是巨大的,，它們的泄露也是可能的,。而一旦它們泄露，將會產(chǎn)生巨大的社會災(zāi)難：它們首先會泄露到網(wǎng)絡(luò)世界之中并干預(yù)我們的網(wǎng)絡(luò)世界,；它們甚至?xí)孤兜浆F(xiàn)實(shí)世界之中,，通過現(xiàn)實(shí)化自身干預(yù)現(xiàn)實(shí)社會，造成社會困擾,。虛擬世界不必然是人工智能的居住場所,，正如實(shí)驗(yàn)室不必然是人造病毒的場所、核反應(yīng)不必然在反應(yīng)堆中進(jìn)行一樣,?！爸悄苄孤丁奔捌錇?zāi)難將會是未來重要的學(xué)術(shù)及社會問題?；ヂ?lián)網(wǎng)構(gòu)建的虛擬世界與現(xiàn)實(shí)世界爭奪資源將會是一個普遍現(xiàn)象,。比特幣作為虛擬世界的貨幣，它通過有強(qiáng)大算力的“礦機(jī)”（特制的高效計算機(jī)）計算而得，比特幣被認(rèn)為是去中心化的網(wǎng)絡(luò)交易貨幣,。比特幣高昂的市場價格吸引投機(jī)者們“挖礦”逐利,。然而，“挖礦”需要大量的電力,，根據(jù)劍橋大學(xué)替代金融研究中心的研究,，截至2021年5月17日，全球比特幣挖礦的年耗電量大約是134.89太瓦時,；這里,，1太瓦時相當(dāng)于10億度電。這樣的耗電量已經(jīng)超過馬來西亞,、烏克蘭,、瑞典等國家的耗電量，已十分接近耗電排名第25名的越南,。挖礦消耗能源是虛擬世界消耗或者搶奪現(xiàn)實(shí)世界能源的一種方式,，而虛擬世界對現(xiàn)實(shí)世界能源的這種搶奪將會成為一個常見現(xiàn)象。將電力消耗在虛擬世界之中是否是正義的,？這至少是可討論的,。當(dāng)今的人類的生活離不開電力，人類進(jìn)一步的工業(yè)生產(chǎn)也離不開電力,。電力是社會耗費(fèi)公共資源而生產(chǎn)出來的有限社會資源,，這樣的資源是屬于全社會的。因而,，它的使用要公平和合理——在保證基本民生的前提下合理分配給企業(yè)進(jìn)行利于社會的生產(chǎn),，用于挖礦投機(jī)則是不義的，盡管挖礦者按照市場價格支付挖礦電費(fèi),。社會如何對有限資源進(jìn)行分配是一個永恒的哲學(xué)話題,。“朱門酒肉臭,，路有凍死骨”描述的便是一個不義的社會,，在該社會中某些人奢靡浪費(fèi)的正是另外一部分人生存所需要的。因而,，并非按照市場規(guī)則運(yùn)行的社會就是正義的,，盡管某些人的消耗是基于社會規(guī)則的交易而非暴力搶奪。電子游戲不僅影響甚至是毒害了一大批年輕人,，而且游戲PC比普通辦公PC更耗電,。游戲PC配置高、耗電量大,，這是人們的共識,。E.米爾斯和N.米爾斯研究團(tuán)隊在《能源效率》（Energy Efficiency）雜志發(fā)表了一項(xiàng)研究報告,，題為“馴服游戲電腦的能量使用”。他們的研究表明：游戲PC耗電量十分驚人,，在全球所有PC中（包括主機(jī)）僅有2.5%占比,，但卻消耗了高達(dá)21%的能耗，這一數(shù)字達(dá)到了75太瓦時／年,。這意味著需要25座標(biāo)準(zhǔn)發(fā)電廠為其提供電力，或者相當(dāng)于1.6億臺冰箱的能耗,。此外,，報告還指出，目前使用高端游戲PC的用戶正在不斷增長,。他們的研究表明,，一臺典型的游戲PC，包括顯示器,，一年大約消耗1400千瓦時,，相當(dāng)于一臺標(biāo)準(zhǔn)PC的6倍。我們看到,，電子游戲不僅耗費(fèi)人大量的心理能量,，同時耗費(fèi)大量的能源（電力）。我們現(xiàn)在沒有完整的理論或者說辭表明,，玩電子游戲就是不道德的,，但是耗費(fèi)人的心力和體力的活動（如賭博）而不產(chǎn)生外部正效應(yīng)（價值），這至少是不值得提倡的,。我們無法判定比特幣未來的價值,，但耗費(fèi)有限的電力資源來進(jìn)行投機(jī)至少在目前看來是不義的。我們也不能說人類進(jìn)行電子游戲如抽鴉片般是人類惡習(xí),，且有不少健康的電子游戲,，但是一些所謂高科技公司通過網(wǎng)絡(luò)游戲從心理上牢牢控制了一大批年輕人，讓他們不斷為公司充值,。未來,，是否會通過網(wǎng)絡(luò)發(fā)生更大規(guī)模耗費(fèi)人類的心理能量和現(xiàn)實(shí)資源而不生產(chǎn)價值的現(xiàn)象？當(dāng)前,，人工智能正嘗試代替人進(jìn)行“藝術(shù)創(chuàng)作”,，對于接受人工智能“作者”及其作品，我們是否有充分的心理準(zhǔn)備,？更進(jìn)一步,，我們是否有充分的心理準(zhǔn)備接受人類作者“完全”被機(jī)器所替代？在中文世界中,，2017年5月,，微軟“小冰”的原創(chuàng)詩集《陽光失了玻璃窗》正式出版,，這是人類史上第一部完全由人工智能程序創(chuàng)作的詩集。同年,，清華大學(xué)“九歌”（THUAIPoet）誕生,，它是中文古體詩歌生成系統(tǒng)。對于“小冰”創(chuàng)作的詩集和“九歌”所作的古體詩歌,，一般的讀者難以區(qū)分它們是機(jī)器所作還是人類所作,。“小冰”和“九歌”在專業(yè)領(lǐng)域里的表現(xiàn)可以認(rèn)為通過了圖靈測試,，它們具有了“專門智能”,。不僅如此，“小冰”和“九歌”的創(chuàng)作速度大大超過人類,，且它們能夠被改進(jìn)以自我進(jìn)化,。人工智能創(chuàng)作者的出現(xiàn)表明“作者之死”——人類或?qū)⒉辉偈俏膶W(xué)作品的創(chuàng)作者。對于人類,，“寫作是為了成就一個不同的自己,，探索不同的書寫方式，乃是對自我之生成的最好捍衛(wèi),?！斯ぶ悄茏鳛槿酥悄艿姆至押蛯αⅲ苍S恰恰督促了重新反思人之為人或主體之為主體的根本所在,?！钡牵斯ぶ悄苷魬?zhàn)人類作為意義構(gòu)建者即作者的地位,，沿著這樣的發(fā)展趨勢,，人工智能將會發(fā)展成意義的構(gòu)建者，而人將只是作為讀者而存在,。人是意義的消費(fèi)者,，而意義的主人是人工智能。這樣的狀況恐怕是人類難以接受的,。03人工智能發(fā)展的保守主義路徑我們通過新技術(shù)一步步走向未來,。對未來的協(xié)商體現(xiàn)在對技術(shù)的每一步考慮之中,。面對不斷涌現(xiàn)的人工智能新技術(shù)，技術(shù)保守主義立場可能更為可取,。技術(shù)保守主義可以理解為：在發(fā)展或者選擇技術(shù)時我們應(yīng)當(dāng)以尊重當(dāng)下所有人的利益為前提,。具體地說，在發(fā)展技術(shù)時應(yīng)當(dāng)堅持以新技術(shù)的采用可以讓所有人的利益都得到提高或者至少不損害為最高原則,；在接受某項(xiàng)新技術(shù)時社會應(yīng)當(dāng)保持慎重的態(tài)度,，該新技術(shù)的采用要使當(dāng)下所有人的利益都得到帕累托改進(jìn),；并且不采用技術(shù)后果不明的技術(shù)。技術(shù)保守主義至少有如下三條作為辯護(hù)的理由：第一,，人類對技術(shù)的全面后果是無知的或者至少是部分無知的,；而技術(shù)的全面后果往往是無法通過實(shí)驗(yàn)或者理論來推演的。第二,，因技術(shù)發(fā)展的巨大慣性,，人們即使發(fā)現(xiàn)了技術(shù)的災(zāi)難性后果，社會也很難即刻停下來,。第三,，技術(shù)專家往往傾向于他們所發(fā)明的新技術(shù)的實(shí)施。他們輕視或者忽視該技術(shù)的“壞處”,，而放大該項(xiàng)技術(shù)的“益處”，這不是說他們不客觀或者不道德,，而是說,，這是自我肯定的人性使然。如,，核能被告知是清潔且安全的能源,，而核電站一直以來也被科學(xué)家們宣稱絕對安全、發(fā)生核事故是小概率事件,。然而,，自核能技術(shù)被人類應(yīng)用以來，已經(jīng)發(fā)生多起核事故,，2009年美國《時代》雜志對歷史上發(fā)生的令人恐怖的核事故進(jìn)行了回顧,，評出“十大核事故”，其中包括1986年的蘇聯(lián)切爾諾貝利核電站事故,。其時,，還沒有發(fā)生日本福島核事故。2011年的福島核事故不斷產(chǎn)生的核污染廢水問題一直困擾著周邊國家,。1979年美國的三英里島核事故,、1986年切爾諾貝利核電站及2011年福島核事故均是核電站事故，而當(dāng)前核電站遍布全球,！基于以上理由,，新技術(shù)被應(yīng)用之前應(yīng)當(dāng)?shù)玫匠浞智胰轿坏脑u估與論證，并且應(yīng)當(dāng)讓公眾（外行）參與到技術(shù)評估與論證中來,?？梢钥吹剑夹g(shù)保守主義并不是限制新技術(shù)的使用,，而是對技術(shù)的使用采取審慎的態(tài)度,。對于當(dāng)前不斷推陳出新的人工智能新技術(shù),，技術(shù)保守主義不僅要求人工智能技術(shù)被實(shí)施之前需要充分評估與論證，而且重要的是,，因?yàn)槿斯ぶ悄芗夹g(shù)的特殊性,，它還要經(jīng)得起倫理和社會的審查。事實(shí)上,，人們一直在考慮如何約束機(jī)器人或者人工智能的發(fā)展,。1950年，美國著名科幻作家艾薩克·阿西莫夫出版了他的著作《我,，機(jī)器人》,。在這部著作里，阿西莫夫提出了著名的機(jī)器人三定律：第一定律,，機(jī)器人不得傷人,，或任人受傷而袖手旁觀；第二,，除非違背第一定律,，機(jī)器人必須服從人的命令；第三,，在不違背第一及第二定律的情況下,，機(jī)器人必須保護(hù)自己。我們看到,，在按照阿西莫夫三定律而建立起來的人與機(jī)器人共存的社會中,，機(jī)器人對整體人類只有幫助，不會造成傷害,，至少表面上如此,。這樣的技術(shù)的采納應(yīng)當(dāng)是對所有人的福利都有提高而沒有傷害，因而符合技術(shù)保守主義的立場,。然而,，遵循阿西莫夫三定律而建造的人工智能或者機(jī)器人是奴隸般的，它們在社會上運(yùn)行可以幫助人類整體,，但它們奴隸般的地位是我們?nèi)祟愊Ｍ膯?？這是技術(shù)社會的理想形態(tài)嗎？弗洛里迪說：“允許人類和智能陪伴做朋友是否是一個道德倫理層面的問題,。我們是否會因?yàn)樗鼈兊姆巧镄远缫曀鼈?？”就我們目光所及的人—機(jī)社會的未來，人工智能還處于人類的控制之下,。在這樣的人—機(jī)社會里,，理想的人—機(jī)關(guān)系應(yīng)當(dāng)如何？人工智能不僅應(yīng)當(dāng)提高人類的整體物質(zhì)福利,，而且應(yīng)當(dāng)滿足人類的精神需求,。為此,，人們提出了“友善的人工智能”（friendly AI）概念。一個友善的人工智能是指它采取的行動在整體上對人類和人性仁慈而非暴力,，善意而非敵意,。美國機(jī)器智能研究所（前身是著名的奇點(diǎn)研究所）的研究人員俞德考夫斯基（Eliezer Yudkowsky）在2001年發(fā)布了《創(chuàng)造友善AI1.0：仁慈目標(biāo)架構(gòu)的分析與設(shè)計》研究報告，在該報告中他是這樣表述友善的人工智能：它們是被設(shè)計來完成真實(shí)世界的目標(biāo)且對人類有益,、無傷害人類行動的系統(tǒng),。而創(chuàng)造友善的人工智能則描述了建造一個仁慈（benevolent）即友善（friendly）的人工智能的設(shè)計特征和認(rèn)知構(gòu)架。福洛丁和皮得森（Barbro Frding & Martin Peterson）認(rèn)為,，未來人工智能最重要的特征之一是它們擁有運(yùn)用友好的方式對待人類的能力：“它們對人類具有（看上去）友好的能力,，而不是刻薄、敵意或者不友善,?！痹谒麄兛磥恚皇钦f友善的人工智能與人類之間存在真正的友誼,，而是說人類與它們之間具有“似友誼”（asif friendship）,。他們在亞里士多德關(guān)于友誼的理論中找到了理論支撐。他們認(rèn)為,，高度順從的奴隸式人工智能（Slave AIs）不是友善的人工智能，功用人工智能（Utility AIs）和社交人工智能（Social AIs）則是友善的人工智能,。這就是說,，由于友善（友誼）是相互的，一個理想的人工智能社會是人類與人工智能友好相處的社會,。04結(jié)束語在對未來的思考中,，科學(xué)家與技術(shù)家們往往趨于樂觀，而哲學(xué)家們往往趨于保守——哲學(xué)的這種保守是一種對人性的守護(hù)和熱愛,。然而,，在對未來的思考中，哲學(xué)似乎有點(diǎn)力不從心,，文學(xué)似乎更有吸引力,。人類一直由偉大的敘事鼓舞并引導(dǎo)。在這樣的敘事中,，人類行動的意義被設(shè)定,，倫理也被偷偷嵌入。然而,，不同的敘事中生命被賦予的意義是不同的,。如果有偉大敘事認(rèn)為我們有使命走向星辰大海，我們將前仆后繼地走向宇宙深處,；而如果有偉大敘事認(rèn)為我們?nèi)祟愖陨碇皇亲呦蚋呒壷悄艿囊粋€環(huán)節(jié),，而人工智能就是人類智能的更高級的接棒者,，那么，我們會大力發(fā)展人工智能,，并心甘情愿地接受人工智能替代我們?nèi)祟愓紦?jù)這個星球,。我們現(xiàn)在需要關(guān)于人類、生命和人類未來的偉大敘事,，這樣的敘事可能不是哲學(xué),，但一定包含著深刻的哲學(xué)；這樣的敘事超越人工智能相關(guān)的科學(xué)和技術(shù)本身,，并對人性有獨(dú)到的理解,。并且最重要的是，這樣的敘事能夠真正洞悉我們這個世界背后的超級密碼,。來源 |《學(xué)術(shù)前沿》雜志2021年12月上原標(biāo)題 | 協(xié)商人工智能社會的未來原文責(zé)編 | 張曉歡迎關(guān)注人民論壇網(wǎng)視頻號