誕生于1946年的電子計(jì)算機(jī),，把人類帶入了“智能紀(jì)元”,。它是一種“意識(shí)工具”，不同于人類以往所有的“物質(zhì)工具”,。2010年以來(lái),，算力資源的量變帶來(lái)質(zhì)變，到了2023年,，這一變化終于使更多普通人得以感知,，也帶來(lái)了巨大的治理挑戰(zhàn),。

這方面，中國(guó)已經(jīng)開(kāi)始行動(dòng),。4月11日,，國(guó)家互聯(lián)網(wǎng)信息辦公室起草的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》向社會(huì)公開(kāi)征求意見(jiàn)，意見(jiàn)反饋截止時(shí)間為2023年5月10日,。觀察者網(wǎng)就相關(guān)話題采訪清華大學(xué)電子工程系博士、中科院工程序列任職資格評(píng)審委員會(huì)主任,、北京東方通科技股份有限公司首席科學(xué)家謝耘,，實(shí)錄如下：

觀察者網(wǎng)：3月份以來(lái)，基于OpenAI自然語(yǔ)言大模型GPT3.5的ChatGPT成為焦點(diǎn),。它不但引爆輿論,、席卷國(guó)內(nèi)資本市場(chǎng)，而且讓國(guó)家互聯(lián)網(wǎng)信息辦公室迅速起草《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》并公開(kāi)征求意見(jiàn)。我們也想請(qǐng)您就這個(gè)話題做一些討論,，您認(rèn)為,，從社會(huì)治理角度來(lái)說(shuō)，挑戰(zhàn)主要來(lái)自哪里,？

謝耘：這是一個(gè)比較大也比較深刻的話題,。我此前在不同場(chǎng)合說(shuō)過(guò)，信息技術(shù)為人類帶來(lái)了一種“意識(shí)工具”,，它不同于人類以往所有的“物質(zhì)工具”,，因此，誕生于1946年的電子計(jì)算機(jī)把人類帶入了“智能紀(jì)元”,。只不過(guò),，它之前的能力還比較弱小，很多人沒(méi)有意識(shí)到這種變化的重要性，但是2010年以來(lái),，算力資源的量變帶來(lái)質(zhì)變,，到了2023年，這一變化終于使更多普通人得以感知,。

為了便于理解,，我想稍微展開(kāi)一下，先從信息技術(shù)的本質(zhì)說(shuō)起?，F(xiàn)在主流的科技界認(rèn)為,，信息是構(gòu)成世界的三大要素之一，一是物質(zhì),，一是能量,，一是信息。雖然這個(gè)說(shuō)法寫(xiě)進(jìn)了標(biāo)準(zhǔn)的教科書(shū),，但我認(rèn)為這是錯(cuò)的,，至少“信息技術(shù)”涉及的信息不是客觀的。舉個(gè)例子,，人類曾經(jīng)擁有的儲(chǔ)藏知識(shí)信息最集中的地方是什么,？是圖書(shū)館。那么,，假設(shè)人類消失了,，圖書(shū)館里所有的藏品還具有任何“信息”的意義嗎？那些紙上印的也罷,，數(shù)字化的也罷,，它還會(huì)和客觀世界的任何東西發(fā)生互動(dòng)嗎？所以,，信息是人的意識(shí)層面的東西,。

再來(lái)談?dòng)?jì)算機(jī),，計(jì)算機(jī)本質(zhì)上是用于對(duì)數(shù)字化的信息做可編程的邏輯數(shù)值計(jì)算與處理,，其中有兩個(gè)要素，第一,，是數(shù)字化的信息,；第二，對(duì)邏輯數(shù)值計(jì)算與處理,。

信息,，它既是人的意識(shí)活動(dòng)的產(chǎn)物，也是人的意識(shí)活動(dòng)的最核心要素,，信息本質(zhì)上是意識(shí)范疇的存在,，而與信息相關(guān)的活動(dòng),，本質(zhì)上都是意識(shí)性的活動(dòng)。

程序,，是人們對(duì)邏輯數(shù)值的計(jì)算與處理的操作,，把這些操作排成序列，用它來(lái)處理信息,。這個(gè)過(guò)程屬于物質(zhì)性過(guò)程還是意識(shí)性過(guò)程,？顯然是意識(shí)性的過(guò)程，它把原來(lái)在大腦里進(jìn)行的意識(shí)過(guò)程外化,，變成一段程序,，交給計(jì)算機(jī)去做。

這是我基本的分析邏輯,。第一，信息屬于意識(shí)范疇,；第二,，與信息相關(guān)的過(guò)程本質(zhì)上都是意識(shí)過(guò)程；第三,，計(jì)算機(jī)程序是人的意識(shí)的一種外化,，計(jì)算機(jī)運(yùn)行的過(guò)程，其實(shí)是一種意識(shí)性的過(guò)程,。

原先,，所有的意識(shí)都局限在人類每個(gè)人的腦袋里，計(jì)算機(jī)的出現(xiàn)讓意識(shí)從我們的大腦里蹦出來(lái),，從而脫離了我們的大腦,，可以由計(jì)算機(jī)的CPU去做，所以,，信息技術(shù)應(yīng)用本質(zhì)上就是人的內(nèi)意識(shí)的外化,，我管它叫“外意識(shí)”。這就是計(jì)算機(jī)的“意識(shí)性工具”的本質(zhì),。

我們國(guó)家有一個(gè)部委的名稱是“工業(yè)和信息化部”，大家有沒(méi)有注意過(guò),，這個(gè)名字很奇怪,？我的看法是，它意味著信息化這個(gè)概念是沒(méi)法包含在工業(yè)范疇內(nèi)的,?；赝祟惪茖W(xué)技術(shù)發(fā)展的總過(guò)程，科技是第一生產(chǎn)力,，人類文明的發(fā)展是由工具的不斷進(jìn)步來(lái)推動(dòng)的,，直到電子計(jì)算機(jī)出現(xiàn)之前,，我們工具的主線是作用于物質(zhì)對(duì)象。人類演化幾十萬(wàn)年以來(lái),，我們所有的工具都是物質(zhì)性的工具,，這不是說(shuō)工具本身是物質(zhì)，而是說(shuō)這個(gè)工具的作用是物質(zhì)性的作用,，概無(wú)例外,。

直到1946年，計(jì)算機(jī)出現(xiàn),，人類第一次有了一個(gè)意識(shí)性的工具,。這個(gè)工具作用的對(duì)象不是物質(zhì)，而是作用在意識(shí)對(duì)象上,。從此開(kāi)始,，主線發(fā)生了分叉，人類擁有了兩種工具,，一種是物質(zhì)性的工具,，一種是意識(shí)性的工具。這兩種工具不是割裂開(kāi)的,，意識(shí)性的工具是建立在物質(zhì)科學(xué)基礎(chǔ)之上的,，但反過(guò)來(lái)，意識(shí)性的工具,，又可以植入到物質(zhì)性的工具里,，比如讓汽車變成智能汽車。

所以我認(rèn)為,，人類文明從1946年開(kāi)始進(jìn)入了一個(gè)全新的紀(jì)元。

但是,，人類創(chuàng)造計(jì)算機(jī)的時(shí)候,，沒(méi)有完全意識(shí)到這件事情，一是由于思維慣性,，因?yàn)槲覀冎八械墓ぞ叨际俏镔|(zhì)性的工具,；二是計(jì)算機(jī)誕生之初還很弱，沒(méi)有展現(xiàn)出那么強(qiáng)的顛覆性,。直到2010年,，計(jì)算機(jī)的算力從量變積累到了質(zhì)變。1976年,，美國(guó)制造了第一臺(tái)超級(jí)計(jì)算機(jī),，運(yùn)算速度是每秒1億次浮點(diǎn)運(yùn)算，中國(guó)1983年造了第一臺(tái)超級(jí)計(jì)算機(jī),，也是每秒1億次浮點(diǎn)運(yùn)算,。這都是當(dāng)年的國(guó)之重器,，這樣的算力，只能勉強(qiáng)處理圖片,，但我們今天的每部手機(jī)都能處理視頻,，這不是一個(gè)數(shù)量級(jí)的進(jìn)步。

在2010年前,，信息產(chǎn)業(yè)業(yè)界最大的事情往往是英特爾發(fā)布了新的處理器，今天,，沒(méi)有人再關(guān)心處理器的問(wèn)題,，因?yàn)樗懔O大豐富了。也就是在2010年前后,，大數(shù)據(jù)應(yīng)用涌現(xiàn)了,，因?yàn)樗懔δ軌蛑瘟耍蝗斯ぶ悄軣崞饋?lái)了,，因?yàn)槿斯ぶ悄鼙举|(zhì)上是一個(gè)數(shù)據(jù)統(tǒng)計(jì)技術(shù),，也需要大量算力。2010年之后,，計(jì)算機(jī)硬件的能力不再制約軟件的發(fā)展，信息技術(shù)產(chǎn)業(yè)“意識(shí)性”的特質(zhì),，自此才逐步顯現(xiàn)出來(lái),，無(wú)論是區(qū)塊鏈,，還是深度學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò),，這些創(chuàng)新都是不受物理規(guī)律限制的，因?yàn)樗且环N意識(shí)范疇的創(chuàng)新,。

回到你的問(wèn)題,，“生成式人工智能”帶來(lái)的挑戰(zhàn)，實(shí)際上起始于1946年“智能紀(jì)元”的開(kāi)端,，它是人類社會(huì)共同面臨的一次變革,，只不過(guò)現(xiàn)在才顯現(xiàn)出來(lái),。

計(jì)算機(jī)是一個(gè)意識(shí)工具，這是一個(gè)非常本質(zhì)的事情,，帶來(lái)的挑戰(zhàn)非常大,，要治理“生成式人工智能”，相當(dāng)于要管人的思想,。幾千年來(lái),，人類對(duì)于怎么管理物質(zhì)還是積累了足夠多的經(jīng)驗(yàn)，一旦涉及到精神意識(shí)層面,，其實(shí)就有點(diǎn)亂,。從倫理、道德,、宗教,、意識(shí)形態(tài)、各路學(xué)說(shuō)等等,，都是這樣,，這不光是中國(guó)的問(wèn)題，美國(guó)對(duì)互聯(lián)網(wǎng)的治理同樣亂象叢生,，因?yàn)槿祟悰](méi)有對(duì)意識(shí)領(lǐng)域的治理積累足夠的經(jīng)驗(yàn),。

觀察者網(wǎng)：我插一個(gè)小問(wèn)題，您剛才舉的一個(gè)例子說(shuō),，圖書(shū)館是人類信息的集中地,，如果我們順著這個(gè)思路，那么在人類發(fā)展的歷史中,，其實(shí)已經(jīng)有若干次這樣的信息爆炸,，也伴隨著時(shí)代變化的挑戰(zhàn)，首先是出現(xiàn)文字,，然后是紙的發(fā)明,，接著是印刷術(shù)，然后是活字印刷術(shù),，那么計(jì)算機(jī)或者人工智能帶來(lái)最新的一次信息爆炸,，一是必然帶來(lái)社會(huì)變革，二是只是一系列挑戰(zhàn)之一,，能否這樣理解,？

謝耘：我們可以說(shuō)，這些某種意義上也是信息的革命,，比如出現(xiàn)文字,，但它只是“信息”的記錄和傳播，也就是說(shuō)記錄和傳播“意識(shí)的產(chǎn)物”,，比如報(bào)紙上的文章,，它已經(jīng)是靜態(tài)的東西了,。但信息技術(shù)處理的是意識(shí)的活動(dòng)，它是“活的”,，在這個(gè)意義上,，它完全上了一個(gè)檔次。

觀察者網(wǎng)：能不能認(rèn)為這是生產(chǎn)力發(fā)展對(duì)生產(chǎn)關(guān)系的一個(gè)挑戰(zhàn),？

謝耘：我覺(jué)得這要從兩方面看,，首先，它是生產(chǎn)力的一種發(fā)展,，傳統(tǒng)的生產(chǎn)力指的是通過(guò)物質(zhì)性工具創(chuàng)造物質(zhì)財(cái)富的手段,，那么，信息技術(shù)作為意識(shí)性工具,，它能賦能物質(zhì)性工具,，提高其創(chuàng)造物質(zhì)財(cái)富的能力。

信息技術(shù)的發(fā)展已經(jīng)讓所有人受益,。幾年前施瓦布提出“第四次工業(yè)革命”,，新材料、新能源等等領(lǐng)域的新發(fā)展,，背后真正的推動(dòng)力都是信息技術(shù),。

近年來(lái)，材料科學(xué)發(fā)展突飛猛進(jìn),，因?yàn)橛?jì)算機(jī)可以做大量模擬,，不像傳統(tǒng)那樣需要做大量物理、化學(xué)實(shí)驗(yàn),，節(jié)省大量時(shí)間和資源成本。

再比如說(shuō)醫(yī)療,，現(xiàn)在的影像醫(yī)學(xué)與人工智能的結(jié)合速度非?？欤瑯O大提升了診斷效率,。

信息技術(shù)解決了工業(yè)社會(huì)一直無(wú)法解決的一對(duì)矛盾,，就是大規(guī)模生產(chǎn)與個(gè)性化無(wú)法統(tǒng)一的問(wèn)題。信息技術(shù)賦能產(chǎn)業(yè)鏈之后,，大規(guī)模的個(gè)性化生產(chǎn)成為可能,。而且，定制化生產(chǎn)的衣服比標(biāo)準(zhǔn)化生產(chǎn)的衣服還要便宜,。因?yàn)樵跇?biāo)準(zhǔn)化生產(chǎn)中,，產(chǎn)能的安排遠(yuǎn)落后于市場(chǎng)需求變化，往往導(dǎo)致大量的庫(kù)存積壓,，這些成本最后仍然要平攤到消費(fèi)者頭上,，但是實(shí)現(xiàn)定制化柔性制造以后,，按需生產(chǎn)就成為可能。

所以在以后的社會(huì)里,，即使一個(gè)人不懂信息技術(shù),，他仍然非常可能受益于信息技術(shù),，實(shí)現(xiàn)很多個(gè)人的發(fā)展和追求,。因?yàn)樾畔⒓夹g(shù)會(huì)成為社會(huì)的一個(gè)公共基礎(chǔ)，讓所有人受益,。

同時(shí),，信息技術(shù)的另外一個(gè)屬性并不促進(jìn)物質(zhì)生產(chǎn)，而是直接介入了意識(shí)形態(tài),，比如電子游戲,、AIGC等等，雖然沒(méi)有產(chǎn)生物質(zhì)財(cái)富,，但也能產(chǎn)生經(jīng)濟(jì)活動(dòng),。

觀察者網(wǎng)：這是否會(huì)產(chǎn)生一個(gè)“空轉(zhuǎn)”的問(wèn)題呢,？因?yàn)殡m然我們進(jìn)入了“暴力計(jì)算”時(shí)代,，算力極大豐富，但是算力仍然要消耗物質(zhì)世界大量的能源和資源,。這就在全人類社會(huì)的層面上產(chǎn)生了一個(gè)效率問(wèn)題,，如果不能提升社會(huì)的生產(chǎn)力，而只是產(chǎn)生一個(gè)夢(mèng)境在“空轉(zhuǎn)”的話,，這在資本邏輯上是成立的,，但是會(huì)在物質(zhì)層面帶來(lái)大量的“浪費(fèi)”。

謝耘：這是一個(gè)風(fēng)險(xiǎn),，人類的意識(shí)借助計(jì)算機(jī)擴(kuò)展到社會(huì)各個(gè)領(lǐng)域,，而且空前地被加強(qiáng)了，這可能會(huì)讓人類更加脫離物質(zhì)層面,，沉浸在意識(shí)世界里,，顛來(lái)倒去地搞一些東西，也就是你說(shuō)的“空轉(zhuǎn)”,。

在農(nóng)業(yè)社會(huì),，我們的生存空間基本上就是一個(gè)自然世界；在工業(yè)社會(huì),，絕大多數(shù)人生活在城市,，城市是一個(gè)人工世界，這個(gè)時(shí)候人類和自然是一種對(duì)立的關(guān)系，人類要征服自然,，要?jiǎng)儕Z自然,；到智能紀(jì)元之后，我們的生存空間變得更復(fù)雜,，出現(xiàn)了一個(gè)虛擬的網(wǎng)絡(luò)空間,，所以人類今天的生存空間是自然空間、人工物質(zhì)空間和虛擬網(wǎng)絡(luò)空間,，這三個(gè)空間的復(fù)合?，F(xiàn)在，很多人試圖把網(wǎng)絡(luò)空間獨(dú)立化,，也就是“元宇宙”,，在這個(gè)虛擬空間里我們確實(shí)可以不受物理規(guī)律限制，完全自由地暢行,。

但這還是會(huì)遇到物質(zhì)的制約，“暴力計(jì)算”需要消耗大量能源,，制造芯片也需要現(xiàn)實(shí)產(chǎn)能,，人對(duì)算力的追求幾乎可以是無(wú)限的，現(xiàn)有資源是不可能匹配無(wú)限的,。

同時(shí),，還出現(xiàn)了一個(gè)非常嚴(yán)重的問(wèn)題：人與自然分離的傾向。我們看到過(guò)新聞,，有的孩子沉迷電子游戲產(chǎn)生各種各樣的問(wèn)題,，實(shí)際上不僅是孩子，這是一個(gè)關(guān)于生命意義的非常深刻的哲學(xué)層面的問(wèn)題,。

物質(zhì)世界和虛擬世界是什么關(guān)系,？人類和虛擬世界是什么關(guān)系,？我們要不要離物質(zhì)世界越來(lái)越遠(yuǎn),，進(jìn)入到由思維創(chuàng)造的意識(shí)世界里面去,？

觀察者網(wǎng)：這是不是跟“物質(zhì)第一性”還是“意識(shí)第一性”有關(guān)的話題,，我會(huì)聯(lián)想到馬克思當(dāng)時(shí)對(duì)資本主義的批判，因?yàn)橘Y本主義的生產(chǎn)方式就是資本家的意志強(qiáng)加于物質(zhì)生產(chǎn)之上,，所謂“木腦袋倒立在地上自己跳舞”，不管這個(gè)物質(zhì)世界的“實(shí)然”是怎樣的，它就是追求一個(gè)意識(shí)的“應(yīng)然”的資本增殖,。

謝耘：對(duì)，按照馬克思的說(shuō)法,，資本最后追求的是資本無(wú)限增殖這么一個(gè)虛無(wú)縹緲的目的,。所謂資本增殖，其實(shí)就是脫離實(shí)質(zhì)的物質(zhì)生產(chǎn)，就活在意識(shí)世界里面,。如果按照這個(gè)邏輯,，我們面臨的挑戰(zhàn)非常大、非?，F(xiàn)實(shí),、而且非常本質(zhì)，甚至觸及到人類生存的價(jià)值問(wèn)題,。

比如“數(shù)字孿生”,，是人類又創(chuàng)造出另外一個(gè)和現(xiàn)實(shí)世界一樣的世界嗎？不是的,。物質(zhì)世界和虛擬世界之間是一個(gè)映像的關(guān)系,，而不是孿生的關(guān)系。

什么叫孿生,？是指兩個(gè)世界是對(duì)等的關(guān)系。你的照片和你是對(duì)等的關(guān)系嗎,？不是,，它是映像的關(guān)系。所以,，當(dāng)我們把物質(zhì)世界信息化,，放到虛擬世界里之后，它只是物質(zhì)世界里的一個(gè)映像,，而絕不是一個(gè)孿生,。

第二，兩者也不是同一關(guān)系,。同一關(guān)系是兩者密不可分,，但現(xiàn)實(shí)世界與虛擬世界不是密不可分。舉個(gè)例子,，區(qū)塊鏈產(chǎn)業(yè)化的謊言之一就是物品溯源,，區(qū)塊鏈的系統(tǒng)的數(shù)據(jù)是高度可信任、可追溯,、不可篡改的,，但這三個(gè)屬性僅僅是指向區(qū)塊鏈中的數(shù)據(jù)，而我們要溯源的是物質(zhì)世界中的商品,，區(qū)塊鏈中的數(shù)據(jù)能和物質(zhì)世界中的商品在時(shí)空上牢牢綁在一起嗎,？做不到。

所以,，對(duì)信息技術(shù)要辯證地看,，它是人類意識(shí)性的工具,，意識(shí)可以反作用于物質(zhì)，但意識(shí)世界不是物質(zhì)世界,。

觀察者網(wǎng)：很有趣，能不能再談一下“生成式人工智能”相對(duì)于信息技術(shù)的一般性和特殊性在哪里,？為什么這次突然讓大眾對(duì)它產(chǎn)生了強(qiáng)烈的感知,？

謝耘：我覺(jué)得這一次引起大眾的強(qiáng)烈反應(yīng)，就在于大家發(fā)現(xiàn)機(jī)器確實(shí)能和你說(shuō)話,。給大眾的震撼更多是一種感性體驗(yàn)帶來(lái)的,。

從技術(shù)本質(zhì)上來(lái)講，人工智能這一輪進(jìn)步并不是因?yàn)槲覀儗?duì)智能原理有了新的認(rèn)識(shí),，包括大模型等等的技術(shù)核心主要還是依賴于大量的數(shù)據(jù)統(tǒng)計(jì),，在這一點(diǎn)上，目前大家是有共識(shí)的,。假設(shè)這個(gè)結(jié)論是正確的話,，那就要說(shuō)一下數(shù)據(jù)統(tǒng)計(jì)的技術(shù)能做到什么和不能做到什么。

從信息論的角度來(lái)講,，數(shù)據(jù)統(tǒng)計(jì)作為一種信息處理方式,，它輸出的信息量一定小于輸入的信息量，也就是說(shuō),，它不可能產(chǎn)生更多的信息,。

第二，它輸出的信息本質(zhì)上都包含在輸入的信息當(dāng)中,。這句話非常重要,，只不過(guò)它把輸入的某些信息做了進(jìn)行了篩選、過(guò)濾,、組合,，或者以新的方式展示。

換句話說(shuō),，它只是在輸入的集合當(dāng)中做事情,，其產(chǎn)出也沒(méi)超出這個(gè)集合。但是,，因?yàn)槟Ｐ偷男畔⒘糠浅４?，所以?duì)于一個(gè)人類個(gè)體來(lái)講，他會(huì)覺(jué)得很新鮮,。但是相對(duì)于向機(jī)器輸入的大量數(shù)據(jù)來(lái)講,，這些信息在本質(zhì)層面不是什么新鮮的東西，沒(méi)有增加新的東西給這個(gè)世界,，這一點(diǎn)非常重要,。

觀察者網(wǎng)：我們?cè)瓉?lái)去訓(xùn)練人工智能，期望的一個(gè)方向是它能夠給我們確定性的結(jié)果,，告訴我們一個(gè)精確的東西,，從而推動(dòng)產(chǎn)業(yè)應(yīng)用。但ChatGPT不是,，它正是犧牲了精確性,，來(lái)使大眾感覺(jué)它是一個(gè)“真人”。

謝耘：其實(shí)人類在用到人工智能這種統(tǒng)計(jì)方法之前,，我們都希望工具給出一個(gè)確定性的結(jié)果,，包括用計(jì)算機(jī)做計(jì)算。

但現(xiàn)在基于統(tǒng)計(jì)的這些人工智能的方法,，給出的是概率性的結(jié)果,，所以，我們不能把它和以前的工具和方法等量齊觀地去看待,。

觀察者網(wǎng)：既然它是一個(gè)意識(shí)的工具,，我們是不是需要擔(dān)心來(lái)自少數(shù)人的意識(shí)，尤其是可能來(lái)自境外的意識(shí),，通過(guò)信息技術(shù)的賦能,，來(lái)影響多數(shù)人的思維和行為的方式？

謝耘：確實(shí)非常危險(xiǎn),，這不僅是社會(huì)問(wèn)題,，首先還是個(gè)體問(wèn)題，如果一個(gè)人沒(méi)有很強(qiáng)的獨(dú)立意識(shí)的話,，是很容易被別人左右的,。

信息技術(shù)的發(fā)展讓影響他人的意識(shí)這件事變得更加高效，甚至更加隱蔽,。機(jī)器學(xué)習(xí)或者機(jī)器搜索出來(lái)的結(jié)果,，不是中立的，它是被人訓(xùn)練出來(lái)的,，它有人的“外意識(shí)”的本質(zhì),。

觀察者網(wǎng)：但是像傳統(tǒng)的教育，其實(shí)也是這樣的一個(gè)過(guò)程,，只是現(xiàn)在它產(chǎn)生了一個(gè)效率上的提升,，是不是能夠這樣理解？

謝耘：它影響的規(guī)?？涨?，借助網(wǎng)絡(luò)，可以輕易實(shí)現(xiàn)復(fù)制,、傳播等等,，在一件事情規(guī)模有限的時(shí)候,，社會(huì)對(duì)它進(jìn)行管理是比較容易的，如果規(guī)模巨大之后,，管理是非常困難的,。

觀察者網(wǎng)：那么如果站在政府立場(chǎng)要去治理它，可以有哪些抓手呢,？

謝耘：我確實(shí)沒(méi)有站在政府的角度仔細(xì)考慮過(guò)到底該怎么治理的問(wèn)題,，

但是虛擬空間有其賴以存在的一個(gè)基礎(chǔ)和兩個(gè)錨點(diǎn)。這是否能作為治理的抓手,？我們可以討論,。

首先,，構(gòu)建虛擬空間的基礎(chǔ)就是邏輯數(shù)值計(jì)算,。

其次，它有兩個(gè)錨點(diǎn),，一個(gè)錨點(diǎn)是人,，人類在創(chuàng)造這個(gè)空間，空間中的東西最終又被人所利用,；第二個(gè)錨點(diǎn)是物質(zhì)世界,，人的意識(shí)不能獨(dú)立于物質(zhì)世界而存在，虛擬世界作為“外意識(shí)”,，其信息同樣來(lái)源于物質(zhì)世界,，信息從物質(zhì)世界進(jìn)入虛擬空間，在虛擬空間被處理完之后,，又回到物質(zhì)世界,，應(yīng)用在物質(zhì)世界之上。

所以整個(gè)虛擬世界有一個(gè)基本的內(nèi)在的基礎(chǔ),，有兩個(gè)外部的錨點(diǎn),，不論它怎么發(fā)展，這三個(gè)要素是不會(huì)變的,。

觀察者網(wǎng)：能不能從“兩個(gè)錨點(diǎn)”的視角來(lái)看這次的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》,？

謝耘：不論利用信息技術(shù)做什么，終歸應(yīng)當(dāng)是服務(wù)于人,，也就是服務(wù)于我們真實(shí)社會(huì)的,，這是一個(gè)基本的出發(fā)點(diǎn)。

要治理“生成式人工智能”,，一個(gè)抓手當(dāng)然是“人”,，也就是現(xiàn)有的社會(huì)秩序。所以《征求意見(jiàn)稿》開(kāi)宗明義,，其依據(jù)是一系列現(xiàn)有法律和行政法規(guī)制定,；其次,，“研發(fā)、利用生成式人工智能產(chǎn)品,，面向中華人民共和國(guó)境內(nèi)公眾提供服務(wù)的,，適用本辦法”,，這就是說(shuō)，不但本土相關(guān)企業(yè)要守規(guī)矩,，境外的公司的相關(guān)產(chǎn)品或服務(wù)如果要進(jìn)來(lái)，也要守規(guī)矩,。

在《征求意見(jiàn)稿》中非常強(qiáng)調(diào)技術(shù)提供者的責(zé)任,，把技術(shù)提供者作為主要管理目標(biāo),。因?yàn)橐庾R(shí)性工具和物質(zhì)性工具不一樣，物質(zhì)性工具的生產(chǎn)者,，一般生產(chǎn)一個(gè)靜態(tài)的東西,，只要產(chǎn)品符合標(biāo)準(zhǔn),，就完成了主體責(zé)任,；而意識(shí)性工具提供者的產(chǎn)品很難界定，它是一個(gè)“活的”東西,，所以必須持續(xù)強(qiáng)調(diào)技術(shù)提供者的責(zé)任,。另外，如果針對(duì)技術(shù)使用者,，可能執(zhí)法成本太高,，因?yàn)槟鞘敲鎸?duì)不特定的多數(shù)人,，而技術(shù)提供者由于受物質(zhì)條件限制，必然是少數(shù)“中心化”的大型企業(yè),，擁有龐大的資產(chǎn)和能力,，也依賴其他組織的能源和資源供給，把它們作為治理抓手,，也等于抓住了“物質(zhì)世界”這個(gè)錨點(diǎn),。

我認(rèn)為值得商榷的是第四條第四款，“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確,，采取措施防止生成虛假信息”,，可能征求意見(jiàn)稿的起草者還沒(méi)有明確理解“意識(shí)性工具”的特點(diǎn)，要求意識(shí)確?！罢_”是不具有可操作性的,。

觀察者網(wǎng)：最后一個(gè)問(wèn)題，在這樣的一個(gè)大趨勢(shì)當(dāng)中,，個(gè)人應(yīng)該做怎樣的努力,？對(duì)于學(xué)生或者年輕人，你有什么建議,？

謝耘：我有三個(gè)建議,，第一，如果真的要想查準(zhǔn)確的資料,，建議不要放棄傳統(tǒng)的搜索工具,，那樣能直接查到原始的資料，可以看到原始資料到底它講了什么,，而不是通過(guò)生成人工智能組合出來(lái)的一個(gè)答案,，

因?yàn)榻M合就有信息的損失。如果真的做嚴(yán)肅工作,，查原始資料還是非常重要的,，找到原汁原味第一手的東西，就不至于受有意或者無(wú)意的誤導(dǎo),。

第二,，在使用生成式人工智能工具的時(shí)候，一定要記住,，得到的答案不一定對(duì),，要堅(jiān)持存疑，我建議使用時(shí)還是要用其他的渠道加以印證,，防止自己被數(shù)據(jù)統(tǒng)計(jì)導(dǎo)致的概率性或算法本身固有的其他局限給誤導(dǎo),。

第三，即使生成式人工智能可以幫你干很多事，但不要依賴它,。對(duì)于人的智能來(lái)說(shuō),，用進(jìn)廢退是一個(gè)規(guī)律，只有通過(guò)不斷實(shí)踐,，對(duì)問(wèn)題的認(rèn)識(shí)才會(huì)不斷深化,。即使是一些基礎(chǔ)的事情，也應(yīng)該把它當(dāng)做一種必要的鍛煉,，才能避免智力的退化,，我發(fā)現(xiàn)在互聯(lián)網(wǎng)時(shí)代，智力退化是一種比較普遍的現(xiàn)象,。

附1：《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》

附2：《從凡夫到“上帝”：信息技術(shù)的意識(shí)本質(zhì)與未來(lái)發(fā)展》線下研討會(huì)視頻