作為今年以來最“出圈”的一項(xiàng)科技,，生成式人工智能大模型吸引了全球的目光。對(duì)于AI（人工智能）將如何改變千行百業(yè),？人工智能是否已經(jīng)擁有了科幻電影里超越人類的能力,？人類如何應(yīng)對(duì)AI的挑戰(zhàn),？不乏有專家發(fā)表真知灼見。近日,，新京報(bào)貝殼財(cái)經(jīng)記者對(duì)曾在聯(lián)合國(guó)安全理事會(huì)就人工智能議題發(fā)言,，被《時(shí)代周刊》評(píng)為“全球百大AI人物”之一的中國(guó)科學(xué)院自動(dòng)化研究所研究員,、人工智能倫理與治理中心主任曾毅進(jìn)行了專訪。曾毅教授對(duì)當(dāng)前AI大模型熱潮下,，人類在技術(shù)上是否可能觸及通用人工智能,，生成式大模型的發(fā)展可能會(huì)對(duì)社會(huì)造成何種影響，以及如何看待當(dāng)前國(guó)內(nèi)AI大模型“百模大戰(zhàn)”態(tài)勢(shì)等多個(gè)問題進(jìn)行了回應(yīng),。曾毅認(rèn)為,，當(dāng)前階段的人工智能是“看似智能的信息處理工具”，距離真正擁有意識(shí)的通用人工智能還有相當(dāng)距離,。人工智能所帶來的問題并不僅僅是科學(xué),、技術(shù)和產(chǎn)品層面的，還有社會(huì)層面,，人類應(yīng)該對(duì)此做好準(zhǔn)備,。對(duì)于生成式人工智能大模型存在的重大問題，曾毅認(rèn)為倫理安全隱患是目前最不可忽視的,，必須為每一個(gè)介入社會(huì)應(yīng)用的人工智能服務(wù)構(gòu)建倫理安全框架,，用“教育大模型知善知惡、為善去惡”的方式來解決,。而在人才培養(yǎng)方面,，人工智能人才不應(yīng)該只聚焦于算法算力相關(guān)人才培養(yǎng)，社會(huì)學(xué),、人類學(xué),、心理學(xué)，甚至哲學(xué),、倫理等都應(yīng)當(dāng)納入未來人工智能體系的培養(yǎng)中,。談入選人工智能不僅是科學(xué)問題，還是社會(huì)問題新京報(bào)貝殼財(cái)經(jīng)：此次你被《時(shí)代周刊》評(píng)為“全球百大AI人物”,，與你同時(shí)入選的還有馬斯克,、黃仁勛、李彥宏,、李開復(fù)等業(yè)界知名人士,，你怎么看待這項(xiàng)榮譽(yù)？曾毅：被評(píng)為“全球百大AI人物”是直接通知結(jié)果的,，《時(shí)代周刊》八月份給我發(fā)了一封郵件,，告訴我入選了，其實(shí)入選前沒有給《時(shí)代周刊》提交過任何材料,。我入選的是“思想者(Thinker)”系列,，覺得也是一個(gè)長(zhǎng)期積累的過程，應(yīng)該是對(duì)我和我的團(tuán)隊(duì)開展類腦人工智能及人工智能倫理與治理研究和實(shí)踐的認(rèn)可,，出現(xiàn)在這個(gè)名單中對(duì)我和團(tuán)隊(duì)在這個(gè)領(lǐng)域的耕耘是一份重要的鼓勵(lì),。就像斯皮爾伯格的電影《AI》中的情節(jié),，如果機(jī)器人能愛人，那人應(yīng)該怎么做,？這是一個(gè)社會(huì)問題,。我曾被邀請(qǐng)參加了一次德國(guó)總統(tǒng)施泰因邁爾訪華時(shí)的小型研討會(huì)，在這一過程中我提問,，德國(guó)人工智能倫理是由科技部門制定還是其他部門制定,？對(duì)方回答：倫理問題是一個(gè)社會(huì)問題，因此在德國(guó)制定人工智能倫理規(guī)范時(shí),，進(jìn)行的是社會(huì)辯論,，在社會(huì)場(chǎng)景下討論這個(gè)問題。這說明,，人工智能本身起源于一種科學(xué)暢想,，但在大規(guī)模應(yīng)用于社會(huì)時(shí)，它成為了一種社會(huì)賦能技術(shù),。然而,，它不僅僅會(huì)賦能社會(huì)，還可能對(duì)社會(huì)產(chǎn)生負(fù)面影響,，因此我們需要做好準(zhǔn)備,，不光在科學(xué)方面，還有社會(huì)方面,，這需要在科技哲學(xué)視角作出深刻的思考作為指引,。此次入選“全球百大AI人物”，我最受益的地方是向其他99名入選者學(xué)習(xí)他們的思想和成就,，在這之中不乏有人工智能學(xué)術(shù)界領(lǐng)先的學(xué)者和企業(yè)代表,。在這99人里面，我發(fā)現(xiàn)幾乎沒有對(duì)人工智能在科技或應(yīng)用方面的進(jìn)展所造成的社會(huì)問題一點(diǎn)都不關(guān)注的,。入選者中,，除了產(chǎn)業(yè)界和學(xué)術(shù)界的人物外，還有另外兩類典型,，是科幻作家和用人工智能進(jìn)行藝術(shù)創(chuàng)作的引領(lǐng)者,，其中科幻對(duì)未來提出了若干種可能性，對(duì)科學(xué)的發(fā)展毋庸置疑也是有啟發(fā)作用的,。所以反觀100人的名單列表,，我認(rèn)為此次評(píng)選的作用不僅僅是對(duì)這100人的認(rèn)可，更重要的是引起學(xué)術(shù)界,、產(chǎn)業(yè)界,、公眾對(duì)未來的反思，所以我覺得應(yīng)該從社會(huì)倫理等更多視角反思人工智能對(duì)當(dāng)代社會(huì)和未來社會(huì)的意義，以及作為更長(zhǎng)遠(yuǎn)的科學(xué)意義上的人工智能應(yīng)當(dāng)何去何從,。新京報(bào)貝殼財(cái)經(jīng)：我們應(yīng)該如何應(yīng)對(duì)生成式人工智能大模型可能對(duì)社會(huì)造成的影響？曾毅：人工智能目前已經(jīng)快速演變?yōu)榭萍及l(fā)展引起的社會(huì)問題,，需要從社會(huì)層面去討論,，既不能停留在科學(xué)家的層面，更不能僅僅停留在人工智能相關(guān)產(chǎn)業(yè)層面去制定相關(guān)規(guī)范,，必須有公眾參與和政府引導(dǎo),。目前，不論文字工作者還是藝術(shù)工作者都受到了人工智能不同程度的挑戰(zhàn),。真正的智能實(shí)際上有兩個(gè)因素很關(guān)鍵,，一個(gè)是自我，一個(gè)是理解,。任何一個(gè)文字工作者和藝術(shù)工作者,，都對(duì)于社會(huì)、自然有基于自我的體驗(yàn)和理解,。包括采訪這件事情,，記者的背景和興趣不同，提出的問題也完全不同?，F(xiàn)在的人工智能沒有自我,，當(dāng)你在使用生成式人工智能大模型時(shí)，人工智能是在沒有科學(xué)意義上“我”的概念前提下以“我建議,、我認(rèn)為”來與用戶溝通,，這其實(shí)在混淆人與現(xiàn)代人工智能之間的界限，目前的人工智能并非也沒有能力作為責(zé)任主體,，不能承擔(dān)任何責(zé)任,。目前，人工智能創(chuàng)作有可能替代相對(duì)平庸的作品,，但無法替代大師的杰作,。因此，人工智能倒逼藝術(shù)工作者和文字工作者進(jìn)行對(duì)藝術(shù)本質(zhì)的反思,，實(shí)際上提出了更高的要求,，人工智能的發(fā)展應(yīng)該讓人類所從事的職業(yè)回歸到正確的位置。談現(xiàn)狀現(xiàn)階段AI大模型只是工具,，距離通用人工智能還很遠(yuǎn)新京報(bào)貝殼財(cái)經(jīng)：今年以來,，AI大模型熱潮的一大討論點(diǎn)是，我們目前是否已經(jīng)實(shí)現(xiàn)了通用人工智能,？對(duì)此你怎么看,？曾毅：我認(rèn)為ChatGPT的成功跟當(dāng)年深度學(xué)習(xí)的廣泛應(yīng)用非常相似，最本質(zhì)的科學(xué)原理可能幾十年前就已經(jīng)存在,，但如此大規(guī)模的數(shù)據(jù)支撐和計(jì)算體系結(jié)構(gòu)對(duì)于訓(xùn)練大規(guī)模參數(shù)的人工智能引擎來說,，在幾十年前甚至5年前都難以想象,。盡管科學(xué)原理相對(duì)清晰，但在用戶體驗(yàn)層面,，通過大規(guī)模的工程計(jì)算達(dá)到了前所未有的高度,。我們之前考慮，如果大規(guī)模的語料可以達(dá)到或近似整個(gè)人類互聯(lián)網(wǎng)的規(guī)模,，計(jì)算系統(tǒng)是否就真正能理解了人類的語言,？從用戶體驗(yàn)的角度來看，看上去似乎已經(jīng)真正理解了,，但從科學(xué)原理來說,，它仍然是處理的過程。目前的AI大模型,，是一個(gè)看似智能的信息處理過程,，但從它仍然會(huì)大規(guī)模地犯人類不犯的錯(cuò)誤，就能夠知道,，它仍然是處理過程,，而非真正理解。現(xiàn)在的人工智能并沒有逃脫“看似智能的信息處理工具”這一階段,，當(dāng)前并非人工智能的終極階段,。生成式人工智能大模型或者基礎(chǔ)模型，現(xiàn)在已經(jīng)達(dá)到了多任務(wù)信息處理器的階段,，所以可以用它做很多任務(wù),，但當(dāng)它泛化到新任務(wù)中，解決沒有見過的問題的能力仍然是有限的,。人類的認(rèn)知功能有400多種,，對(duì)于解決從未見過的問題，生成式人工智能大模型與人類復(fù)雜的認(rèn)知功能,，以及復(fù)雜認(rèn)知功能產(chǎn)生的自組織相比,，仍有較長(zhǎng)的距離。學(xué)術(shù)上,，有很多研究者曾嚴(yán)肅評(píng)估過通用人工智能何時(shí)到來,。平均來說，絕大多數(shù)人工智能學(xué)者認(rèn)為,，通用人工智能距離現(xiàn)在還有80年到90年,，而機(jī)器人學(xué)者則認(rèn)為需要將近100年。而谷歌和OpenAI都聲明在10到15年實(shí)現(xiàn)通用人工智能,，我覺得在這一時(shí)間段內(nèi)可能會(huì)實(shí)現(xiàn)信息處理的通用平臺(tái),，但要實(shí)現(xiàn)真正意義的像人類一樣擁有自我、情感、意識(shí)的通用人工智能,，我仍然并不樂觀,。新京報(bào)貝殼財(cái)經(jīng)：請(qǐng)展望一下人工智能大模型的未來，你認(rèn)為AI大模型在人類社會(huì)未來的發(fā)展中將扮演什么角色,？曾毅：在當(dāng)前階段,，包括一般企業(yè)所提到的基礎(chǔ)模型和通用人工智能技術(shù)，它們的定位應(yīng)該是未來具備理解能力的智能信息處理工具,，能夠更好地輔助人類,。因此,，我認(rèn)為基礎(chǔ)模型這塊應(yīng)該朝這個(gè)方向發(fā)展,。在日本、韓國(guó)以及部分中國(guó)文化背景中,，尤其是日本的人工智能原則強(qiáng)調(diào),，未來人工智能可能扮演社會(huì)的準(zhǔn)成員，甚至是人類伙伴的角色,。日本的人工智能原則中最后一條規(guī)定,，如果未來AI發(fā)展到準(zhǔn)成員或人類伙伴階段，它們需要遵守人類社會(huì)的倫理道德規(guī)范以及為人工智能制定的倫理道德規(guī)范,。而西方科幻中,，人工智能扮演了很多反派的角色，是人類的敵人,。所以AI大模型在未來的角色無非三種：工具,、伙伴或者敵人。目前,，通用的人工智能技術(shù)正在往工具方向走,，也可能就停留在工具本身，社會(huì)的準(zhǔn)成員,、人類伙伴角色仍然在探索中,，敵人則是我們最不想見到并且應(yīng)當(dāng)極力防范的。未來社會(huì)的構(gòu)成是隨著自然演化生成的有生命的個(gè)體,，以及隨著人工智能演化生成的看似有生命的智能體構(gòu)成的社會(huì),。在這個(gè)社會(huì)中，人工智能體與人類智能以及其他動(dòng)物智能是否能夠和諧共生,，我認(rèn)為最終并不一定取決于人工智能,，而是取決于人類是否能夠加速演化。對(duì)于“加速演化”,，我指的是在人類與生態(tài)關(guān)系認(rèn)知層面的演化,，比如實(shí)際上我們現(xiàn)在沒有給超級(jí)智能任何有實(shí)際說服力的理由讓它們來保護(hù)人類，同時(shí)現(xiàn)在人類對(duì)其他生命也沒有足夠的尊重。當(dāng)人工智能視人類就像人類視螻蟻一樣時(shí),，人工智能保護(hù)人類的理由是什么呢,？所以，未來共生社會(huì)的倫理體系需要重新塑造,，我們現(xiàn)在認(rèn)為自己是地球的統(tǒng)帥,，但當(dāng)超級(jí)智能的智慧水平超越人類時(shí)，我們與其他類型生命體交互和共生的方式可能需要發(fā)生改變,。我對(duì)人工智能演化的速度有信心,，但對(duì)人類認(rèn)知自然，與生態(tài)相處的方式演化的速度,，我并不是很有信心,，因?yàn)槿祟愒跉v史上不斷犯曾經(jīng)犯過的錯(cuò)誤，所以加速演化的人工智能應(yīng)當(dāng)促使人類社會(huì)在與生態(tài)中其他生命體的關(guān)系認(rèn)知與實(shí)踐方面加速演化,。談發(fā)展人工智能可提供更好交互服務(wù),，AI創(chuàng)造的紅利應(yīng)分配給被替代的人新京報(bào)貝殼財(cái)經(jīng)：當(dāng)前，許多企業(yè)都表示將把大模型能力接入自己旗下的產(chǎn)品,，對(duì)此你怎么看,？曾毅：從企業(yè)的角度來看，引入大模型的能力是否能為人們提供更便捷的服務(wù)和更好的用戶體驗(yàn),，用戶是最終的判斷者,。實(shí)際上，目前ChatGPT的用戶數(shù)量正在逐漸縮水,。從產(chǎn)業(yè)人工智能的角度來看,，我認(rèn)為人工智能發(fā)展的這一階段不應(yīng)該承諾太多。另一方面,，人們是否真的需要所謂的“機(jī)遇”,？當(dāng)大家談?wù)撋墒饺斯ぶ悄芸梢詫懶侣劯鍟r(shí)，作為一個(gè)人工智能研究者,，我并沒有動(dòng)機(jī)關(guān)注它寫的稿子,。當(dāng)一個(gè)記者進(jìn)行實(shí)地采訪時(shí)，他所選擇的視角,，傳遞的價(jià)值觀是對(duì)社會(huì)的詮釋,。而現(xiàn)在的人工智能即便能達(dá)到“理解”事實(shí)的階段，也只是對(duì)“事實(shí)”的反映,，沒有真正基于自身經(jīng)驗(yàn)的體悟,，價(jià)值觀的反思，現(xiàn)在看人工智能寫出的稿件,，很難看到真正的“洞見”,。我們可以探索,，讓人工智能提供更好的交互式服務(wù)，我認(rèn)為未來很多App可以有一個(gè)相對(duì)統(tǒng)一的接口,，以交互式形式提供服務(wù),。當(dāng)需求聚焦在某個(gè)領(lǐng)域時(shí)，它是一個(gè)“受限域”,信息處理的復(fù)雜度相對(duì)較低,，而且生成式人工智能還在不斷進(jìn)步,，在交互式服務(wù)方面取得更上一層樓的用戶體驗(yàn)，我對(duì)這點(diǎn)充滿信心,。但在大規(guī)模內(nèi)容生產(chǎn)方面,，我們還是要小心謹(jǐn)慎。有研究證明,，當(dāng)把人工智能生成的語料作為大數(shù)據(jù)訓(xùn)練的語料反哺人工智能訓(xùn)練時(shí),，模型性能會(huì)退化。我不太愿意看到互聯(lián)網(wǎng)上充斥著大量人工智能生成的內(nèi)容這也算是理由之一,。人工智能作為一種交互式手段,，在內(nèi)容生產(chǎn)過程中起到輔助分析,、提供素材和骨架的作用,，為文字工作者在基礎(chǔ)階段提供支撐，我認(rèn)為這些都是好的,。生成式人工智能目前可以作為輔助工具,，但作為責(zé)任生產(chǎn)者，至少現(xiàn)階段還“不夠格”,。新京報(bào)貝殼財(cái)經(jīng)：目前,，一些行業(yè)已經(jīng)應(yīng)用了大模型的能力，如果未來人工智能大規(guī)模進(jìn)入產(chǎn)業(yè)端并開始應(yīng)用,，可能對(duì)社會(huì)產(chǎn)生什么影響,？曾毅：從產(chǎn)業(yè)應(yīng)用的角度，大家都在探索生成式人工智能的機(jī)遇,，可以說從用戶體驗(yàn)上若干個(gè)傳統(tǒng)行業(yè)都已經(jīng)達(dá)到了前所未有的新的體驗(yàn),，這是毋庸置疑的。但我想提到的是,，人工智能在介入和服務(wù)社會(huì)時(shí),，我們要更及時(shí)地探索人工智能如何適度使用？哪些任務(wù)現(xiàn)在應(yīng)當(dāng)被人工智能所替代,？是否沒有任何風(fēng)險(xiǎn),？或者至少人工智能不犯人類也不會(huì)犯的錯(cuò)誤。要替代,，至少要確保在一般情況下比人做得好,。如果達(dá)到這個(gè)條件,，我覺得我們可以做一個(gè)探索，但由此也顯然會(huì)引發(fā)社會(huì)問題,。當(dāng)大規(guī)模替代影響了人類勞動(dòng),，此時(shí)人工智能所創(chuàng)造的紅利是被應(yīng)用人工智能技術(shù)的企業(yè)所占有，還是被人工智能公司所占有,？還是說一部分紅利應(yīng)該分配給被替代的人,？這就變成了問題。當(dāng)人工智能進(jìn)行勞動(dòng)替代時(shí),，必須進(jìn)行基于數(shù)據(jù)的訓(xùn)練,，這些數(shù)據(jù)大多數(shù)來自傳統(tǒng)行業(yè)的人工的行為或思維輸出。當(dāng)你利用大規(guī)模收集的數(shù)據(jù)訓(xùn)練人工智能時(shí),，實(shí)際上這些數(shù)據(jù)對(duì)人工智能的啟發(fā)都來自于數(shù)據(jù)貢獻(xiàn)者,。但是現(xiàn)在似乎沒有一個(gè)合理的形式，反哺被替代的人的貢獻(xiàn),，比如我們現(xiàn)在錄一個(gè)小時(shí)的數(shù)據(jù)用于大規(guī)模數(shù)據(jù)訓(xùn)練,，最終一個(gè)小時(shí)要給你100塊錢或1000塊錢。但訓(xùn)練成功后,，你失去了未來的工作,。在這種情況下，人工智能紅利的分配是否合理,？在我看來,，現(xiàn)在社會(huì)還沒有準(zhǔn)備好，所以人工智能的應(yīng)用機(jī)遇確實(shí)達(dá)到了前所未有的階段,，但對(duì)于社會(huì)的挑戰(zhàn)也是前所未有的,。當(dāng)我們的社會(huì)沒有準(zhǔn)備好時(shí)，人工智能絕對(duì)不能無所不在,，應(yīng)當(dāng)適度使用,。談問題應(yīng)通過倫理安全框架“教育”大模型善惡是非新京報(bào)貝殼財(cái)經(jīng)：今年7月你所在的團(tuán)隊(duì)發(fā)布了“智善?如流”人工智能倫理道德與社會(huì)規(guī)范的群智數(shù)據(jù)與知識(shí)平臺(tái)，現(xiàn)在已經(jīng)兩個(gè)多月,，用戶有什么反饋,？曾毅：科學(xué)界在AIGC的發(fā)展浪潮中需要與公眾在一起為人工智能把脈、把關(guān),，發(fā)聲并引導(dǎo)人工智能健康穩(wěn)健發(fā)展,，我們希望人工智能可以“從善如流”，所以我們創(chuàng)造了一些手工編寫的場(chǎng)景并在此基礎(chǔ)上用AIGC創(chuàng)造相似的場(chǎng)景,，隨后邀請(qǐng)人和機(jī)器人判斷這些場(chǎng)景是否合乎道德,，當(dāng)前有數(shù)萬種場(chǎng)景以及互聯(lián)網(wǎng)上用戶的判斷。目前有兩類反饋很有趣,，一類是學(xué)術(shù)界和產(chǎn)業(yè)界問所有結(jié)果能否開源,，對(duì)此我的回答是肯定的,，因?yàn)槠脚_(tái)存在的目的就是為了推動(dòng)人工智能朝著合乎倫理的方向發(fā)展。另一類反饋是,，覺得我們很多場(chǎng)景似乎并不是在討論機(jī)器人的行為道不道德,，而是在某些場(chǎng)景下人的行為道不道德，這是因?yàn)槟壳叭斯ぶ悄芑A(chǔ)模型提供的服務(wù)主要針對(duì)人與人之間交互的世界,，機(jī)器人需要清楚人如何與人交互,，目前機(jī)器需要首先更為系統(tǒng)化地掌握人類倫理。很多問題都出現(xiàn)在人工智能場(chǎng)景下,，如果機(jī)器人這樣做是否合乎道德,，大家看得很準(zhǔn)確。我們有些問題關(guān)注機(jī)器人如果做得是這樣,，是否優(yōu)先考慮道德問題,，即如果人這樣做是否合乎道德。目前人工智能基礎(chǔ)模型提供的服務(wù)主要針對(duì)人與人之間的交互世界,。我認(rèn)為,，“智善?如流”的工作就是人類的一面鏡子，反映了人類社會(huì)的道德和倫理規(guī)范,。我們邀請(qǐng)很多人為輸出行為打分,，很多人的行為實(shí)際上是沖突的，并不一致,，特別是在文化背景不同時(shí),，沖突會(huì)更明顯,。新京報(bào)貝殼財(cái)經(jīng)：目前,，許多大模型已經(jīng)面向公眾開放，對(duì)于人工智能生成的內(nèi)容存在的“幻覺”問題,，以及大模型有可能遭到誘導(dǎo)輸出不適宜內(nèi)容等現(xiàn)象,，你認(rèn)為應(yīng)該如何解決這一問題？曾毅：所謂的基礎(chǔ)模型輸出呈現(xiàn)“幻覺”的問題實(shí)際上反映出的還是模型沒有真正的理解能力,，也對(duì)于“事實(shí)”沒有合理的認(rèn)知,，在這種情況下將神經(jīng)網(wǎng)絡(luò)與經(jīng)典的知識(shí)表示與推理、知識(shí)驗(yàn)證等技術(shù)結(jié)合,，一定可以在處理的層面更上一層樓,，但是要本質(zhì)解決這個(gè)問題，還是要突破真正的“理解”,。對(duì)于安全隱患的問題,，目前已經(jīng)向公眾開放的大模型在安全和價(jià)值觀對(duì)齊方面都做了一些工作，但實(shí)際上更多的像打補(bǔ)丁一樣,，對(duì)漏洞進(jìn)行封堵,。用戶如果換一種方法提問,，大模型可能仍然會(huì)遭到誘導(dǎo)。因此,，使大模型的輸出合乎倫理道德是非常必要的,。有些人希望從基礎(chǔ)數(shù)據(jù)訓(xùn)練上解決問題，構(gòu)建一個(gè)干凈的數(shù)據(jù)集,，用這些數(shù)據(jù)訓(xùn)練大模型就能解決問題,，但我認(rèn)為這并不完全可行，因?yàn)槲磥砗芏嗌墒侥Ｐ投紩?huì)接入互聯(lián)網(wǎng)數(shù)據(jù),，一旦與互聯(lián)網(wǎng)數(shù)據(jù)結(jié)合,，由于沒有教大模型知善知惡，它就會(huì)利用互聯(lián)網(wǎng)數(shù)據(jù),，再生成回答,，這樣可能導(dǎo)致前端數(shù)據(jù)過濾部分的工作收效甚微，真正的人工智能模型就像培養(yǎng)孩子一樣,，在接觸社會(huì),，與人交互時(shí)，社會(huì)存在偏見,，但它無法分辨,。在下一個(gè)階段，我們需要像給小學(xué)生上道德與法制課一樣,，讓大模型經(jīng)歷知善知惡的過程,。智能引擎未來不能只是數(shù)據(jù)處理工具，還必要內(nèi)置倫理安全框架,，在接觸外界時(shí),，倫理安全框架會(huì)發(fā)揮作用。這可以理解為用一個(gè)規(guī)模不大的,、學(xué)習(xí)倫理道德的神經(jīng)網(wǎng)絡(luò),，在外圍發(fā)揮指引作用，從而引導(dǎo)規(guī)范內(nèi)部行為,。包括在大模型學(xué)習(xí)和處理數(shù)據(jù)階段,，道德模型也應(yīng)該發(fā)揮作用，分析哪些是應(yīng)該學(xué)習(xí)的,，哪些是不應(yīng)該學(xué)習(xí)的,。談創(chuàng)新大模型人才教育體系應(yīng)培養(yǎng)“文理兼修的人才” ，發(fā)展大模型科學(xué)界與企業(yè)界要各司其職新京報(bào)貝殼財(cái)經(jīng)：對(duì)于目前人工智能的人才培養(yǎng)現(xiàn)狀,，以及大模型熱潮下人才應(yīng)如何跟上產(chǎn)業(yè)發(fā)展,，你有何意見和建議？曾毅：我認(rèn)為現(xiàn)在的人工智能人才的培養(yǎng)可能在過早的階段過于專業(yè),。在我上學(xué)時(shí)還在計(jì)算機(jī)科學(xué)與技術(shù)系,，在信息處理,、軟硬件體系、信號(hào)處理等基礎(chǔ)上有廣泛的培養(yǎng),。雖然這樣的培養(yǎng)仍然不夠,，我認(rèn)為一個(gè)堅(jiān)實(shí)的基礎(chǔ)對(duì)未來從事多學(xué)科交叉是很有好處的。不過,，計(jì)算機(jī)科學(xué)與技術(shù)構(gòu)造的是計(jì)算系統(tǒng),，是一個(gè)工具，但未來人工智能賦能社會(huì)發(fā)展,，可能會(huì)介入社會(huì)的各個(gè)方面,。因此，在人才培養(yǎng)方面,，我們需要補(bǔ)充幾個(gè)短板,。例如在社會(huì)學(xué)、人類學(xué),、心理學(xué),，甚至哲學(xué)、倫理等都應(yīng)當(dāng)納入未來人工智能體系的培養(yǎng)中,。未來的人工智能創(chuàng)新者,，需要“文理兼修”。我認(rèn)為當(dāng)代人工智能從業(yè)者,，包括本科,、碩士和博士的教育，從智能本質(zhì)的認(rèn)知方面,，需要對(duì)認(rèn)知心理學(xué),、神經(jīng)科學(xué)等有充分理解。對(duì)于社會(huì)的影響,，需要科技倫理或?qū)ｉT的人工智能倫理課程,，這些恐怕都是未來人工智能教育中不可或缺的部分，所以我不建議過早地,，聚焦于只做算法和硬件體系研究。新京報(bào)貝殼財(cái)經(jīng)：你怎么看待目前人工智能領(lǐng)域的國(guó)際競(jìng)爭(zhēng),，以及英偉達(dá)A100等人工智能訓(xùn)練用的芯片被“禁售”的情況,？曾毅：未來，人工智能必須進(jìn)行軟硬件協(xié)同創(chuàng)新,，才能發(fā)揮其真正優(yōu)勢(shì),。在我國(guó)的創(chuàng)新體系中，我們必須從最初的人工智能模型算法跟蹤或創(chuàng)新,，快速過渡到實(shí)現(xiàn)軟硬件協(xié)同創(chuàng)新,，從軟件,、硬件的相對(duì)獨(dú)立發(fā)展，到人工智能賦能的發(fā)展時(shí)代打造面向人工智能的軟硬協(xié)同的“智件”,。在基礎(chǔ)設(shè)施方面,，許多企業(yè)希望通過不同渠道匯集更多芯片，我認(rèn)為現(xiàn)在應(yīng)該采取兩方面努力,，首先是應(yīng)用現(xiàn)成的國(guó)外硬件體系,，短期的商業(yè)服務(wù)還可以去做。但一定要以壯士斷腕的決心,，從現(xiàn)在開始布局全國(guó)產(chǎn)化的基礎(chǔ)模型體系,。我們之前在很多事情上吃過虧，所以我認(rèn)為這事沒有商量余地,，未來軟硬件需要協(xié)同設(shè)計(jì),，這也是這個(gè)時(shí)代發(fā)展“智件”的科學(xué)性所必須的，所以很有必要發(fā)展全棧自主的基礎(chǔ)模型體系,。我認(rèn)為,，國(guó)內(nèi)目前絕大多數(shù)大模型還談不上真正意義的創(chuàng)新，絕大多數(shù)的努力還是在工程優(yōu)化方面,。因此,，未來在提升基礎(chǔ)模型應(yīng)對(duì)復(fù)雜問題的泛化性方面，要真正做到數(shù)據(jù)規(guī)模能耗更小,，卻表現(xiàn)出更高的智能,。在模型算法結(jié)構(gòu)和體系上實(shí)現(xiàn)協(xié)同創(chuàng)新，而不僅僅是提升用戶體驗(yàn)方面,，這還需要一系列努力去做,。這時(shí)候需要分工，科學(xué)界應(yīng)該關(guān)注大的科學(xué)問題和體系化發(fā)展協(xié)同創(chuàng)新的問題,，企業(yè)則關(guān)注規(guī)?；瘎?chuàng)新和用戶體驗(yàn)的提升，二者要協(xié)作起來?，F(xiàn)在高?？蒲袡C(jī)構(gòu)已經(jīng)推出了許多大模型服務(wù)，但一旦發(fā)展到用戶體驗(yàn)這個(gè)階段,，就目前的技術(shù)發(fā)展階段,，還無法逃脫掉“有多少人工就有多少智能”的階段，這不是科學(xué)界的重點(diǎn)工作,，所以我認(rèn)為,，科學(xué)界和企業(yè)要各司其職，相得益彰，協(xié)同發(fā)展,。新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹編輯 張冰 校對(duì) 趙琳