生成式人工智能正在全球范圍內(nèi)掀起一場(chǎng)劃時(shí)代的ICT產(chǎn)業(yè)革命。算力,、算法,、數(shù)據(jù)已成為未來(lái)綜合國(guó)力比拼的必爭(zhēng)之地。心智觀察所日前連線業(yè)界享有盛名的“生成式AI之父”尤爾根·施密德胡貝爾（Jürgen Schmidhuber）,。就AIGC發(fā)展的內(nèi)在理路,，AGI的可能性以及中國(guó)AI產(chǎn)業(yè)發(fā)展等一系列問(wèn)題進(jìn)行了深入對(duì)話。目前尤爾根·施密德胡貝爾先生擔(dān)任瑞士人工智能實(shí)驗(yàn)室IDSIA的科學(xué)主任以及沙特阿拉伯阿卜杜拉國(guó)王科技大學(xué)（KAUST）的人工智能計(jì)劃負(fù)責(zé)人《紐約時(shí)報(bào)》曾以“當(dāng)AI成熟時(shí)，它或許會(huì)稱(chēng)尤爾根·施密德胡貝爾為‘父親’”為標(biāo)題對(duì)尤爾根·施密德胡貝爾進(jìn)行過(guò)報(bào)道,。在1990-91年間,，他為“生成式AI”奠定了基礎(chǔ)，介紹了生成對(duì)抗網(wǎng)絡(luò)（用于深度偽造）的原理,、非規(guī)范化線性Transformer（ChatGPT中的“T”）,，以及自監(jiān)督預(yù)訓(xùn)練原理（ChatGPT中的“P”）,。他的實(shí)驗(yàn)室還開(kāi)發(fā)了LSTM（長(zhǎng)短期記憶），這是20世紀(jì)引用最多的人工智能技術(shù),，以及高速神經(jīng)網(wǎng)絡(luò)（Highway Neural Networks）,，這是第一個(gè)非常深的前饋網(wǎng)絡(luò)（其變體后來(lái)成為21世紀(jì)引用最多的人工智能技術(shù)）。埃隆·馬斯克曾發(fā)推文稱(chēng)：“尤爾根·施密德胡貝爾發(fā)明了所有東西,?！庇葼柛な┟艿潞悹柍珜?dǎo)和引領(lǐng)的AI技術(shù)已被應(yīng)用于超過(guò)30億部智能手機(jī)上，每天被使用數(shù)十億次,。心智觀察所：很高興有這樣一個(gè)對(duì)話的機(jī)會(huì),。您發(fā)表過(guò)對(duì)長(zhǎng)短期記憶（LSTM）的架構(gòu)和訓(xùn)練算法，是否可以把LSTM人工神經(jīng)網(wǎng)絡(luò)與人腦等生物神經(jīng)網(wǎng)絡(luò)進(jìn)行一個(gè)類(lèi)比,？尤爾根·施密德胡貝爾：事實(shí)上,，LSTM受到了人腦的啟發(fā)，人腦有大約1000億個(gè)神經(jīng)元,，每個(gè)神經(jīng)元平均與10000個(gè)其他神經(jīng)元相連,。一些是輸入神經(jīng)元，為其余神經(jīng)元提供數(shù)據(jù)（聲音,、視覺(jué),、觸覺(jué)、疼痛,、饑餓）,。其他則是輸出神經(jīng)元，用于肌肉控制和移動(dòng),。大多數(shù)神經(jīng)元隱藏在輸入和輸出之間,，我的思考的出發(fā)點(diǎn)就在這里。所有神經(jīng)元都通過(guò)改變連接強(qiáng)度來(lái)學(xué)習(xí),，這決定了神經(jīng)元相互影響的強(qiáng)度,，并且似乎對(duì)你一生的所有經(jīng)驗(yàn)都進(jìn)行了編碼。我們的人工神經(jīng)網(wǎng)絡(luò)（比如LSTM）也是如此,，它比以前的方法學(xué)得更好,，可以識(shí)別語(yǔ)音、筆跡或視頻,，最大限度地減少痛苦,，最大限度地提高快樂(lè)，還能駕駛模擬汽車(chē)等,。心智觀察所：您提到的LSTM可以“最大限度地減少痛苦,，最大限度地提高快樂(lè)”，這意味著什么,？而這對(duì)于實(shí)現(xiàn)通用人工智能（AGI）有多重要,？尤爾根·施密德胡貝爾：這是至關(guān)重要的,！不過(guò),，我應(yīng)該先解釋一下如何對(duì)一個(gè)學(xué)習(xí)型的通用人工智能（AGI）進(jìn)行編程,。你其實(shí)不需要告訴它具體該做什么事情。相反,，你只需要給它一個(gè)評(píng)價(jià)函數(shù)（evaluation function）,，讓它去最大化這個(gè)函數(shù)。例如,，給一個(gè)機(jī)器人裝上疼痛傳感器,，當(dāng)它撞到障礙物或感到“饑餓”（由于電池電量過(guò)低）時(shí)，這個(gè)疼痛傳感器就會(huì)產(chǎn)生負(fù)數(shù),。而機(jī)器人的最終目標(biāo)是盡可能減少這些負(fù)數(shù)的總和,，因此它必須通過(guò)反復(fù)試驗(yàn)來(lái)找到避免痛苦的方法。直到某一時(shí)刻,，它就學(xué)會(huì)在感到饑餓時(shí)快速找到充電站,，同時(shí)避免撞到障礙物。美劇《西部世界》被編程的“人類(lèi)”動(dòng)物和人類(lèi)的學(xué)習(xí)方式本質(zhì)上也是類(lèi)似的,，都以最大化獎(jiǎng)勵(lì)并避免痛苦來(lái)進(jìn)行學(xué)習(xí),。而他們的評(píng)價(jià)函數(shù)當(dāng)然是由生物進(jìn)化發(fā)明或被“編程”的。那些給他們帶來(lái)進(jìn)化優(yōu)勢(shì)的評(píng)價(jià)函數(shù)得以保留下來(lái),。而人工智能的進(jìn)化至少在仿真模擬中已經(jīng)存在了幾十年了,，也已相同的方式正在進(jìn)行著。心智觀察所：您提到機(jī)器人“可能因?yàn)殡姵仉娏康投械金囸I,?！边@讓我想到，特斯拉有一個(gè)野心勃勃的人形機(jī)器人項(xiàng)目,，該項(xiàng)目面臨的一個(gè)瓶頸就是如何優(yōu)化能耗,，比如跳躍和爬樓梯比在地板上行走需要消耗更多能量。您怎么看待這個(gè)問(wèn)題,？功耗問(wèn)題會(huì)成為人形機(jī)器人的阿喀琉斯之踵嗎,？相應(yīng)的解決辦法是什么？尤爾根·施密德胡貝爾：未來(lái)不會(huì)只有一種類(lèi)型的人形機(jī)器人,，而是會(huì)有成千上萬(wàn)種不同類(lèi)型的機(jī)器人,，有些很小，這樣它們就可以從內(nèi)部檢查和修理小型機(jī)器,，還有一些則不僅外形高大,，力量甚至比現(xiàn)在的一些工業(yè)機(jī)器人還要強(qiáng)。有些機(jī)器人將會(huì)通過(guò)連接外部電池的電纜來(lái)解決能源問(wèn)題,，另一些則會(huì)使用汽油發(fā)動(dòng)機(jī),，還有一些在深空中的機(jī)器人將使用基于放射性衰變的長(zhǎng)效核電池,，這類(lèi)電池在上個(gè)世紀(jì)的無(wú)人航天器中已經(jīng)使用過(guò)了?？拷?yáng)的,，比如在水星上的機(jī)器人將大量利用豐富的太陽(yáng)能。某個(gè)時(shí)刻,，人工智能自己將會(huì)發(fā)明新的,、更高效的電池。事實(shí)上,，今天的AI已經(jīng)被用來(lái)研發(fā)新的有用化學(xué)物質(zhì),、材料、催化劑,、藥物等,。特斯拉工廠內(nèi)的機(jī)器人心智觀察所：有關(guān)AI和藥物研發(fā)問(wèn)題，目前您在KAUST AI中心也在從事這方面的工作,。甚至像英偉達(dá)和新思科技這樣的半導(dǎo)體公司也在使用AI幫助生物制藥公司進(jìn)行藥物研發(fā),。芯片設(shè)計(jì)和藥物設(shè)計(jì)之間是否有相似之處？尤爾根·施密德胡貝爾：所有人工智能的執(zhí)行都需要高效的微芯片,。然而,，芯片設(shè)計(jì)和藥物設(shè)計(jì)是由不同類(lèi)型的AI驅(qū)動(dòng)的。藥物設(shè)計(jì)的AI更像是材料科學(xué)或化學(xué)的AI,。這又是如何運(yùn)作的呢,？我們的深度人工神經(jīng)網(wǎng)絡(luò)會(huì)觀察某些特定化學(xué)物質(zhì)在特定溫度、壓力,、催化劑和其他條件下如何相互反應(yīng),。通過(guò)大量的訓(xùn)練樣本，它們學(xué)會(huì)預(yù)測(cè)最終輸出物質(zhì)的性質(zhì),，學(xué)會(huì)直觀地理解化學(xué)反應(yīng)的過(guò)程?，F(xiàn)在我們可以在逆向模式下使用這些預(yù)測(cè)機(jī)制：假設(shè)我們想創(chuàng)造一種以前從未觀察到的特定理想特性的新材料，我們需要如何改變輸入條件（比如催化劑,、材料等）才能獲得這種材料,？AI化學(xué)家會(huì)對(duì)此提出合理的建議。如果它在現(xiàn)實(shí)世界中真的有效的話,，那就一切順利,。不然，我們將會(huì)用新的訓(xùn)練示例來(lái)進(jìn)一步改進(jìn)神經(jīng)網(wǎng)絡(luò),。這種方法可以應(yīng)用到很多地方,，例如使用更好的材料可以直接從稀薄的空氣中捕獲碳，從而減少全球變暖；或者通過(guò)更高效的膜技術(shù)從海水中提取淡水,；可以快速進(jìn)行藥物設(shè)計(jì)以改善醫(yī)療健康,。我們的KAUST AI中心正在研究這些課題。心智觀察所：在人工智能機(jī)器學(xué)習(xí)支持的創(chuàng)新藥物發(fā)現(xiàn)方面,，應(yīng)該如何應(yīng)對(duì)社會(huì)倫理的挑戰(zhàn),？尤爾根·施密德胡貝爾：人工智能科學(xué)家提供解決方案，而往往將其倫理規(guī)范留給其他人,。事實(shí)上,，有些關(guān)于AI監(jiān)管法規(guī)的炒作是愚蠢的,。我們無(wú)法規(guī)范基礎(chǔ)人工智能研究,，就像我們無(wú)法規(guī)范數(shù)學(xué)一樣。而在另一方面,，我們可以規(guī)范人工智能在金融,、汽車(chē)、醫(yī)療保健等領(lǐng)域的應(yīng)用,。不過(guò),，這些領(lǐng)域也已經(jīng)搭建了不斷適應(yīng)各種新情況的監(jiān)管框架。讓我們確保法規(guī)不會(huì)扼殺開(kāi)源運(yùn)動(dòng),！這就是為什么我簽署 LAION 公開(kāi)信的原因（相關(guān)資料可見(jiàn)于https://laion.ai/blog/transparent-ai/）,。心智觀察所：我們查閱了您簽署的LAION的公開(kāi)信，對(duì)“開(kāi)源是AI安全的黃金標(biāo)準(zhǔn)”和“開(kāi)源是創(chuàng)新的催化劑”這兩個(gè)聲明印象深刻,。但有點(diǎn)驚訝Yann André LeCun也簽署了這封信,，您之前接受某中國(guó)媒體采訪時(shí)，曾批評(píng)他抄襲了您的相關(guān)AI學(xué)術(shù)理念,。不過(guò),，可能存在一個(gè)問(wèn)題，開(kāi)源很容易被知識(shí)產(chǎn)權(quán)破壞者操縱和利用,。您認(rèn)為開(kāi)源在知識(shí)產(chǎn)權(quán)保護(hù)方面是否有一些弱點(diǎn),？尤爾根·施密德胡貝爾：與公域軟件不同，開(kāi)源軟件可能附帶某些許可條件和限制,。我沒(méi)有看到關(guān)于知識(shí)產(chǎn)權(quán)方面的問(wèn)題：如果你不想分享你的軟件,，那就不要讓它變成公用的。但如果你選擇共享,，它可能會(huì)變得更受歡迎,，而這也可能會(huì)帶來(lái)許多來(lái)自下游方的益處，包括商業(yè)上利益,。心智觀察所：KAUST人工智能中心位于沙特阿拉伯,。目前，也有不少中東國(guó)家在人工智能方面的創(chuàng)新步伐非?？臁Ｄ绾卧u(píng)價(jià)中東在人工智能創(chuàng)新方面的雄心,？此外，據(jù)報(bào)道,，美國(guó)因?yàn)閾?dān)心中東成為中國(guó)人工智能研發(fā)的 “后門(mén)”從而放緩了對(duì)中東的人工智能芯片出口,。你的工作有沒(méi)有受到某些地緣政治因素的影響？尤爾根·施密德胡貝爾：沙特公共投資基金（PIF）計(jì)劃投資400億美元用于AI,。阿聯(lián)酋也有類(lèi)似的雄心,。中東當(dāng)?shù)氐娜丝谀贻p并且樂(lè)觀地認(rèn)為AI將可以改善他們的生活。當(dāng)然,，科學(xué)和技術(shù)不可能完全免受地緣政治的影響,，有時(shí)甚至受其驅(qū)動(dòng)。有一個(gè)著名的例子：80年前——1944年,，二戰(zhàn)期間,，德國(guó)佩內(nèi)明德（Peenemünde,注：二戰(zhàn)期間，它是納粹德國(guó)V1和V2火箭的研發(fā)基地）迎來(lái)了太空時(shí)代,，當(dāng)時(shí)沃納·馮·布勞恩的團(tuán)隊(duì)將第一個(gè)人造物體送入太空,。25年后，1969年,，冷戰(zhàn)期間,，同一支團(tuán)隊(duì)（現(xiàn)在在美國(guó)工作）將人類(lèi)送上了月球。當(dāng)時(shí)一切都圍繞著火箭科學(xué)展開(kāi),，今天,，一切都圍繞著人工智能展開(kāi)。佩內(nèi)明德科技博物館內(nèi)的航天器展覽無(wú)可置疑的是,，我們也意識(shí)到主要大國(guó)之間地緣政治的緊張局勢(shì),，但我一直在強(qiáng)調(diào)，我們?cè)贙AUST由沙特資助的開(kāi)源人工智能研究是惠及全人類(lèi)的,，而不僅僅是某些特定的公司或國(guó)家,。心智觀察所：中國(guó)的生成式AI產(chǎn)業(yè)仍處于早期發(fā)展階段，但成長(zhǎng)迅速,，并且中國(guó)推出了越來(lái)越多的大語(yǔ)言模型,。您認(rèn)為中國(guó)應(yīng)該怎么做才能縮小與美國(guó)在AI加速器（用于訓(xùn)練和AI推理的GPU）方面的差距？尤爾根·施密德胡貝爾：我認(rèn)為中國(guó)已經(jīng)在大力投資建設(shè)自己的自主可控的AI硬件,，試圖模仿目前只有荷蘭的ASML能夠做到的事情,，因?yàn)槊绹?guó)政府在阻止ASML向中國(guó)交付其最新的芯片制造所需要的光刻機(jī)?？傮w而言,，歷史證明，一個(gè)主要大國(guó)在技術(shù)上追趕另一個(gè)大國(guó)可能只需要幾年時(shí)間。例如,，德國(guó)在1938年發(fā)現(xiàn)了核裂變（原子彈的原理）,，僅僅7年后，美國(guó)就擁有了可用的核武器,。而再過(guò)4年,，蘇聯(lián)也有了核武器。到如今,，許多國(guó)家都擁有核武器,。值得注意的是，中國(guó)目前在人工智能領(lǐng)域發(fā)表的論文和獲得的專(zhuān)利數(shù)量超過(guò)了其他任何國(guó)家,。如果中國(guó)在未來(lái)幾年內(nèi)沒(méi)有縮小硬件差距,，我會(huì)對(duì)此感到十分驚訝。