原文來源：學(xué)術(shù)頭條

圖片來源：由無界 AI?生成

【編者按】作為圖靈獎(jiǎng)得主和 Meta 首席 AI 科學(xué)家,，楊立昆（Yann LeCun）是 AI 技術(shù)最有力的捍衛(wèi)者之一。

當(dāng)他的前合作者 Geoffrey Hinton和 Yoshua Bengio 宣稱 AI 滅絕論時(shí),，LeCun 并沒有參與,。相反，他簽署了一封公開信,，呼吁擁抱開源 AI,，并稱 AI不應(yīng)由少數(shù)幾家企業(yè)控制。

那么,，AI 到底是會(huì)給人類帶來毀滅性災(zāi)難,，還是會(huì)加速推動(dòng)人類社會(huì)的發(fā)展？這也是自 ChatGPT 問世一年多以來,，業(yè)內(nèi)早已存在的兩種對(duì)抗聲音,。

近日，LeCun 接受了美國數(shù)字媒體 WIRED 的訪談,，就上述問題做出了回答,。核心觀點(diǎn)如下：

• AI 將在一定程度上實(shí)現(xiàn)創(chuàng)造力的民主化,，它們可以寫出非常流暢的文字，這些文字具有非常棒的風(fēng)格,，但它們也很無聊,，因?yàn)樗鼈兿氤龅臇|西可能完全是假的。
• 從長(zhǎng)遠(yuǎn)來看,，未來人類與數(shù)字世界的所有互動(dòng),，以及在某種程度上，人類彼此之間的互動(dòng),，都將以 AI 系統(tǒng)為媒介,。
• AI 必須是開源的，因?yàn)楫?dāng)平臺(tái)成為通信結(jié)構(gòu)的重要組成部分時(shí),，我們需要一個(gè)共同的基礎(chǔ)設(shè)施,。
• Yann LeCun 認(rèn)為，自己不屬于“加速主義”或“滅論絕”中的任何一個(gè)思想流派,，他并不喜歡這些標(biāo)簽,。
• Yann LeCun 并不認(rèn)可 AGI，因?yàn)楦静淮嬖谕ㄓ弥悄?。智能不是一種可以測(cè)量的線性事物,，不同類型的智能實(shí)體擁有不同的技能。
• 在 AI 系統(tǒng)中設(shè)定目標(biāo)是確保其可控性和安全性的唯一途徑,，并將其稱之為目標(biāo)驅(qū)動(dòng)型AI,，這是一種全新的架構(gòu)，目前我們尚未見到任何范例,。
• Yann LeCun 認(rèn)為,，研究界已經(jīng)不太關(guān)心 OpenAI 了，因?yàn)樗麄儧]有發(fā)表論文,，也沒有透露他們?cè)谧鍪裁?。我的一些前同事和學(xué)生在 OpenAI 工作，我們?yōu)樗麄兏械诫y過,，因?yàn)?OpenAI 出現(xiàn)了不穩(wěn)定因素,。

學(xué)術(shù)頭條在不改變?cè)拇笠獾那闆r下,，做了精心的編譯，內(nèi)容如下：

不要對(duì) Yann LeCun 講一些末日論,。作為現(xiàn)代 AI 的先驅(qū)和 Meta 首席 AI 科學(xué)家,，LeCun 是這項(xiàng)技術(shù)最有力的捍衛(wèi)者之一。他對(duì)同行們所描繪的錯(cuò)誤信息甚至導(dǎo)致人類滅絕的烏托邦式場(chǎng)景嗤之以鼻,。他經(jīng)常在 X 上發(fā)推斥責(zé)那些制造恐懼的人們,。當(dāng)他的前合作者 Geoffrey Hinton 和 Yoshua Bengio 將他們的名字放在一份聲明的首位,，稱 AI 是一種“社會(huì)級(jí)別的風(fēng)險(xiǎn)”時(shí)，LeCun 沒有參與,。相反,，他簽署了一封致美國總統(tǒng) Joe Biden 的公開信，呼吁擁抱開源 AI,，并稱 AI 不應(yīng)由少數(shù)幾家企業(yè)控制,。

LeCun 的觀點(diǎn)很重要。他與 Hinton 和 Bengio 一起,，幫助創(chuàng)建了對(duì) AI 水平提升至關(guān)重要的深度學(xué)習(xí)方法,，三人也因此獲得了計(jì)算機(jī)領(lǐng)域的最高榮譽(yù)——圖靈獎(jiǎng)。2013 年,，Meta（當(dāng)時(shí)的 Facebook）聘請(qǐng)他擔(dān)任了 FAIR 的創(chuàng)始主任,。另外,，他還是紐約大學(xué)教授,。最近，他幫助說服首席執(zhí)行官 Mark Zuckerberg 與世界分享 Meta 的一些 AI 技術(shù),。今年夏天,，Meta 推出了一款名為?“Llama 2”?的開源大型語言模型（LLMs），與 OpenAI,、微軟和谷歌競(jìng)爭(zhēng),。一些批評(píng)者警告稱，這種開源策略可能會(huì)讓不法分子通過修改代碼繞過對(duì) LLMs 輸出中有害內(nèi)容的防護(hù)措施,。做為 AI 領(lǐng)域最杰出的人物之一,，LeCun 認(rèn)為人類可以解決這個(gè)問題。

今年秋天,，我和 LeCun 在紐約 Meta Midtown 辦公室的一間會(huì)議室里進(jìn)行了交談,。我們談到了開源、為什么他認(rèn)為 AI 的危險(xiǎn)性被夸大了,，以及計(jì)算機(jī)是否能像 Charlie Parker 的薩克斯獨(dú)奏那樣打動(dòng)人心,。（LeCun 在巴黎郊外長(zhǎng)大，經(jīng)常出入紐約的爵士俱樂部）,。12 月,，當(dāng) LeCun 出席 NeurIPS 會(huì)議時(shí)，我們又進(jìn)行了一次對(duì)話,?？紤]到篇幅和清晰度，我們對(duì)訪談內(nèi)容進(jìn)行了編輯,。

Steven Levy：在最近的一次演講中,，你說“機(jī)器學(xué)習(xí)糟透了”,。為什么像你這樣的 AI 先驅(qū)會(huì)這么說？

Yann LeCun：機(jī)器學(xué)習(xí)很棒,。但那種認(rèn)為我們只需要擴(kuò)大現(xiàn)有技術(shù)的規(guī)模,，就能實(shí)現(xiàn)具有人類水平的 AI 的想法呢？要讓機(jī)器像人類和動(dòng)物一樣高效學(xué)習(xí),，我們還缺少一些重要的東西,，但我們還不知道那是什么。

我不想抨擊這些系統(tǒng),，也不想說它們一無是處,，我在整個(gè)職業(yè)生涯中，就一直專注于這些,。但是,，我們必須抑制某些人的興奮，他們認(rèn)為我們只需要擴(kuò)大規(guī)模,，就能很快獲得人類智能,。絕對(duì)不是這樣的。

你認(rèn)為你有責(zé)任揭露這些事情,。

沒錯(cuò),。AI 將為世界帶來許多好處，但一些人正通過人們對(duì)這項(xiàng)技術(shù)的恐懼來濫用它,。我們必須警惕,，以免讓人們望而卻步。這也是我們?cè)谄渌镄率澜绲募夹g(shù)上犯下的錯(cuò)誤,。就拿 15 世紀(jì)印刷術(shù)的發(fā)明來說,，天主教會(huì)憎恨它，對(duì)嗎,？人們可以自己閱讀《圣經(jīng)》,，而不用向牧師請(qǐng)教。幾乎所有權(quán)力者都反對(duì)廣泛使用印刷術(shù),，因?yàn)檫@會(huì)改變權(quán)力結(jié)構(gòu),。他們是對(duì)的，這造成了長(zhǎng)達(dá) 200?年的宗教沖突,。但它也帶來了啟蒙運(yùn)動(dòng),。[注：歷史學(xué)家可能會(huì)指出，教會(huì)實(shí)際上利用印刷術(shù)達(dá)到了自己的目的,，但不管怎樣,，LeCun 是這樣想的。］

為什么如此多的科技界知名人士都在敲響 AI 的警鐘,？

有些人在尋求關(guān)注,，有些人沒有看清當(dāng)今的真實(shí)情況,。他們沒有意識(shí)到，AI 實(shí)際上可以減少仇恨言論和錯(cuò)誤信息,。在 Meta,，我們利用 AI 在這方面取得了巨大的進(jìn)步。五年前,，在我們從平臺(tái)上刪除的所有仇恨言論中,，大約有 20% 到 25% 是 AI 系統(tǒng)在任何人看到之前刪除的。去年,，這一比例達(dá)到了 95%,。

你如何看待聊天機(jī)器人？它們是否強(qiáng)大到足以取代人類的工作,？

他們太棒了,，人們已經(jīng)在這方面取得了巨大的進(jìn)步。它們將在一定程度上實(shí)現(xiàn)創(chuàng)造力的民主化,，它們可以寫出非常流暢的文字,，這些文字具有非常棒的風(fēng)格，但它們也很無聊,，因?yàn)樗鼈兿氤龅臇|西可能完全是假的,。

Meta 似乎一心想要開發(fā)這些技術(shù),，并將其應(yīng)用到產(chǎn)品中,。

從長(zhǎng)遠(yuǎn)來看，未來我們與數(shù)字世界的所有互動(dòng),，以及在某種程度上,，我們彼此之間的互動(dòng)，都將以 AI 系統(tǒng)為媒介,。我們必須嘗試那些現(xiàn)在還沒有強(qiáng)大到足以做到這一點(diǎn),，但即將實(shí)現(xiàn)這一點(diǎn)的東西，或者在日常生活中幫助人類創(chuàng)造東西,，無論是文字還是實(shí)時(shí)翻譯,，諸如此類，也可能是在元宇宙中,。

在 Meta,，Mark 如何推進(jìn) AI 方面的工作？

Mark 非常投入,。今年年初,，我與他進(jìn)行了一次討論，并把我剛才告訴你的那些內(nèi)容告訴了他,，未來我們所有的互動(dòng)都將以 AI 為媒介,。ChatGPT 向我們展示了 AI 對(duì)新產(chǎn)品的作用,，這比我們預(yù)想得要早。我們看到,，公眾對(duì) AI 功能的癡迷程度遠(yuǎn)遠(yuǎn)超出了我們的想象,。因此，Mark 決定創(chuàng)建一個(gè)專注于生成式 AI 的產(chǎn)品部門,。

Meta 為什么決定以開源的方式與他人共享 Llama 代碼,？

當(dāng)你擁有一個(gè)開放的平臺(tái)，許多人都能為之做出貢獻(xiàn)時(shí),，進(jìn)步就會(huì)變得更快,。最終開發(fā)出的系統(tǒng)會(huì)更安全,，性能也會(huì)更好,。想象一下,，在未來,，我們與數(shù)字世界的所有互動(dòng)都將以 AI 系統(tǒng)為媒介,。你不會(huì)希望 AI 系統(tǒng)被美國西海岸的少數(shù)公司所控制,。也許美國人不在乎,，也許美國政府不在乎,。但我現(xiàn)在告訴你,，在歐洲，他們不會(huì)喜歡的。他們會(huì)說：“好吧，這個(gè)能說正確的英語,。但法語呢,？德語呢,？匈牙利語呢？荷蘭語或其他語言呢,？你是怎么訓(xùn)練它的,？這如何反映我們的文化,？”

這似乎是讓初創(chuàng)企業(yè)使用你的產(chǎn)品并擊敗競(jìng)爭(zhēng)對(duì)手的好辦法,。

我們不需要向任何人妥協(xié),，這就是世界發(fā)展的方向。AI 必須是開源的，因?yàn)楫?dāng)平臺(tái)成為通信結(jié)構(gòu)的重要組成部分時(shí),，我們需要一個(gè)共同的基礎(chǔ)設(shè)施。

有一家公司不同意這種說法，那就是 OpenAI，而你似乎并不喜歡它,。

剛開始時(shí)，他們?cè)O(shè)想創(chuàng)建一個(gè)非營(yíng)利組織,，從事 AI 研究,，從而抗衡谷歌和 Meta 等主導(dǎo)行業(yè)研究的公司,。我認(rèn)為這是一個(gè)錯(cuò)誤的想法，事實(shí)證明,，我是對(duì)的,。OpenAI 已經(jīng)不再開放（open）。Meta 一直是開放的,，現(xiàn)在也是,。我想說的第二件事是，除非你有辦法為 AI 研究提供資金,，否則你很難開展實(shí)質(zhì)性的 AI 研究。最終,，他們不得不成立一個(gè)營(yíng)利機(jī)構(gòu),，并從微軟那里獲得投資。所以，盡管 OpenAI 有一定的獨(dú)立性,，但他們現(xiàn)在基本上就是微軟的合作研究機(jī)構(gòu),。第三點(diǎn)，那就是他們相信通用人工智能（AGI）指日可待，而且他們會(huì)比任何人都更早地開發(fā)出來,，但他們做不到,。

Sam Altman 被踢出了首席執(zhí)行官的職位，然后又回到了不同的董事會(huì),，你如何看待 OpenAI 的這一戲劇性事件,？你認(rèn)為這對(duì)研究界或行業(yè)有什么影響嗎？

我認(rèn)為研究界已經(jīng)不太關(guān)心 OpenAI 了,，因?yàn)樗麄儧]有發(fā)表論文,，也沒有透露他們?cè)谧鍪裁础Ｎ业囊恍┣巴潞蛯W(xué)生在 OpenAI 工作,，我們?yōu)樗麄兏械诫y過,，因?yàn)?OpenAI 出現(xiàn)了不穩(wěn)定因素。研究工作的發(fā)展離不開穩(wěn)定的環(huán)境,，而一旦發(fā)生類似的戲劇性事件,，人們就會(huì)變得猶豫不決。此外,，對(duì)從事研究工作的人來說,，另一個(gè)重要方面就是開放性，而 OpenAI 真的不再開放了,。因此,，從這個(gè)意義上說,，OpenAI 已經(jīng)發(fā)生了變化，他們不再被視為研究界的貢獻(xiàn)者,。這一切都掌握在開放平臺(tái)手中,。

這一事件被稱為是 AI “加速主義”的勝利，而 “加速主義” 恰恰與 “滅絕論” 相反,。我知道你不是一個(gè)“滅絕論支持者”,，但你是一個(gè) “加速主義者” 嗎？

不,，我不喜歡這些標(biāo)簽,。我不屬于任何一個(gè)思想流派。我非常謹(jǐn)慎,，不會(huì)把這類思想推向極端,，因?yàn)樘菀紫萑胪耆h(huán)，從而做出愚蠢的事情,。

歐盟最近發(fā)布了一套 AI 法規(guī),，其中有一條就是在很大程度上豁免了開源模型。這將對(duì) Meta 和其他公司產(chǎn)生哪些影響,？

這在一定程度上影響到了 Meta,，但我們有足夠的實(shí)力來遵守任何法規(guī)。對(duì)于那些沒有自己的資源從頭開始構(gòu)建 AI 系統(tǒng)的國家來說,，這一點(diǎn)要重要得多,。他們可以依靠開源平臺(tái)，擁有符合其文化,、語言和興趣的 AI 系統(tǒng),。在不遠(yuǎn)的將來，我們與數(shù)字世界的絕大多數(shù)互動(dòng)都將以 AI 系統(tǒng)為媒介,。你不會(huì)希望這些東西被加利福尼亞的少數(shù)公司所控制,。

你是否參與幫助監(jiān)管機(jī)構(gòu)得出這一結(jié)論？

我在與監(jiān)管機(jī)構(gòu)探討,，但沒有直接和他們交談,。我一直在與各國政府交流，尤其是法國政府,，但也間接與其他國家的政府交流,。基本上,，他們不希望公民的數(shù)字消費(fèi)被少數(shù)人控制,，法國政府很早就接受了這一想法。不幸的是,，我沒有和歐盟層面的人談過,，他們更多受到末日預(yù)言的影響,，希望對(duì)一切進(jìn)行監(jiān)管,，以防止他們認(rèn)為可能發(fā)生的災(zāi)難發(fā)生,。但是，這遭到了法國,、德國和意大利政府的反對(duì),，他們認(rèn)為，歐盟必須為開源平臺(tái)做出特別的規(guī)定,。

但是,，開源 AI 真的難以控制和監(jiān)管嗎？

對(duì)于安全性非常重要的產(chǎn)品,，已經(jīng)有相關(guān)的法規(guī),。比如，如果你要用 AI 來設(shè)計(jì)新藥,，就已經(jīng)有法規(guī)來確保這種產(chǎn)品是安全的,。我認(rèn)為這是有道理的。人們正在爭(zhēng)論的問題是,，對(duì) AI 的研發(fā)進(jìn)行監(jiān)管是否合理,。我認(rèn)為沒有意義。

難道不會(huì)有人能利用大公司發(fā)布的復(fù)雜開源系統(tǒng)來占領(lǐng)世界嗎,？只要獲得源代碼和權(quán)重,，恐怖分子或騙子就能為 AI 系統(tǒng)提供破壞性能力。

他們需要在某個(gè)隱蔽的地方獲得 2000 個(gè) GPU,，需要足夠的資金和人才來完成這項(xiàng)工作,。

我認(rèn)為，他們最終會(huì)想出如何制造自己的 AI 芯片,。

沒錯(cuò),，但它會(huì)比先進(jìn)技術(shù)落后幾年實(shí)現(xiàn)。這就是在世界歷史中,，每當(dāng)科技進(jìn)步的時(shí)候,，你都無法阻止壞人獲取它，然后就是善意 AI 對(duì)抗邪惡 AI,。保持領(lǐng)先的方法就是加快進(jìn)步,，實(shí)現(xiàn)更快進(jìn)步的方法是開放研究，讓更多人參與其中,。

如何定義 AGI,？

我不喜歡 AGI 這個(gè)詞，因?yàn)楦静淮嬖谕ㄓ弥悄?。智能不是一種可以測(cè)量的線性事物,，不同類型的智能實(shí)體擁有不同的技能,。

一旦讓計(jì)算機(jī)達(dá)到人類的智能水平，它們就不會(huì)止步于此,。憑借豐富的知識(shí),、機(jī)器級(jí)的數(shù)學(xué)能力和更好的算法，它們會(huì)創(chuàng)造出超級(jí)智能,，對(duì)嗎,？

是的，毫無疑問,，機(jī)器最終會(huì)比人類更聰明,。我們不知道這需要多長(zhǎng)時(shí)間，可能是幾年,，也可能是幾個(gè)世紀(jì),。

到那時(shí)，我們就得束手就擒嗎,？

不是,。我們都將擁 AI 助手，就像與一群超級(jí)聰明的員工一起工作一樣,，只是它們不是人而已,。人類會(huì)因此受到威脅，但我認(rèn)為我們應(yīng)該感到興奮,。最讓我興奮的是與比我更聰明的人一起工作,，因?yàn)檫@會(huì)擴(kuò)展你自己的能力。

但是,，如果計(jì)算機(jī)獲得超級(jí)智能,，它們?yōu)槭裁催€需要我們呢？

我們沒有理由相信,，AI 系統(tǒng)一旦變得智能,，就會(huì)想替代人類。如果人們認(rèn)為 AI 系統(tǒng)會(huì)有和人類一樣的動(dòng)機(jī),，那就大錯(cuò)特錯(cuò)了,。它們不會(huì)，因?yàn)槲覀儠?huì)在設(shè)計(jì)中進(jìn)行設(shè)定,。

如果人類沒有建立這些目標(biāo),，而超級(jí)智能系統(tǒng)一心追求某個(gè)目標(biāo)，最終傷害了人類呢,？就像哲學(xué)家 Nick Bostrom 所舉的例子：一個(gè)被設(shè)計(jì)為無論如何都要制造回形針的系統(tǒng),，為了制造更多的回形針而占領(lǐng)了整個(gè)世界。

如果只是建立系統(tǒng)而忽略了防護(hù)措施,，那就顯得太愚蠢了,。這就好比制造一輛搭載了 1000 馬力發(fā)動(dòng)機(jī)卻沒有剎車系統(tǒng)的汽車,。在 AI 系統(tǒng)中設(shè)定目標(biāo)是確保其可控性和安全性的唯一途徑，我將其稱之為目標(biāo)驅(qū)動(dòng)型 AI,。這是一種全新的架構(gòu),，目前我們尚未見到任何范例。

這就是你現(xiàn)在的工作嗎,？

是的,，我們的想法是，機(jī)器有它需要滿足的目標(biāo),，它不能產(chǎn)生任何不符合這些目標(biāo)的東西。這些目標(biāo)可能包括防止危險(xiǎn)發(fā)生的防護(hù)措施或其他東西,，這就是讓 AI 系統(tǒng)安全的方法,。

你認(rèn)為你會(huì)為你所促成的 AI 的后果而后悔嗎？

如果我認(rèn)為是這樣的話,，我就不會(huì)再這么做了,。

你是一個(gè)爵士樂迷。AI 產(chǎn)生的任何東西能否與迄今為止只有人類才能產(chǎn)生的令人興奮的創(chuàng)造力相媲美,？它能創(chuàng)造出有靈魂的作品嗎,？

答案很復(fù)雜。是的,，AI 系統(tǒng)最終將能創(chuàng)作出音樂,、視覺藝術(shù)或其他作品，其技術(shù)質(zhì)量與人類相似,，甚至更勝一籌,。但是，AI 系統(tǒng)并不具備創(chuàng)作即興音樂的能力,，因?yàn)榧磁d音樂依賴于人類的情緒和情感交流,。AI 至少現(xiàn)在還沒有這種能力，這就是爵士樂需要現(xiàn)場(chǎng)聆聽的原因,。

你還沒回答我這種音樂是否有靈魂,。

你已經(jīng)有了完全沒有靈魂的音樂。這種音樂可以在餐廳里播放的背景音樂中聽到,，主要由機(jī)器生產(chǎn),，這就是市場(chǎng)。

但我說的是藝術(shù)的頂峰,。如果我放給你聽的是 Charlie Parker 最好的錄音,，然后告訴你這是 AI 生成的，你會(huì)不會(huì)覺得被騙了,？

是,，也不是,。是的，因?yàn)橐魳凡粌H僅是一種聽覺體驗(yàn),，其中很多是文化體驗(yàn),，這是對(duì)表演者的欽佩。你的例子就像 Milli Vanilli,，真實(shí)是藝術(shù)體驗(yàn)的重要組成部分,。

如果 AI 系統(tǒng)足以與精英藝術(shù)成就相媲美，而你又不知道其背后的故事,，那么市場(chǎng)上就會(huì)充斥著 Charlie Parker 級(jí)別的音樂,，而我們卻無法分辨其中的差別。

我認(rèn)為這沒有任何問題,。我還是會(huì)買原版,，就像我還是會(huì)買一個(gè)價(jià)值 300 美元的手工碗，雖然我花 5 美元就能買到一個(gè)看起來差不多的東西,，但它還是來自一個(gè)有著數(shù)百年文化的地方,。我們?nèi)匀粫?huì)去現(xiàn)場(chǎng)聆聽我最喜歡的爵士音樂家的演奏，盡管他們可以被模仿,。AI 系統(tǒng)的體驗(yàn)是不一樣的,。

你最近從馬克龍總統(tǒng)那里獲得了一項(xiàng)榮譽(yù)，我無法讀出這些法語……

法國榮譽(yù)軍團(tuán)騎士（Chevalier de la Légion d'honneur）,。它是由拿破侖創(chuàng)立的,。它有點(diǎn)類似于英國的爵士頭銜，不過我們有一場(chǎng)革命,，所以我們不稱呼人們?yōu)椤熬羰俊薄?/p>

有武器裝備嗎,？

不，他們沒有劍之類的東西,。但是，擁有這種武器的人可以在衣襟上佩戴紅色小條紋,。

AI 模型能贏得這一獎(jiǎng)項(xiàng)嗎,？

不會(huì)很快，反正我覺得這不是個(gè)好主意,。

原文作者：Steven Levy

原文鏈接：

https://www.wired.com/story/artificial-intelligence-meta-yann-lecun-interview/

編譯：閆一米