Meta CTO接受訪談,，大談AI開(kāi)源競(jìng)爭(zhēng)，認(rèn)為AI開(kāi)源將讓所有參與者獲益,。同時(shí),，XR已經(jīng)準(zhǔn)備好利用AI搭建殺手應(yīng)用,，Meta最近推出的AR眼鏡就是最好的例子。

原文來(lái)源：新智元

圖片來(lái)源：由無(wú)界 AI生成

最近,，Meta CTO Andrew Bosworths公開(kāi)接受了記者的專訪。

他針對(duì)Meta如何將AI和XR行業(yè)融合在一起,，以及Meta對(duì)于開(kāi)源AI社區(qū)的競(jìng)爭(zhēng)和發(fā)展,，AI人才的流動(dòng)聊了很多,。

當(dāng)XR遇上AI,，如何迸發(fā)出火花

問(wèn)題：看起來(lái)，當(dāng)混合現(xiàn)實(shí)硬件與生成式人工智能相結(jié)合時(shí),，會(huì)得到1+1大于2的效果嗎？

在7年前Michael Abrash的Connect演講中，他探討了大型AR的未來(lái)愿景,，強(qiáng)調(diào)人工智能是核心組成部分,。

但之前的認(rèn)識(shí)可能存在誤區(qū)，認(rèn)為需要大量狹窄的數(shù)據(jù)集才能獲得更好的AI系統(tǒng)。然而,，這種思維方式正逐漸轉(zhuǎn)變,。

眼鏡類產(chǎn)品在市場(chǎng)上的長(zhǎng)期存在,，加上人工智能的應(yīng)用,，就可以顯著提高眼鏡的實(shí)用性,。

在大型語(yǔ)言模型出現(xiàn)之前，機(jī)器學(xué)習(xí)總是圍繞著創(chuàng)造價(jià)值的應(yīng)用發(fā)展的。

例如,，F(xiàn)acebook在引入News Feed排名機(jī)制之前已存在,，但隨著時(shí)間的推移，其排名機(jī)制得到了改善,。

類似地,，所有人工智能系統(tǒng)通常都是基于非AI元素開(kāi)始，以獲取數(shù)據(jù)集,，隨后這些數(shù)據(jù)集支持人工智能系統(tǒng)的不斷進(jìn)步,。

然而大型語(yǔ)言模型與以往不同,，它已經(jīng)具有了很強(qiáng)的通用性,。這意味著不再需要精確或完美的訓(xùn)練數(shù)據(jù)，現(xiàn)有的人工智能技術(shù)將成為未來(lái)Meta設(shè)備的基石。

Meta最近剛剛和Ray Ban合作推出的眼鏡就是一個(gè)例子,。這款眼鏡具有攝像頭視頻、實(shí)時(shí)流媒體、優(yōu)質(zhì)音樂(lè)播放和通話的功能,，是一款優(yōu)秀的產(chǎn)品,。

剛剛推出時(shí)，我們覺(jué)得需要一個(gè)「智能助手」來(lái)幫助用戶使用這些功能,，但是6個(gè)月過(guò)后,，智能助手本身成為了眼鏡上最為流行的功能了。

他強(qiáng)調(diào),，硬件產(chǎn)品的關(guān)鍵功能在短時(shí)間內(nèi)發(fā)生改變是非常罕見(jiàn)的,，但在眼鏡的案例中卻發(fā)生了，顯示了技術(shù)發(fā)展的迅速和不可預(yù)測(cè)性,。

問(wèn)：您認(rèn)為人工智能將如何在Quest中發(fā)揮作用,？

在Quest上，我們真正想要實(shí)現(xiàn)的一些功能實(shí)際上并沒(méi)有很好的訓(xùn)練數(shù)據(jù)集,。

文本,，我們有整個(gè)互聯(lián)網(wǎng)作為資源,。照片，F(xiàn)acebook和Instagram上有龐大的圖庫(kù),。但對(duì)于3D對(duì)象,，尤其是在四維空間中動(dòng)畫(huà)的3D對(duì)象，卻沒(méi)有一個(gè)大型,、權(quán)威的數(shù)據(jù)庫(kù),。

這正是我們真正想要的。我們正在努力,，試圖改進(jìn)這個(gè)模態(tài)下的一切內(nèi)容,，包括能夠?qū)С龈嗟?D內(nèi)容。

所以混合現(xiàn)實(shí)和虛擬現(xiàn)實(shí)非常難以實(shí)現(xiàn),，因?yàn)槟阋獙?shí)現(xiàn)的是一個(gè)額外的維度空間上的所有內(nèi)容,。

但另一方面，XR和VR顯然有巨大的優(yōu)勢(shì),，它們有始終開(kāi)啟的傳感器,。這些傳感器始終在掃描和感知空間。

Meta依然在進(jìn)行研究,，在3D和4D空間上看到了一些很有潛力的事情,。

問(wèn)：您想要實(shí)現(xiàn)的殺手級(jí)用例是什么？

答：在短期內(nèi),，公司重點(diǎn)關(guān)注的是創(chuàng)作者,，提供了設(shè)計(jì)頭像、創(chuàng)建世界和游戲等功能,。

而Meta的長(zhǎng)期目標(biāo)是提高用戶與機(jī)器的交互效率,，使用戶能夠同時(shí)在內(nèi)容和系統(tǒng)層面進(jìn)行交互。

例如,，用戶可以直接通過(guò)簡(jiǎn)單指令來(lái)啟動(dòng)游戲并邀請(qǐng)朋友參與某個(gè)游戲,。

這可能是一個(gè)非常復(fù)雜的過(guò)程，需要在系統(tǒng)中啟動(dòng)游戲,，同時(shí)向好友發(fā)出邀請(qǐng),，并將他們拉到同一個(gè)應(yīng)用中的同一個(gè)地方。

開(kāi)源AI,，Meta與社區(qū)共榮

問(wèn)：請(qǐng)問(wèn)Meta開(kāi)源Llama背后的策略是什么,？

公司自2006年以來(lái)一直是開(kāi)源領(lǐng)域的領(lǐng)導(dǎo)者。他們利用了多個(gè)開(kāi)源項(xiàng)目,，如PHP,、Memcached和MySQL，這些項(xiàng)目幫助公司以較少的員工高效運(yùn)作,。他們還推動(dòng)了PyTorch項(xiàng)目,，這是一種主要的機(jī)器學(xué)習(xí)工程系統(tǒng),，并對(duì)其進(jìn)行了開(kāi)源。

開(kāi)源項(xiàng)目的一個(gè)重要好處是圍繞它可以建立起一個(gè)社區(qū),，這使得項(xiàng)目自我強(qiáng)化,。例如,，使用PyTorch的行業(yè)其他成員構(gòu)建的工具也為公司所用,。公司也觀察到了他們的Llama項(xiàng)目的成功，這個(gè)項(xiàng)目有著龐大的建設(shè)者社區(qū)和1億次下載記錄,，已經(jīng)促成了多個(gè)不同項(xiàng)目和商業(yè)程序的成功,。

公司還強(qiáng)調(diào)了開(kāi)源軟件的價(jià)值。他們的研究實(shí)驗(yàn)室發(fā)現(xiàn),，開(kāi)源軟件可以迅速獲得獨(dú)立第三方的驗(yàn)證結(jié)果,，促進(jìn)進(jìn)一步的發(fā)展。雖然不是所有東西都適合開(kāi)源——例如,，由于數(shù)據(jù)集的使用或安全考慮——但在可能的情況下,，他們傾向于開(kāi)源，因?yàn)檫@對(duì)所有人,，包括他們自己,，都是雙贏的情況。

問(wèn)：來(lái)聊聊Llama,，您的人工智能模型家族,。開(kāi)源Llama背后的策略是什么？

答：從我2006年加入Facebook那天起,，F(xiàn)acebook一直以來(lái)就是開(kāi)源領(lǐng)域的領(lǐng)導(dǎo)者,。

PHP是開(kāi)源的。如果Facebook沒(méi)有接手Memcached這個(gè)項(xiàng)目,，我們就會(huì)倒下,。

MySQL是開(kāi)源的。這就是Facebook之后能夠成為一家規(guī)模小但是效率超高的公司,，并以少量員工完成如此多工作的原因之一,。

Meta現(xiàn)在不僅在推動(dòng)這些項(xiàng)目，而且還在推動(dòng)PyTorch,，這是完成機(jī)器學(xué)習(xí)工程的第一系統(tǒng),。我們構(gòu)建并開(kāi)源了它。

開(kāi)源項(xiàng)目的一個(gè)重要好處是圍繞它可以建立起一個(gè)社區(qū),，Meta可以充分利用這個(gè)社區(qū)中的一切資源,。

例如，使用PyTorch的其他成員構(gòu)建的工具也為Meta自己所用,。

就Llama而言,，很多人都從中受益了,。已經(jīng)達(dá)到了1億次下載，我們已經(jīng)看到了由此產(chǎn)生的各種不同項(xiàng)目,，并且有很多商業(yè)程序正在Llama基礎(chǔ)上取得了成功,。

如果Llama繼續(xù)保持如今的發(fā)展勢(shì)頭——成為大型開(kāi)發(fā)者社區(qū)的絕對(duì)核心——Meta也將受益匪淺,，這對(duì)Meta的幫助也會(huì)非常大,。

另外，如果再看看成立剛好10年的FAIR,，我們研究實(shí)驗(yàn)室 一直以來(lái)也都秉承開(kāi)源的理念,。當(dāng)開(kāi)源軟件時(shí)，F(xiàn)AIR會(huì)立即獲得獨(dú)立的第三方驗(yàn)證結(jié)果,，然后有人在此基礎(chǔ)上繼續(xù)發(fā)展,。

我們可以使用該結(jié)果來(lái)構(gòu)建我們的下一篇論文，或者是開(kāi)發(fā)我們的下一個(gè)程序,。

我們不可能開(kāi)源一切,。比如我們的某些研究，因?yàn)槠渲惺褂玫臄?shù)據(jù)集,，或者因?yàn)樗陌踩?，沒(méi)有辦法開(kāi)源它。

但在其他條件相同的情況下,，我們確實(shí)嘗試開(kāi)源,，并相信它將幫助包括我們?cè)趦?nèi)的所有人。這是雙贏的,。

問(wèn)題：開(kāi)源戰(zhàn)略對(duì)招聘有何影響,？我知道有些工程師喜歡開(kāi)源，而有些人工智能研究人員認(rèn)為開(kāi)源如此強(qiáng)大的技術(shù)是不負(fù)責(zé)任的,。

答：我認(rèn)為這肯定有助于我們擁有更大的招募規(guī)模,，因?yàn)楦嗟娜耸煜つ哪Ｐ鸵约坝?xùn)練模型的方式。我們可以雇傭更多懂得如何使用PyTorch的工程師,。

因此,，我認(rèn)為這對(duì)于從越來(lái)越多的人中進(jìn)行招聘來(lái)說(shuō)確實(shí)很有好處，這些人距離在公司取得出色的成績(jī)只有一步之遙,。

關(guān)于認(rèn)為「開(kāi)源是不負(fù)責(zé)任」的說(shuō)法,，我認(rèn)為對(duì)這些大型語(yǔ)言模型的很多焦慮都是錯(cuò)誤的。

我覺(jué)得Yann LeCun說(shuō)得很好,。開(kāi)源模型是一個(gè)超級(jí)有趣且重要的工具,。我認(rèn)為它是一個(gè)關(guān)聯(lián)數(shù)據(jù)庫(kù)。

沒(méi)有推理或計(jì)劃的能力，沒(méi)法理解世界,。而且現(xiàn)在來(lái)看未來(lái)也不會(huì)擁有這些能力,。

技術(shù)依然會(huì)不斷取得突破。這是一個(gè)非常激動(dòng)人心的時(shí)刻,。這是一項(xiàng)偉大而重要的技術(shù),。

我迫不及待地希望它的構(gòu)建成本、運(yùn)行成本,、延遲更低,、效率更高，能夠在低功耗,、小型設(shè)備上運(yùn)行真正強(qiáng)大的模型,。這些都是非常重要的事情,。但是會(huì)花費(fèi)大量的時(shí)間和精力,。

而且，大模型也不是AGI,。大模型發(fā)展到極限本身不會(huì)達(dá)到AGI,。馮·諾依曼關(guān)于奧本海默的那句話怎么說(shuō)來(lái)著？

「有時(shí)有人為了獲得功勞,，不惜承認(rèn)自己有罪,。」我認(rèn)為硅谷有時(shí)會(huì)發(fā)生很多這樣的事情,。

我并不是說(shuō)人們不相信它,。也許有的人會(huì)相信，但是我不會(huì),。

AI人才迎來(lái)黃金時(shí)代

問(wèn)：你們?cè)谡心枷乱晃唤艹龅娜斯ぶ悄苎芯咳藛T時(shí)的宣傳口號(hào)是什么,？如何讓他們加入 Meta，而不是OpenAI或Google DeepMind,？

A：研究人員現(xiàn)在有很多選擇?，F(xiàn)在是入行的好時(shí)機(jī)。這些公司差異很大,。如果有人想加入 Google,，成為他們千人團(tuán)隊(duì)一員。

但是在Meta有不同規(guī)模的團(tuán)隊(duì),，每個(gè)人能獲得的個(gè)人影響力是完全不同的,。OpenAI 是第三個(gè)不同的機(jī)構(gòu)。他們有非常不尋常的治理結(jié)構(gòu),，股權(quán)單位似乎也不太一樣,。

問(wèn)：那么招聘工作還順利嗎？

答：進(jìn)展順利,。確實(shí)有很多偉大的人才正在離開(kāi)剛剛說(shuō)到的3家公司,。其中一些人才將流向該另外幾家公司,。

其中一些人才也將去往全新的地方，法國(guó)的Mistral是一群開(kāi)發(fā)Llama的人才構(gòu)成的,。

按照硅谷的標(biāo)準(zhǔn),，我的職業(yè)生涯已經(jīng)很長(zhǎng)了，也就見(jiàn)怪不怪了,。

當(dāng)新技術(shù)出現(xiàn)時(shí),，人們的熱情就會(huì)大爆發(fā)。其中一些人才流向初創(chuàng)公司,，一些流向老牌公司,。但是一定會(huì)有更多的人才進(jìn)入這個(gè)行業(yè)。

現(xiàn)在就是這樣一個(gè)時(shí)代,，人才的總數(shù)在不斷增加,。深度學(xué)習(xí)研究人員可能比一年前多了10倍。因?yàn)槿藗兛吹竭@樣的需求,，所以就有越來(lái)越多的人開(kāi)始學(xué)習(xí)和研究這些技術(shù)了,。

問(wèn)：你提到了Mistral。上周推出的Mixtral模型使用了專家的混合體,，這似乎與你們?cè)?Meta 所做的事情形成了競(jìng)爭(zhēng),。你是這樣看的嗎？

答：不,。如果整個(gè)社區(qū)團(tuán)結(jié)在任何開(kāi)源模型周圍,，并且它成為事實(shí)上的標(biāo)準(zhǔn)，這就是發(fā)生的有趣的事情之一,。

我們可以使用這個(gè)模型,。它不一定來(lái)自我們，就像Memcached不一定來(lái)自我們一樣,。

MySQL不是來(lái)自我們,。這些都是偉大的事情。我們很高興使用它們,。因此,，一旦你不想與開(kāi)源競(jìng)爭(zhēng)，開(kāi)源就是好的,。

讓我們擁有相互競(jìng)爭(zhēng),、采用不同策略并嘗試在不同方面超越彼此的模型?！?/p>

我的商業(yè)模式不會(huì)阻止其他人使用這項(xiàng)技術(shù),。」

需要明確的是，Llama 團(tuán)隊(duì)絕對(duì)希望擊敗所有其他模型,。這種競(jìng)爭(zhēng)是很好的,，很健康。

這是人們之間出于善意和良好精神的競(jìng)爭(zhēng),，而不是為了生存下來(lái)的競(jìng)爭(zhēng),。

如果你輸?shù)袅诉@場(chǎng)比賽，你的懲罰就是你可以使用更好的模型,。

參考資料：

https://www.semafor.com/article/12/20/2023/meta-cto-andrew-bosworth-on-the-generative-ai-craze