神譯局是36氪旗下編譯團(tuán)隊(duì),，關(guān)注科技,、商業(yè),、職場(chǎng),、生活等領(lǐng)域,，重點(diǎn)介紹國(guó)外的新技術(shù),、新觀點(diǎn)、新風(fēng)向,。

編者按：一項(xiàng)新的分析表明,，像 Llama 2 （二號(hào)羊駝）這樣的 “開源 “人工智能工具在很多方面仍然受到大型科技公司的控制。打著“開源”旗號(hào)的AI模型,，可能會(huì)有一些陷阱,。本文來(lái)自翻譯。

CHATGPT是當(dāng)下爆火的一款人工職能語(yǔ)言工具,，只需要輸入相關(guān)提示就能幫助人們實(shí)現(xiàn)各種想要的功能,，任何人都可以利用它快速獲取信息和解決問(wèn)題，但這個(gè)世界聞名的聊天機(jī)器人的內(nèi)部工作原理仍然是一個(gè)未解之謎,。

然而,，近幾個(gè)月來(lái)，讓人工智能更加“開放”的相關(guān)努力似乎獲得了更多動(dòng)力。今年5月,，有人泄露了Meta公司的一個(gè)名為L(zhǎng)lama（羊駝）的模型,，該模型允許外部人員訪問(wèn)其底層代碼以及決定其行為的模型權(quán)重等。然后,，今年7月,，Meta又推出了功能更強(qiáng)大的模型，稱為L(zhǎng)lama 2,，聲稱任何人都可以下載,，修改和重復(fù)使用。Meta的Llama 系列模型已經(jīng)成為許多公司,、研究人員和人工智能業(yè)余愛(ài)好者構(gòu)建具有類似chatgpt功能的工具和應(yīng)用程序的基礎(chǔ),。

“我們?cè)谑澜绺鞯負(fù)碛袕V泛的支持者，他們相信我們對(duì)當(dāng)今人工智能的開放方法……研究人員致力于使用該模型進(jìn)行研究,，而科技界,、學(xué)術(shù)界和政策部門的人們也和我們一樣，看到了 Llama 和開放平臺(tái)的好處,，”Meta 在發(fā)布 Llama 2 時(shí)說(shuō),。今天上午，Meta 發(fā)布了另一個(gè)模型——Llama 2 Code,，該模型針對(duì)編碼進(jìn)行了微調(diào),。

數(shù)十年來(lái)，開源方法使軟件的獲取變得更加民主,、確保了透明度并提高了軟件的安全性,，現(xiàn)在似乎也被認(rèn)為可以對(duì)人工智能產(chǎn)生類似的影響。

但這遠(yuǎn)遠(yuǎn)還不夠,，來(lái)自卡內(nèi)基梅隆大學(xué)（Carnegie Mellon University）,、AI Now 研究所（AI Now Institute）和 Signal 基金會(huì)（Signal Foundation）的研究團(tuán)隊(duì)，在其發(fā)表的一篇研究論文,，探討了 “Llama 2” 和其他以某種方式被稱為“開放”的人工智能模型的現(xiàn)實(shí)情況,。他們表示，打著“開源”旗號(hào)的模型可能會(huì)帶來(lái)一些限制,。

據(jù)論文描述,，Llama 2 可以免費(fèi)下載、修改和部署,，但它不在傳統(tǒng)的開源許可范圍內(nèi),。Meta 的許可證禁止使用 Llama 2 訓(xùn)練其他語(yǔ)言模型，如果開發(fā)者將 Llama 2 部署到每日用戶超過(guò) 7 億的應(yīng)用程序或服務(wù)中,，則需要特殊許可證,。

這種程度的控制意味著 Llama 2 可以為 Meta 帶來(lái)重大的技術(shù)和戰(zhàn)略利益,。例如，當(dāng)該公司在自己的應(yīng)用程序中使用該模型時(shí),，Meta可以從外部開發(fā)者所做的有益調(diào)整中獲益,。

研究人員說(shuō)，在普通開源許可下發(fā)布的模型,，如非營(yíng)利組織 EleutherAI 的 GPT Neo,，則開放程度更高。但這類項(xiàng)目很難與大型公司推出的模型競(jìng)爭(zhēng),。

首先,，訓(xùn)練高級(jí)模型所需的數(shù)據(jù)往往是保密的。其次,，構(gòu)建此類模型所需的軟件框架通常由大公司控制,。最流行的兩個(gè)軟件框架 TensorFlow 和 Pytorch 分別由谷歌和 Meta 維護(hù)。第三,，訓(xùn)練大型模型所需的計(jì)算機(jī)能力也非一般開發(fā)人員或公司所能企及,，通常一次訓(xùn)練需要數(shù)千萬(wàn)或數(shù)億美元。最后,，完善和改進(jìn)這些模型所需的人力也大多是資金雄厚的大公司才能獲得的資源,。

從目前的趨勢(shì)來(lái)看，數(shù)十年來(lái)最重要的技術(shù)之一最終可能只會(huì)豐富和增強(qiáng)少數(shù)幾家公司的能力,，其中包括 OpenAI,、微軟、Meta 和谷歌,。如果人工智能真的是一項(xiàng)能改變世界的技術(shù),，那么如果它能得到更廣泛的應(yīng)用和普及，就能帶來(lái)最大的好處,。

“我們的分析表明,，開放性不僅不能使人工智能‘民主化’，”Signal 公司總裁,、本文的研究者之一梅雷迪斯·惠特克（Meredith Whittaker）告訴我,。“事實(shí)上,，我們表明,，公司和機(jī)構(gòu)可以而且已經(jīng)利用’開放’技術(shù)來(lái)鞏固和擴(kuò)大權(quán)力集中?！?/p>

惠特克補(bǔ)充說(shuō),，“我們確實(shí)亟需有意義的替代技術(shù)，以取代由大型壟斷企業(yè)定義和主導(dǎo)的技術(shù)——尤其是當(dāng)人工智能系統(tǒng)被整合到許多具有特殊公共影響的高度敏感領(lǐng)域,，比如醫(yī)療保健,、金融,、教育和工作場(chǎng)所時(shí)?！彼f(shuō)：“創(chuàng)造條件使這種替代成為可能,，是一個(gè)可以與反壟斷改革等監(jiān)管運(yùn)動(dòng)共存甚至得到其支持的項(xiàng)目?！?/p>

除了制衡大公司的權(quán)力之外，讓人工智能更加開放對(duì)于釋放該技術(shù)的最佳潛力,，同時(shí)避免其最壞的傾向可能至關(guān)重要,。

如果我們想了解最先進(jìn)的人工智能模型有多大能力，并降低部署和進(jìn)一步發(fā)展可能帶來(lái)的風(fēng)險(xiǎn),，那么最好向全世界的科學(xué)家開放這些模型,。

正如“隱晦式安全”（security through obscurity）永遠(yuǎn)無(wú)法真正保證代碼的安全運(yùn)行一樣，對(duì)強(qiáng)大的人工智能模型的工作原理加以保護(hù)也未必是最明智的做法,。

譯者：Araon_