目前,，國內(nèi)外大模型無論研究還是投資都呈現(xiàn)高熱現(xiàn)象,，但在其背后，一些問題值得重視,。

《瞭望東方周刊》特約撰稿韓健,、鐘新龍,、王聰聰?編輯陳融雪

3月24日，湖北宜昌,，網(wǎng)民展示手機(jī)上由百度“文心一言”生成的圖片

當(dāng)前,，全球各國人工智能大模型（以下簡稱“大模型”）已呈現(xiàn)白熱化競賽態(tài)勢。

大模型扎堆出爐的背后潛藏著問題,，包括技術(shù)仍存軟肋,、治理體系尚待優(yōu)化、盲目跟風(fēng),、資源消耗巨大,、發(fā)展路徑有待明晰等。

為此,，宜推動(dòng)大模型底層技術(shù)研究和應(yīng)用創(chuàng)新,、建立健全大模型監(jiān)管機(jī)制、引導(dǎo)資本市場理性投資,、加強(qiáng)國際合作與交流,。

競爭白熱化

人工智能大模型,，是一種能夠利用大數(shù)據(jù)和神經(jīng)網(wǎng)絡(luò)來模擬人類思維和創(chuàng)造力的人工智能算法。它利用海量的數(shù)據(jù)和深度學(xué)習(xí)技術(shù)來理解,、生成和預(yù)測新內(nèi)容,，通常情況下有數(shù)百億乃至數(shù)萬億個(gè)參數(shù)，可以在不同的領(lǐng)域和任務(wù)中表現(xiàn)出智能,。比如,，可在各種場景中生成高質(zhì)量的文本、圖像和音視頻等內(nèi)容,。

相比傳統(tǒng)人工智能,，大模型能處理多模態(tài)任務(wù)，而不局限于特定的任務(wù)或應(yīng)用,。

以自然語言處理為例,，大模型可以根據(jù)上下文和情感調(diào)整語言風(fēng)格，用符合人類自然語言對(duì)話的邏輯和使用習(xí)慣來提高對(duì)話的自然度和流暢度,；同時(shí),，基于大模型預(yù)訓(xùn)練具有的龐大知識(shí)儲(chǔ)備庫，可生成符合用戶實(shí)際需求和有價(jià)值的回答,。

此外,，大模型在音頻、視頻,、圖片方面的多模態(tài)處理和生成能力都令傳統(tǒng)人工智能難以企及,。

目前，在大模型領(lǐng)域,，國內(nèi)外巨頭的競爭已經(jīng)白熱化,。OpenAI已成為引領(lǐng)大模型發(fā)展的標(biāo)桿企業(yè)。繼多模態(tài)大模型GPT-4發(fā)布后,，預(yù)計(jì)今年四季度OpenAI將發(fā)布更為高級(jí)的ChatGPT-5版本,。微軟借助對(duì)OpenAI的投資與合作，將旗下Office辦公產(chǎn)品全線整合,，已在3月下旬推出Copilot Office,。5月24日，微軟宣布Win11接入GPT-4,。

5月10日,，微軟的直接競爭對(duì)手谷歌推出新一代大模型PaLM 2，已有超過25個(gè)AI產(chǎn)品和功能全線接入PaLM 2,，包括原有對(duì)話機(jī)器人Bard,，AI+辦公助手Duet AI、AI+搜索引擎等，Meta則發(fā)布大模型LLaMA,，加入競賽,。亞馬遜與人工智能初創(chuàng)公司Hugging Face合作開發(fā)ChatGPT競品——BLOOM。

此外,，Character. Al,、Stability Al、A121 Labs等大模型技術(shù)關(guān)聯(lián)的初創(chuàng)和獨(dú)角獸公司也掀起了新一輪投資熱潮加入大模型競賽,。

國內(nèi),，產(chǎn)投研各方均已加快布局步伐。

一是國內(nèi)科技龍頭企業(yè)密集發(fā)布自研大模型,。百度發(fā)布大模型文心一言,，阿里發(fā)布首個(gè)超大規(guī)模語言模型通義千問，騰訊混元AI大模型團(tuán)隊(duì)推出了萬億級(jí)別中文NLP預(yù)訓(xùn)練模型HunYuan-NLP-1T,。華為發(fā)布的鵬城盤古大模型是業(yè)界首個(gè)千億級(jí)生成和理解中文NLP大模型,。

二是投創(chuàng)界積極入局大模型競賽。美團(tuán)聯(lián)合創(chuàng)始人王慧文自帶5000萬美元入局AI大模型,，搜狗前CEO王小川與搜狗前COO茹麗云共同創(chuàng)立百川智能,，瀾舟科技發(fā)布其語言生成模型——孟子MChat可控大模型，西湖心辰也推出了心辰Chat大模型,。

三是高校與科研院所積極布局大模型,。復(fù)旦大學(xué)推出國內(nèi)首個(gè)類ChatGPT大模型MOSS，清華大學(xué)知識(shí)工程實(shí)驗(yàn)室與其技術(shù)成果轉(zhuǎn)化公司智譜AI發(fā)布ChatGLM,，中科院自動(dòng)化所推出多模態(tài)大模型紫東太初,，IDEA 研究院 CCNL推出開源通用大模型“姜子牙”。

技術(shù)與治理存短板

目前,，國內(nèi)外大模型無論研究還是投資都呈現(xiàn)高熱現(xiàn)象,，但在其背后，一些問題值得重視,。

首先,，技術(shù)層面仍存軟肋。

從輸出質(zhì)量上來看,，自然語言和圖像生成大模型在生成內(nèi)容上存在輸出質(zhì)量不佳,、出現(xiàn)有害內(nèi)容等問題。自然語言大模型生成結(jié)果雖然看起來通順,，但是在可解釋性和邏輯上還存在風(fēng)險(xiǎn),，且模型對(duì)簡單概念存在過分解讀和冗余回答。

尤其值得注意的是,，大模型可能有輸出危害答復(fù)內(nèi)容的風(fēng)險(xiǎn),。比如,，對(duì)用戶提出的犯罪行為給出具體行動(dòng)方案。除此之外,，從未來發(fā)展的不確定性角度來看，持續(xù)無限制擴(kuò)充訓(xùn)練參數(shù)規(guī)模的大模型可能面臨被創(chuàng)新算法換道超車的風(fēng)險(xiǎn),。

目前,，業(yè)界主流大模型都是在2017年提出的自注意力機(jī)制模型Transformer架構(gòu)上設(shè)計(jì)而來，未來新機(jī)制框架若使用小規(guī)模參數(shù)樣本也能訓(xùn)練出同樣效果,，那么目前上千億乃至上萬億訓(xùn)練參數(shù)規(guī)模的做法將不再有優(yōu)勢,。

其次，治理體系尚待優(yōu)化完善,。

當(dāng)前,，大模型訓(xùn)練過程缺乏監(jiān)管且監(jiān)管范圍更多針對(duì)服務(wù)提供者，一定程度上忽略了對(duì)服務(wù)使用者和商業(yè)運(yùn)營主體的規(guī)范,，對(duì)服務(wù)使用者仍通過用戶協(xié)議,、平臺(tái)規(guī)則予以約束，而運(yùn)營方欠缺安全責(zé)任意識(shí),，則容易埋下輸出含有毒害內(nèi)容的隱患,。

各服務(wù)提供者、服務(wù)平臺(tái)對(duì)人工智能生成內(nèi)容存在審核盲區(qū),。比如,，各大平臺(tái)公司在惡意應(yīng)用產(chǎn)生危害時(shí)，對(duì)內(nèi)容發(fā)布者與發(fā)布平臺(tái)責(zé)任,、主要責(zé)任和次要責(zé)任等方面的界定尚不明確,，容易造成監(jiān)管盲區(qū)。

現(xiàn)有的對(duì)人工智能生成內(nèi)容權(quán)責(zé)分配也有待完善,。比如,，人工智能生成內(nèi)容可能存在知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)，其來源和生成內(nèi)容也存在產(chǎn)權(quán)權(quán)屬不清,、取證和損害認(rèn)定困難等問題,。

從受眾層面看，公眾對(duì)人工智能生成內(nèi)容技術(shù)的認(rèn)知不強(qiáng),，對(duì)其非法濫用的風(fēng)險(xiǎn)防范意識(shí)不高,，亦容易造成個(gè)人名譽(yù)和心理受損等后果。

盲目跟風(fēng)成本大

大模型熱潮涌來,，需警惕盲目跟風(fēng),。

上海世界人工智能大會(huì)，華為云盤古大模型

以ChatGPT為代表的大模型爆火催生的資本投機(jī)心理會(huì)凌駕于投資心理之上,，這對(duì)產(chǎn)業(yè)后續(xù)長期良性發(fā)展會(huì)造成不良影響,。超高的訓(xùn)練成本門檻決定了中小型企業(yè)不宜投資此類項(xiàng)目。

以ChatGPT大語言模型訓(xùn)練為例，初步估算ChatGPT一次訓(xùn)練成本就超過200萬美元,，OpenAI公司僅硬件投入成本就超過8億美元,。除了訓(xùn)練成本，開發(fā)技術(shù)也是一道門檻,，高質(zhì)量訓(xùn)練語料和大規(guī)模人工標(biāo)注決定了只有大型機(jī)構(gòu)或領(lǐng)軍企業(yè)才具備相應(yīng)實(shí)力,，成長型企業(yè)盲目跟風(fēng)將導(dǎo)致投資失敗。

此外,，訓(xùn)練集同質(zhì)化導(dǎo)致大模型質(zhì)量不高,。大模型的訓(xùn)練數(shù)據(jù)集一般來自百科類平臺(tái)、新聞?wù)Z料,、社交媒體文本,、書籍、論壇等可公開獲得資源,，加入競爭的大模型如都使用同質(zhì)化訓(xùn)練數(shù)據(jù)集,，將會(huì)導(dǎo)致絕大多數(shù)大模型成為效果不佳且浪費(fèi)巨大資源的淘汰產(chǎn)物。

即便是對(duì)于行業(yè)巨頭,，大量成本的消耗也是一個(gè)風(fēng)險(xiǎn),。

算力成本是成本消耗的大頭。以ChatGPT為例,，其在日常運(yùn)營和模型迭代中會(huì)消耗大量算力,。Similarweb數(shù)據(jù)顯示，目前共需602臺(tái)DGX A100服務(wù)器滿足日常訪問量,。同時(shí),，ChatGPT也會(huì)占用原本用來支撐云計(jì)算、視頻流媒體和5G網(wǎng)絡(luò)的數(shù)據(jù)中心的算力,。而多家公司搶先布局訓(xùn)練類似模型,，則會(huì)導(dǎo)致算力浪費(fèi)。

電力成本是不得不提的隱性考慮要素,。ChatGPT訓(xùn)練過程中,，其能耗相當(dāng)于數(shù)百臺(tái)電腦一年的用電量。碳排放更是被忽視的隱藏點(diǎn),。使用煤炭,、天然氣等碳密集型能源訓(xùn)練ChatGPT會(huì)產(chǎn)生550噸碳排放量，相當(dāng)于一個(gè)人在紐約和舊金山之間往返550次,。

人力資源消耗也應(yīng)重點(diǎn)關(guān)注,。據(jù)《時(shí)代周刊》報(bào)道，OpenAI不僅雇用了大量時(shí)薪不到2美元的肯尼亞外包勞工進(jìn)行數(shù)據(jù)標(biāo)注,，還額外與Sama公司簽署了三份總價(jià)值約20萬美元的合同,，為數(shù)據(jù)庫中有害的內(nèi)容進(jìn)行標(biāo)記,。但從現(xiàn)有的表現(xiàn)來看，仍需更多的標(biāo)注人力來提升模型性能,。

目前,，國內(nèi)企業(yè)在大模型發(fā)展方向研判上呈現(xiàn)出跟隨式發(fā)展態(tài)勢。例如,，GPT4開啟多模態(tài)大模型發(fā)展方向后,，國內(nèi)先發(fā)大模型也紛紛發(fā)展多模態(tài)，如何擺脫跟隨式發(fā)展路徑依賴,，構(gòu)建自主可控創(chuàng)新型大模型是當(dāng)前重點(diǎn)任務(wù)。

考慮到國內(nèi)用戶規(guī)模龐大,，國內(nèi)大模型能否承載遠(yuǎn)比海外用戶更高的并發(fā)處理需求,，尚需時(shí)日驗(yàn)證?？紤]到大模型訓(xùn)練推理的高算力成本,，想要靠免費(fèi)換取大規(guī)模普及進(jìn)而變現(xiàn)的路徑很難走通，應(yīng)用賦能成本如何實(shí)現(xiàn)回本和增量營收的商業(yè)路徑仍需探索,。

建議舉措

面對(duì)上述問題,，可以四方面加以應(yīng)對(duì)。

一是推動(dòng)大模型底層技術(shù)研究和應(yīng)用創(chuàng)新,。

包括提高基礎(chǔ)研究投入力度,，針對(duì)大模型面臨的技術(shù)挑戰(zhàn)，如模型泛化能力,、計(jì)算資源消耗,、可解釋性等問題，加強(qiáng)原始理論研究和技術(shù)攻關(guān),，不斷提升大模型性能,；培育創(chuàng)新生態(tài)，搭建大模型開放研發(fā)平臺(tái),，鼓勵(lì)政產(chǎn)學(xué)研金介用各方積極參與,，促進(jìn)大模型應(yīng)用成果轉(zhuǎn)化和產(chǎn)業(yè)鏈協(xié)同發(fā)展；推動(dòng)有條件的企業(yè)盡快將大模型應(yīng)用于實(shí)際場景,，如人形機(jī)器人,、智能網(wǎng)聯(lián)汽車、生物醫(yī)藥,、新材料等領(lǐng)域,，以應(yīng)用為導(dǎo)向，為重點(diǎn)領(lǐng)域提升智能化水平,。

二是建立健全大模型監(jiān)管機(jī)制,。

大模型訓(xùn)練審核機(jī)制宜盡量減少同質(zhì)化大模型無序競爭,，減少資源浪費(fèi)；探索建立大模型安全性和可靠性評(píng)估標(biāo)準(zhǔn),，提出具體技術(shù)標(biāo)準(zhǔn)和評(píng)估準(zhǔn)則,，確保各類大模型在各個(gè)應(yīng)用場景中能夠穩(wěn)定可靠運(yùn)行；加強(qiáng)對(duì)大模型的數(shù)據(jù)來源和訓(xùn)練過程的監(jiān)管,，審核數(shù)據(jù)處理邏輯,、明確數(shù)據(jù)收集、整理和使用的合規(guī)要求,，防止數(shù)據(jù)濫用和隱私泄露,；對(duì)大模型的應(yīng)用場景進(jìn)行分類管理，確立不同類型模型的使用范圍和限制,，避免不當(dāng)應(yīng)用帶來的負(fù)面影響,；建立大模型的責(zé)任追溯機(jī)制，明確制定者,、開發(fā)者,、部署者和用戶在模型使用過程中的權(quán)利和義務(wù)，為潛在的糾紛提供法律依據(jù),；積極推動(dòng)跨部門,、跨領(lǐng)域的監(jiān)管協(xié)同，形成全方位,、多層次的監(jiān)管格局,，提高監(jiān)管效能。

三是引導(dǎo)資本市場理性投資,。

包括引導(dǎo)投資風(fēng)向,，鼓勵(lì)各類投資主體積極參與大模型應(yīng)用環(huán)節(jié)，形成多元化的投資格局,，防止扎堆投資訓(xùn)練環(huán)節(jié),；加強(qiáng)風(fēng)險(xiǎn)防范意識(shí)，引導(dǎo)投資者樹立長期投資理念,，關(guān)注大模型項(xiàng)目的技術(shù)創(chuàng)新和市場前景,，避免盲目投資和短期行為；建立大模型產(chǎn)業(yè)鏈協(xié)同機(jī)制,，促進(jìn)上下游企業(yè)共同發(fā)展,，形成集群效應(yīng)。

四是加強(qiáng)國際合作與交流,。

積極參與國際人工智能監(jiān)管組織和論壇,，與各國政府、監(jiān)管機(jī)構(gòu),、企業(yè)和研究機(jī)構(gòu)探討和分享監(jiān)管經(jīng)驗(yàn)和技術(shù)成果,，共同探討跨國監(jiān)管的有效途徑,；探索與部分國家先行建立多邊合作框架，推動(dòng)制定全球性的大模型監(jiān)管規(guī)范和技術(shù)標(biāo)準(zhǔn),；開展多邊交流與合作,，與其他國家在大模型監(jiān)管領(lǐng)域開展項(xiàng)目合作、技術(shù)交流和人才培養(yǎng),，以提高監(jiān)管方面的實(shí)踐能力和理論水平,；關(guān)注全球監(jiān)管動(dòng)態(tài)，及時(shí)了解各國在大模型監(jiān)管方面的新政策,、新技術(shù)和新案例,，為國內(nèi)監(jiān)管提供借鑒和參考；積極推動(dòng)國際監(jiān)管能力建設(shè),，支持有關(guān)國際組織和機(jī)構(gòu)開展監(jiān)管能力建設(shè)項(xiàng)目,，提高我國在大模型監(jiān)管方面的國際話語權(quán)；搭建國際監(jiān)管信息共享平臺(tái),，實(shí)現(xiàn)各國監(jiān)管機(jī)構(gòu)之間的信息互通和資源共享，以便于跨境監(jiān)管合作和問題解決,。