原文來(lái)源:中國(guó)企業(yè)家雜志
記者?趙東山
圖片來(lái)源:由無(wú)界 AI生成
人均年薪100萬(wàn),什么樣的行業(yè)具備如此優(yōu)渥的待遇,?
答案是AI大模型。這是vivo副總裁周?chē)邮堋吨袊?guó)企業(yè)家》等媒體采訪時(shí)給出的答案,,他表示,,“vivo大模型現(xiàn)在每年20億~30億元的投入成本,總投入成本已經(jīng)超過(guò)200億元,,人才和數(shù)據(jù)算力各占一半,,人才成本平均每人稅后100萬(wàn)元?!?/strong>
過(guò)去一年,,AI大模型席卷整個(gè)互聯(lián)網(wǎng)科技行業(yè),當(dāng)大模型完成從0到1的基礎(chǔ)建設(shè)后,,基于不同場(chǎng)景的大模型應(yīng)用正在成為新一輪的競(jìng)爭(zhēng)點(diǎn),,而擁有龐大用戶(hù)基數(shù)的智能手機(jī)廠商成為最早一批端側(cè)大模型的搶灘者。
從2023年8月起,,國(guó)內(nèi)頭部智能手機(jī)廠商華為,、小米、vivo,、OPPO,、榮耀相繼公布了大模型研發(fā)和落地計(jì)劃。
今年8月,,華為鴻蒙OS 4率先宣布接入盤(pán)古大模型,;小米緊隨其后,目前已訓(xùn)練出13億和60億參數(shù)規(guī)模的語(yǔ)言大模型,,并在小米澎湃OS系統(tǒng)和人工智能助手小愛(ài)同學(xué)的部分場(chǎng)景已經(jīng)得到應(yīng)用。
到了11月,,手機(jī)廠商的大模型發(fā)布節(jié)奏越發(fā)密集,。11月初,vivo一口氣發(fā)布十億,、百億,、千億級(jí)別三個(gè)參數(shù)量級(jí)的五個(gè)大模型矩陣;隨后,,OPPO正式推出自主訓(xùn)練的安第斯大模型(AndesGPT),,并接入最新操作系統(tǒng)ColorOS 14,,AndesGPT支持從十億至千億多種不同參數(shù)規(guī)模模型,。
手機(jī)廠商入場(chǎng)的心態(tài)絕不只是“重在參與”,而是真金白銀地大規(guī)模投入,。今年4月,,小米組建大模型團(tuán)隊(duì)時(shí),雷軍就表明態(tài)度:“全力支持,,投入不設(shè)上限,。”目前,,小米內(nèi)部在做AI相關(guān)的研發(fā)人員超過(guò)3000人,;向來(lái)低調(diào)的vivo創(chuàng)始人、總裁兼CEO沈煒也向團(tuán)隊(duì)表示,,“未來(lái),,AI將成為科技創(chuàng)新的底層技術(shù)。我們必須抓住這次歷史機(jī)遇,,以高規(guī)格地投入,,來(lái)打造引領(lǐng)行業(yè)的技術(shù)和產(chǎn)品,為智能時(shí)代的到來(lái)做出我們的歷史貢獻(xiàn),?!?/p>
毫無(wú)疑問(wèn),在智能手機(jī)出貨量下滑,,用戶(hù)換機(jī)周期不斷延長(zhǎng),,同質(zhì)化競(jìng)爭(zhēng)嚴(yán)重的當(dāng)下,端側(cè)大模型正在成為手機(jī)行業(yè)創(chuàng)新的新增量,。但與此同時(shí),,如何將參數(shù)十億,、百億的大模型內(nèi)置到手掌大小的手機(jī)中,以及能為手機(jī)企業(yè)帶來(lái)哪些實(shí)質(zhì)變化,,也面臨著重重考驗(yàn),。
挑戰(zhàn)
手機(jī)企業(yè)要想真正將大模型內(nèi)置到巴掌大小的手機(jī)中,其中就有個(gè)悖論:如果模型參數(shù)太大了,,則手機(jī)端側(cè)根本就放不進(jìn)去或跑不起來(lái),;但是如果模型太小了,可能又無(wú)法真正實(shí)現(xiàn)智能涌現(xiàn),。
端側(cè)大模型在落地執(zhí)行中,,一個(gè)無(wú)法忽視的現(xiàn)實(shí)是,10億參數(shù)的數(shù)據(jù)在手機(jī)上會(huì)占用1G的內(nèi)存,,70億參數(shù)的數(shù)據(jù)則會(huì)占用4G內(nèi)存,,而當(dāng)數(shù)據(jù)量達(dá)到130億參數(shù)時(shí),內(nèi)存占用達(dá)到7G,。然而,,現(xiàn)在市面上絕大多數(shù)高端手機(jī)的運(yùn)行內(nèi)存是12G或16G,如果大模型的數(shù)據(jù)量達(dá)到130億參數(shù)則意味著會(huì)占用掉7G的內(nèi)存,,這將嚴(yán)重影響手機(jī)的運(yùn)行流暢度,。
但相比云上大模型,端側(cè)大模型的優(yōu)勢(shì)又顯而易見(jiàn),,比如可以充分保護(hù)用戶(hù)的隱私,,在用戶(hù)使用過(guò)程中,用戶(hù)和大模型的交互數(shù)據(jù)不用上傳到云端,。與此同時(shí),,端側(cè)大模型的響應(yīng)速度會(huì)更快,一種最極端的情況就是即便在沒(méi)有網(wǎng)絡(luò)的情況下,,端側(cè)大模型依然可以使用,,而云上大模型在沒(méi)有網(wǎng)絡(luò)情況下則無(wú)法使用。
此外,,云上大模型的調(diào)用成本高昂,。“一次大模型云端計(jì)算的最低成本是1.2~1.5分人民幣,若3億用戶(hù)每天用十次,,意味著手機(jī)廠商一年要多出100多億元的支出,。”一位AI大模型從業(yè)者告訴《中國(guó)企業(yè)家》,。
因此,,在現(xiàn)有的模型訓(xùn)練水平基礎(chǔ)上,擺在手機(jī)廠商面前的是人才和技術(shù)積累的挑戰(zhàn),,只有聚集到核心的技術(shù)人才,,才能更好地解決這一困境,,手機(jī)大模型之戰(zhàn)也在某種程度上意味著是人才和資金投入之戰(zhàn)。
周?chē)嬖V《中國(guó)企業(yè)家》,,自2017年組建AI全球研究院,,vivo已經(jīng)組建了1000人以上的AI專(zhuān)家團(tuán)隊(duì),每年在人工智能上的投入保守估計(jì)在20億~30億元,,目前已經(jīng)超過(guò)200億元,,其中,數(shù)據(jù),、算力成本占自研大模型投入的一半,,人員成本占了一半。
小米在人工智能上的布局同樣比較早,,2016年AlphaGo出來(lái)之后,,雷軍就開(kāi)始大力投入AI,最開(kāi)始是視覺(jué)團(tuán)隊(duì),,后來(lái)逐漸拓展到AI的各個(gè)領(lǐng)域,。
“小米有3000多人在做AI相關(guān)的研發(fā)工作,小米AI實(shí)驗(yàn)室在視覺(jué),、聲學(xué)語(yǔ)音,、NLP、知識(shí)圖譜,、機(jī)器學(xué)習(xí)等方向,都有技術(shù)積累,,從算法預(yù)研到工程落地具備很強(qiáng)的閉環(huán)能力,。我們之前有一個(gè)人機(jī)對(duì)話(huà)團(tuán)隊(duì),做過(guò)28億參數(shù)的對(duì)話(huà)模型,?!毙∶准瘓F(tuán)AI實(shí)驗(yàn)室主任、自然語(yǔ)言處理(NLP)首席科學(xué)家王斌表示,。
除了手機(jī)廠商在努力布局大模型之外,,智能手機(jī)的上游芯片制造商也正在加入這場(chǎng)戰(zhàn)爭(zhēng)。
2023年10月25日,,高通發(fā)布新一代移動(dòng)處理平臺(tái)驍龍8 Gen3,。與上一代產(chǎn)品驍龍8 Gen2相比,驍龍8 Gen3不僅GPU,、NPU性能大幅提升,,更重要的是,它可以在終端側(cè)運(yùn)行100億參數(shù)的模型,。
高通著重在驍龍8 Gen3上提升了其芯片的AI計(jì)算能力,,NPU性能大漲98%以上,,在支持運(yùn)行最高100億參數(shù)的模型外,還能夠運(yùn)行每秒生成高達(dá)20個(gè)token(大模型中文本的最小單位)的70億參數(shù)大語(yǔ)言模型,。這意味著,,各類(lèi)虛擬助手、GPT聊天機(jī)器人未來(lái)都能在手機(jī)等終端運(yùn)行,。
落地
《中國(guó)企業(yè)家》觀察發(fā)現(xiàn),,幾乎所有的智能手機(jī)廠商在布局大模型時(shí)都采用了漸進(jìn)式開(kāi)發(fā)的路線(xiàn),即先研發(fā)和訓(xùn)練小參數(shù)規(guī)模的模型,,等到把路上的坑都蹚一遍,,再研發(fā)更大參數(shù)規(guī)模的模型。
關(guān)于不同級(jí)別模型的能力表現(xiàn),,周?chē)嬖V《中國(guó)企業(yè)家》:“據(jù)內(nèi)部測(cè)試,,70億參數(shù)的大模型足夠做好簡(jiǎn)單的文檔摘要和拆解的功能,但要想真正實(shí)現(xiàn)‘智能涌現(xiàn)’,, 70億參數(shù)的大模型任務(wù)拆解能力還有提升空間,,130億參數(shù)可能是更好的選擇?!?/p>
除了漸進(jìn)式開(kāi)發(fā)外,,截至目前,智能手機(jī)廠商布局大模型也分為兩條路徑:第一,,采用輕量化和本地化部署的手機(jī)端側(cè)大模型,,典型廠商如小米和榮耀;第二,,采用云,、端協(xié)同的架構(gòu)設(shè)計(jì),推出一個(gè)大模型矩陣,,在云端部署百億,、千億級(jí)別的大模型訓(xùn)練模型,在手機(jī)端側(cè)部署十億級(jí)別的大模型,,典型廠商如華為,、vivo和OPPO。
2023年4月,,王斌牽頭負(fù)責(zé),,小米技術(shù)委員會(huì)AI實(shí)驗(yàn)室大模型團(tuán)隊(duì)負(fù)責(zé)人欒劍帶隊(duì),小米內(nèi)部正式成立了一支自研大模型團(tuán)隊(duì),,雷軍親自推動(dòng)了自研大模型團(tuán)隊(duì)的建立,,并全程高度參與了小米大模型的自研,他會(huì)親自查看團(tuán)隊(duì)的周報(bào)、月報(bào)甚至日?qǐng)?bào),,關(guān)注大模型進(jìn)展,。
小米自研的端側(cè)大模型,更強(qiáng)調(diào)跟產(chǎn)品的結(jié)合和場(chǎng)景的驅(qū)動(dòng),?!靶∶状竽P图夹g(shù)的主力突破方向?yàn)檩p量化、本地部署,,我們不會(huì)純從技術(shù)角度考慮,,也不會(huì)以比賽為目標(biāo)。我們不搞軍備競(jìng)賽,,小米做大模型的出發(fā)點(diǎn)并不是成為中國(guó)的OpenAI,。我們一開(kāi)始就考慮大模型跟公司的場(chǎng)景怎么結(jié)合?!蓖醣蟾嬖V《中國(guó)企業(yè)家》,。
與小米主要布局端側(cè)大模型不同,華為,、vivo,、OPPO自研大模型則采用“云、端協(xié)同”路徑,,華為的盤(pán)古大模型,、vivo的藍(lán)心大模型以及OPPO的安第斯大模型,均覆蓋十億,、百億,、千億多個(gè)參數(shù)量級(jí)。
“為什么要用矩陣來(lái)解決這個(gè)問(wèn)題,?因?yàn)榻裉斓拇竽P徒姓Z(yǔ)言大模型,,只有語(yǔ)言和文字才有真正的大模型,聲音,、視頻是沒(méi)有大模型的。在我能想象的算法沒(méi)有出現(xiàn)極大突破之前,,矩陣式是比較好的解決方案,。”周?chē)诮邮懿稍L時(shí)表示,。
此外,,周?chē)脖硎荆仃囀酱竽P鸵彩鞘艿接脩?hù)需求和算力成本影響的綜合結(jié)果,。第一,,矩陣模式可以讓用戶(hù)在云上使用大模型的同時(shí),在端側(cè)本地化運(yùn)行關(guān)鍵數(shù)據(jù),滿(mǎn)足隱私及安全需求,;第二,,矩陣模式可以有效平衡云端算力成本過(guò)高的問(wèn)題。
必須
縱然手機(jī)端側(cè)大模型困難重重,,但參與其中正在成為手機(jī)廠商的必須,。
2017年,智能手機(jī)市場(chǎng)迎來(lái)了有史以來(lái)的首次下跌,,以中國(guó)市場(chǎng)出貨量下滑5%為節(jié)點(diǎn),,宣告智能手機(jī)行業(yè)進(jìn)入存量時(shí)代。2023年第三季度,,全球智能手機(jī)出貨量同比下滑8%,,出現(xiàn)連續(xù)9個(gè)季度的衰退,同時(shí)也創(chuàng)下了近十年同期出貨量最差紀(jì)錄,。
過(guò)去數(shù)年中,,面對(duì)越來(lái)越同質(zhì)化的競(jìng)爭(zhēng),手機(jī)廠商們先后在快充,、續(xù)航,、全面屏、攝影,、高刷新率等領(lǐng)域展開(kāi)創(chuàng)新與內(nèi)卷,。當(dāng)下,端側(cè)大模型正在成為他們渴望抓住的創(chuàng)新入口,。畢竟,,誰(shuí)也不想因?yàn)殄e(cuò)過(guò)某一個(gè)風(fēng)口而成為下一個(gè)諾基亞。
“AIGC是我做手機(jī)以來(lái),,最讓我興奮的一個(gè)技術(shù)的創(chuàng)新,,甚至可以說(shuō)是革命。它會(huì)為移動(dòng)生活的體驗(yàn)帶來(lái)革命性的變化,。大模型的知識(shí)超出了個(gè)體的知識(shí),,它可以像一個(gè)人一樣理解你的語(yǔ)言,每天觀察你,、學(xué)習(xí)你,、了解你的習(xí)慣,給你最好的幫助,,完成你的任務(wù),。”談及大模型時(shí),,OPPO首席產(chǎn)品官劉作虎告訴《中國(guó)企業(yè)家》,。在他看來(lái),,未來(lái)手機(jī)就是一個(gè)超級(jí)助理,與ChatGPT有異曲同工之妙,。
手機(jī)廠商的大模型也正在逐步落地到其人工智能應(yīng)用中,,比如,華為P60和Mate60系列手機(jī)的小藝智慧助手已經(jīng)接入盤(pán)古大模型,。與此同時(shí),,OPPO的小布、小米的小愛(ài)同學(xué)等均已接入各自的大模型,。此外,,在vivo最新發(fā)布的X100機(jī)型中,明確為用戶(hù)提供了端側(cè)大模型的下載選項(xiàng)功能,,用戶(hù)可自愿選擇是否下載,,也可選擇在云上還是本地運(yùn)行。
手機(jī)端的大模型應(yīng)用也確實(shí)在改善用戶(hù)的使用體驗(yàn),。比如以往要找到圖庫(kù)中的某一張照片,,需要非常精確地搜索關(guān)鍵詞,但是在大模型時(shí)代,,只需告訴AI語(yǔ)音助手 “之前去xx旅游時(shí)拍的長(zhǎng)城的照片”這樣的泛化模糊指令,,就能找到相應(yīng)的照片。
目前大模型在端側(cè)已經(jīng)可以執(zhí)行語(yǔ)言理解,、文本創(chuàng)作,、圖片生成等簡(jiǎn)單的操作,但涉及到訂票,、APP交互,、設(shè)備控制等操作仍需調(diào)動(dòng)云端大模型能力。但即便如此,,對(duì)于手機(jī)廠商來(lái)說(shuō)也是巨大的可能性,。
“我們現(xiàn)在就是抱著《孫子兵法》中‘先為不可勝’的心態(tài)在高飽和地投入,就是不希望被優(yōu)秀的商業(yè)伙伴拉開(kāi)距離,,而不是一定要在大模型上進(jìn)行內(nèi)卷或者對(duì)抗和競(jìng)爭(zhēng),。”談及做大模型的心態(tài)時(shí),,周?chē)嬖V《中國(guó)企業(yè)家》,。
在他看來(lái),端側(cè)大模型的重要性跟通信,、芯片是同一個(gè)級(jí)別的,未來(lái)還將變成獲取高端用戶(hù)的一個(gè)關(guān)鍵途徑,?!叭绻麖目萍季薮蟮纳a(chǎn)效率的提升來(lái)看,,我認(rèn)為大模型也是一個(gè)歷史性的、事件級(jí)的,,通過(guò)做好大模型之后,,獲得更多高端用戶(hù)的認(rèn)可,這是必然的,,所以我們也在高規(guī)格地來(lái)投入,。”周?chē)a(bǔ)充道,。
在國(guó)產(chǎn)手機(jī)集體喊出沖擊高端的當(dāng)下,,一切新的創(chuàng)新機(jī)會(huì)點(diǎn)都成為競(jìng)爭(zhēng)的新變量。何況,,端側(cè)大模型的戰(zhàn)役已經(jīng)打響,。
免責(zé)聲明:本文來(lái)自網(wǎng)絡(luò)收錄或投稿,觀點(diǎn)僅代表作者本人,,不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,,版權(quán)歸原作者所有。轉(zhuǎn)載請(qǐng)注明出處:http://lequren.com/1081826.html
溫馨提示:投資有風(fēng)險(xiǎn),,入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議。