原文來(lái)源：鈦媒體

作者：鄧劍云

圖片來(lái)源：由無(wú)界 AI生成

當(dāng)“生成式人工智能”成為行業(yè)熱詞，在關(guān)注各類新興應(yīng)用的同時(shí),，作為提供應(yīng)用底層支撐的“算力”也開(kāi)始成為關(guān)注的焦點(diǎn)之一,。

對(duì)于傳統(tǒng)的高算力終端而言，通過(guò)增加額外的GPU硬件即可填補(bǔ)大模型訓(xùn)練與AI生成所需的“算力鴻溝”,，但像移動(dòng)智能終端,，受限于集成度、功耗限制等方面,，想要擺脫聯(lián)網(wǎng)需求,，實(shí)現(xiàn)端側(cè)部署生成式人工智能則具備更高的難度。

旗艦芯片AI領(lǐng)域率先發(fā)力,，中端布局路徑產(chǎn)生差異

近兩個(gè)月,，聯(lián)發(fā)科與高通先后發(fā)布了新一代旗艦級(jí)SoC芯片，兩者不約而同地提到了端側(cè)部署AI能力的提升,。

以聯(lián)發(fā)科為例,，此前發(fā)布的天璣9300芯片內(nèi)部集成聯(lián)發(fā)科第七代AI處理器APU 790，為生成式AI而設(shè)計(jì),，整數(shù)運(yùn)算和浮點(diǎn)運(yùn)算的性能是前一代的2倍,，功耗降低了45%。APU 790內(nèi)置了硬件級(jí)的生成式AI引擎,，可實(shí)現(xiàn)更加高速且安全的邊緣AI計(jì)算，深度適配Transformer模型進(jìn)行子加速,。

根據(jù)官方公布的數(shù)據(jù),，其處理速度是上一代的8倍，1秒內(nèi)可生成圖片,，同時(shí),，基于億級(jí)參數(shù)大語(yǔ)言模型特性,，聯(lián)發(fā)科開(kāi)發(fā)了混合精度 INT4 量化技術(shù)，結(jié)合內(nèi)存硬件壓縮技術(shù)NeuroPilot Compression,，可以更高效地利用內(nèi)存帶寬,，減少AI大模型對(duì)終端內(nèi)存的占用，支持終端運(yùn)行最高可達(dá)330億參數(shù)的AI大語(yǔ)言模型,。

新一代智能手機(jī)芯片的發(fā)布,，讓生成式人工智能獲得了硬件端的支持，不過(guò)搭載旗艦級(jí)SoC芯片的產(chǎn)品,，市場(chǎng)定位基本也都局限在高端市場(chǎng),。根據(jù)IDC的數(shù)據(jù)，2023年第三季度,，國(guó)內(nèi)智能手機(jī)高端市場(chǎng)（3500元以上）的出貨占比為33%,。

換句話說(shuō)，即便所有高端手機(jī)都開(kāi)始支持端側(cè)生成式AI,，在用戶層面也僅僅做到了每10個(gè)人中3個(gè)人有機(jī)會(huì)接觸到該功能,。而定位更低的中端機(jī)市場(chǎng)，則暫時(shí)無(wú)法享受到大模型帶來(lái)的體驗(yàn)升級(jí),，要知道,，2500~3499元區(qū)間的手機(jī)銷量市場(chǎng)占比也達(dá)到了19%，并且處于不斷增長(zhǎng)的趨勢(shì)當(dāng)中,。

如何擴(kuò)大應(yīng)用落地范圍,，讓生成式人工智能不止是高端產(chǎn)品的“綁定產(chǎn)物”，是擺在各個(gè)終端廠商,、上游芯片供應(yīng)商面前的首要問(wèn)題,。高通面向下一代中高端產(chǎn)品推出的第三代驍龍7，并沒(méi)有提及AI功能上的進(jìn)步,，主要提升依然是面向傳統(tǒng)使用場(chǎng)景的CPU,、GPU性能以及能耗。

反觀聯(lián)發(fā)科,，從天璣8000系列發(fā)布開(kāi)始,，在旗艦機(jī)之外的中、高端機(jī)型已經(jīng)成為了其加速移動(dòng)芯片市場(chǎng)滲透率的“基本盤”,，芯片的迭代速度更快,，同時(shí)也加深了與終端手機(jī)品牌的合作。最新發(fā)布的天璣8300,，也在同級(jí)產(chǎn)品中率先支持生成式AI,，至高支持100億參數(shù)AI大語(yǔ)言模型。

該芯片集成聯(lián)發(fā)科 AI 處理器 APU 780,，搭載生成式AI引擎,，整數(shù)運(yùn)算和浮點(diǎn)運(yùn)算的性能是上一代的 2 倍,，支持Transformer算子加速和混合精度INT4量化技術(shù)，AI綜合性能是上一代的3.3倍,，可流暢運(yùn)行終端側(cè)生成式AI的創(chuàng)新應(yīng)用,。

據(jù)聯(lián)發(fā)科無(wú)線通信事業(yè)部副總經(jīng)理李彥輯透露，小米成為首個(gè)借助其芯片能力實(shí)現(xiàn)端側(cè)生成式AI應(yīng)用的手機(jī)廠商,。

而小米集團(tuán)總裁,、Redmi品牌總經(jīng)理盧偉冰則表示：“Redmi手機(jī)將會(huì)全球首發(fā)搭載天璣8300-Ultra芯片，該機(jī)在性能調(diào)度,、系統(tǒng)應(yīng)用和硬件底層能力開(kāi)發(fā)方面,，均會(huì)應(yīng)用到新一代人功智能技術(shù)?！眲倓偘l(fā)布的Redmi K70E就是盧偉冰所說(shuō)的首款支持端側(cè)生成式人工智能的手機(jī)產(chǎn)品,。

從云側(cè)到端側(cè)，移動(dòng)大模型時(shí)代可以期待什么,？

雖然產(chǎn)品有了,、應(yīng)用也有了，但是提到大模型這項(xiàng)技術(shù),，似乎距離普通用戶還是很遠(yuǎn),，究其原因就在于具體場(chǎng)景落地的匱乏，對(duì)于大眾消費(fèi)者而言,，根本感知不到大模型帶來(lái)的體驗(yàn)差異,。

值得慶幸的是，手機(jī)端的大模型應(yīng)用正在加速普及,，目前,，包括華為、小米,、vivo等手機(jī)廠商都已經(jīng)將大模型手機(jī)端的應(yīng)用提上了日程,，其中諸如語(yǔ)音助手與大模型的結(jié)合很多都已經(jīng)到了內(nèi)測(cè)甚至公測(cè)階段。

一位業(yè)內(nèi)人士告訴鈦媒體App：“大模型的加入可以讓智能語(yǔ)音助手跳出既有的算法‘機(jī)械問(wèn)答’模式,，對(duì)用戶指令的理解能力以及解決問(wèn)題的能力都將增強(qiáng),，而這也只是第一步而已，下一步在端側(cè)生成式人智能落地后,，像目前還屬于小眾技能的‘圖生文’‘文生圖’‘圖生圖’等進(jìn)階應(yīng)用,，都有望在手機(jī)端實(shí)現(xiàn)，從而讓語(yǔ)音助手開(kāi)始顯現(xiàn)出創(chuàng)造力,?！?/p>

從長(zhǎng)遠(yuǎn)來(lái)看，大模型與端側(cè)生成式人工智能,，的確有可能為智能手機(jī)等終端硬件帶來(lái)更多或有趣,、或?qū)嵱玫耐娣ā５伱襟wApp在體驗(yàn)了現(xiàn)階段手機(jī)端大模型應(yīng)用后,，只能說(shuō)是“未來(lái)可期”而非“即刻革新”,。

毫不客氣的說(shuō)，當(dāng)前手機(jī)內(nèi)的大模型應(yīng)用更多只是個(gè)噱頭而已,，能夠感知到的“智能升級(jí)”非常有限,，雖然語(yǔ)音助手能聽(tīng)懂、回答的問(wèn)題更多了,，甚至可以具備一些簡(jiǎn)答的前后聯(lián)系的邏輯思考,，但與賽道內(nèi)領(lǐng)先的Chat GPT仍有很大差距。

如果從AI繪圖應(yīng)用來(lái)說(shuō),，移動(dòng)端面臨的挑戰(zhàn)也不少,，像算力層面，目前業(yè)界主流的Stable Diffusion經(jīng)過(guò)實(shí)測(cè),，最起碼需要RTX 3070以上級(jí)別的顯卡才能獲得比較流暢的應(yīng)用體驗(yàn),，同時(shí)其上手門檻也并不低，因?yàn)锳I繪畫(huà)往往需要對(duì)調(diào)用學(xué)習(xí)模型進(jìn)行選擇,，同時(shí)在繪畫(huà)中不斷提出新要求并對(duì)畫(huà)面進(jìn)行調(diào)整,，才能最終獲得一張質(zhì)量還不錯(cuò)的圖片。

Stable Diffusion這樣從AI繪圖應(yīng)用興起就開(kāi)始不斷改良的工具尚且如此,，移動(dòng)端的部署就會(huì)是更大的問(wèn)題,，如果只是通過(guò)文字描述可以生成圖片而已，那對(duì)于普通消費(fèi)者來(lái)說(shuō),，最多是上手嘗鮮一下,，新鮮勁兒一過(guò)，立馬就變成了冷門技能,，大模型應(yīng)用就會(huì)走上當(dāng)年智能語(yǔ)音助手一樣的老路,，爆火之后市場(chǎng)便慢慢冷卻下來(lái)。

因此,，端側(cè)大模型應(yīng)用,，也需要找到高頻場(chǎng)景進(jìn)行適配，李彥輯認(rèn)為,，“性能調(diào)度”將是一個(gè)很好的落腳點(diǎn),。“大模型不光可以學(xué)習(xí)傳統(tǒng)的文字,、圖片資料,，它也可以去學(xué)習(xí)用戶習(xí)慣，進(jìn)而具備應(yīng)用場(chǎng)景的自適應(yīng)切換能力，”他提到,。

具體來(lái)說(shuō),，就是擺脫傳統(tǒng)的固定算法調(diào)度邏輯，讓AI更多地參與其中,，比如用戶日常使用手機(jī)的時(shí)候,，其處理社交信息、游戲,、刷短視頻時(shí),，對(duì)手機(jī)性能的需求都是不同的，過(guò)去手機(jī)系統(tǒng)往往是依靠應(yīng)用來(lái)做反向適配,，打游戲調(diào)用高頻率大核心提高性能,、文字聊天和待機(jī)使用小核心保持續(xù)航，這種調(diào)度能力是非常固化的,。

智能手機(jī)具備端側(cè)AI能力后,，就能將性能調(diào)度這件事變得更加主動(dòng)，可以根據(jù)當(dāng)前的場(chǎng)景需求進(jìn)行實(shí)時(shí)優(yōu)化,，而非照本宣科的進(jìn)行軟件和策略層面的適配,。

鈦媒體App分析認(rèn)為，與聊天,、AI繪圖等看似創(chuàng)新的應(yīng)用體驗(yàn)相比,，能夠?qū)扔械母哳l場(chǎng)景進(jìn)行精準(zhǔn)賦能，才是端側(cè)大模型短期內(nèi)能夠創(chuàng)造體驗(yàn)價(jià)值的關(guān)鍵所在,，無(wú)論是影像,、性能表現(xiàn)上的優(yōu)化亦或是對(duì)屏幕、揚(yáng)聲器等硬件的實(shí)時(shí)智能調(diào)節(jié),，都是更能帶給用戶體驗(yàn)感知升級(jí)的維度,。

假設(shè)有一天，通過(guò)端側(cè)大模型結(jié)合用戶習(xí)慣,、應(yīng)用感知得到的數(shù)據(jù)進(jìn)行學(xué)習(xí),，利用對(duì)軟硬件層面的綜合調(diào)度，讓智能手機(jī)的續(xù)航可以再提升20%甚至50%,，誰(shuí)還會(huì)說(shuō)它只是個(gè)“噱頭”呢,？