財聯(lián)社6月23日訊(編輯 若宇)高通近日發(fā)布AI白皮書稱,,混合AI是AI的未來,,將支持生成式AI應用開發(fā)者和提供商利用邊緣側終端的計算能力降低成本?;旌螦I架構或僅在終端側運行AI,,能夠在全球范圍帶來高性能、個性化,、隱私和安全等優(yōu)勢,。此外,混合AI架構可以根據(jù)模型和查詢需求的復雜度等因素,,選擇不同方式在云端和終端側之間分配處理負載,。
(圖源:高通中國官方微信公眾號)
據(jù)高通混合AI白皮書,,在混合AI場景中,,邊緣大模型是云端大模型的感知器官,例如用戶對手機說話,,自動語音識別(ASR)AI模型如Whisper在設備上轉換語音為文本,,發(fā)送到云端,云端運行大模型,,回發(fā)文本答案,。
在進階版本中,設備AI更進一步保護隱私,,承擔更多處理,,提供更個性化的提示給云:通過設備學習和個人數(shù)據(jù),設備創(chuàng)建用戶個人形象,,與調(diào)度程序協(xié)作,,基于上下文提供更好的提示;例如,,用戶要求手機預約和朋友在最愛餐廳吃飯,,對簡單查詢,較小的大模型可在設備上運行無需云交互,,如果用戶需要復雜信息,,則本地將需求轉化為提示發(fā)給云端大模型并返回詳細答案。
高通指出,,隨著強大的生成式AI模型不斷縮小,以及終端側處理能力的持續(xù)提升,混合AI的潛力將會進一步增長,。參數(shù)超過10億的AI模型已經(jīng)能夠在手機上運行,,且性能和精度達到與云端相似的水平。不久的將來,,擁有100億或更高參數(shù)的模型將能夠在終端上運行,。混合AI策略適用于幾乎所有生成式AI應用和終端領域,,對推動生成式AI規(guī)?;瘮U展,滿足全球企業(yè)與消費者需求至關重要,。
中信建投閻貴成等人6月15日研報表示,,AIGC大模型及應用爆紅,拉動算力需求,。在萬物互聯(lián)大部分場景中,,云端處理存在時延較長、成本較高,、并且涉及數(shù)據(jù)隱私等問題,,邊緣AI算力的引入至關重要。我們認為未來AI算力將綜合考慮硬件能力,、成本等因素,,以混合AI的架構,在邊端和云端靈活分配,。
據(jù)了解,,混合AI指的其實是云端和設備端共同處理AI計算,借助設備端的即時感知,、即時處理優(yōu)勢,,來填補云端AI在延遲方面的短板,同時還通過云端的超高算力,,來彌補端側AI性能的缺憾,。
高通中國區(qū)董事長孟樸表示,混合AI勢不可擋,,助推AI規(guī)?;l(fā)展。在孟樸看來,,從過去20年AI的發(fā)展,,到最近大語言模型的發(fā)展、交互式AI的發(fā)展,,所有這些都推動了整個產(chǎn)業(yè)的快速發(fā)展,??梢钥吹剑藗兪褂玫碾娮釉O備,,不論是手機,,還是冰箱、彩電等,,越來越多地實現(xiàn)了智能化和網(wǎng)聯(lián)化,所有這些終端產(chǎn)品都產(chǎn)生了大量的數(shù)據(jù),,而且都具備情景感知的特點,。
據(jù)財聯(lián)社不完全整理,在混合AI領域有所布局或有所合作的A股上市公司包括江南化工,、天準科技,、首都在線和優(yōu)刻得等,具體情況如下:
江南化工持有北京光年無限科技有限公司12.91%股份,,根據(jù)北京光年科技公司的介紹,,“智娃”產(chǎn)品支持硬件系統(tǒng)耦合,即支持本地內(nèi)容資源的調(diào)用,、支持離在線混合AI計算架構(該架構可明顯提升AI響應時間等),。
天準科技是英偉達Jetson金牌合作伙伴,是Jetson在國內(nèi)最大的NPN (NVIDIA Preferred Partner)合作伙伴,;天準科技基于英偉達Jetson和地平線J5平臺面向AMR移動機器人,、自動駕駛、智慧交通,、智能制造等行業(yè)提供AI邊緣算力,。
首都在線提供邊緣側的推理算力支持AIGC應用,針對GPU服務器的特殊性,,自研了管理芯片及配套的管理系統(tǒng),,搭建了面向ChatGPT行業(yè)的泛渲染異構算力公有云平臺,新一代算力平臺可為ChatGPT類人工智能應用提供算力,、算法,、云渲染等技術服務,已為國內(nèi)多家涉及人工智能類客戶提供服務,。
優(yōu)刻得是國內(nèi)領先云服務提供商,根據(jù)客戶實際業(yè)務需求,,可以為AI客戶提供CPU/GPU算力資源和服務,,以公有云、混合云等不同模式滿足客戶的多樣化使用場景需求,。
免責聲明:本文來自網(wǎng)絡收錄或投稿,觀點僅代表作者本人,,不代表芒果財經(jīng)贊同其觀點或證實其描述,,版權歸原作者所有。轉載請注明出處:http://lequren.com/1050210.html
溫馨提示:投資有風險,,入市須謹慎,。本資訊不作為投資理財建議。