來源：科技部網(wǎng)站

轉(zhuǎn)自：中國科學(xué)報

“如果以攀登高峰比喻邊緣人工智能（AI）不同階段發(fā)展的話,，我們現(xiàn)在還站在山腳，即處于邊緣推理階段,?！?月3日，在京舉行的2023年中國國際服務(wù)貿(mào)易交易會專題論壇中國智能產(chǎn)業(yè)論壇上,，英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官,、英特爾高級首席AI工程師張宇說。他表示,，即便實現(xiàn)了邊緣人工智能發(fā)展的下一個目標——邊緣訓(xùn)練，也只是站到了半山腰,，距離真正站到山頂、實現(xiàn)邊緣自主機器學(xué)習(xí)（AutoML）,，還有很長的路要走,，其間仍要克服多個挑戰(zhàn)。

?

張宇 受訪者供圖

仍面臨多重挑戰(zhàn)

邊緣計算是在靠近物或數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣側(cè),，融合網(wǎng)絡(luò),、計算、存儲,、應(yīng)用核心能力的開放平臺,，就近提供邊緣智能服務(wù)，滿足行業(yè)數(shù)字化在敏捷聯(lián)接,、實時業(yè)務(wù),、數(shù)據(jù)優(yōu)化、應(yīng)用智能,、安全與隱私保護等方面的關(guān)鍵需求。隨著邊緣端相關(guān)需求日益凸顯,，2016年11月30日，英特爾公司與華為技術(shù)有限公司,、中國科學(xué)院沈陽自動化研究所、中國信息通信研究院等聯(lián)合倡議成立了邊緣計算產(chǎn)業(yè)聯(lián)盟（ECC）,。該聯(lián)盟旨在搭建邊緣計算產(chǎn)業(yè)合作平臺,，推動OT和ICT產(chǎn)業(yè)開放協(xié)作,，促進邊緣計算產(chǎn)業(yè)健康與可持續(xù)發(fā)展,。

很快,，隨著人工智能技術(shù)的快速發(fā)展及其向行業(yè)的進一步滲透,，邊緣人工智能成為邊緣計算領(lǐng)域重點關(guān)注的方向之一,。那么,，邊緣計算和人工智能這兩者間的關(guān)系是怎樣的,？邊緣計算和邊緣人工智能未來的發(fā)展目標又是否一致,？就此,，在接受《中國科學(xué)報》專訪時，張宇表示,，作為一種技術(shù)，AI可以賦能包括邊緣計算,、云計算等在內(nèi)的多種計算模式,。而邊緣計算作為其中一種計算模式,，可以利用AI,、5G等技術(shù),，在靠近數(shù)據(jù)源頭的地方給用戶提供更加及時、更具有安全性的需求響應(yīng),。從長期來看,，邊云融合是邊緣計算的最終發(fā)展目標,。而在此過程中,，智能化作為邊緣計算的一個重要趨勢,，在推動最終目標的實現(xiàn)方面扮演著重要角色。

在中國智能產(chǎn)業(yè)論壇上發(fā)表的主題演講中,，張宇指出，產(chǎn)業(yè)界對于連接,、智能應(yīng)用、數(shù)據(jù)隱私保護等需求的增加,，推動了邊緣計算尤其是邊緣人工智能的發(fā)展。不過,，當下人工智能在邊緣端的應(yīng)用大多還停留在邊緣推理階段,，即行業(yè)還是要利用數(shù)據(jù)中心極大的算力或大量數(shù)據(jù)訓(xùn)練出一個模型,，然后將訓(xùn)練結(jié)果推送到前端進行推理操作。在他看來,，“這種應(yīng)用模式最大的局限性是對模型的更新頻率有限”。

以自動駕駛為例,。自動駕駛企業(yè)在車輛出廠前會利用大量數(shù)據(jù)訓(xùn)練模型,，然而這時其所采用的訓(xùn)練數(shù)據(jù)集跟駕駛?cè)藛T真正駕駛時所面臨的路況以及駕駛場景之間會有差異,，造成訓(xùn)練以后模型泛化能力往往有限。這時,，最有效的解決辦法就是不斷在使用過程中根據(jù)駕駛?cè)藛T的駕駛習(xí)慣以及所面臨的實際路況，對模型進行不斷的二次修正,，即進行邊緣訓(xùn)練。

此外,，如何在樣本量比較小的情況下進行有效訓(xùn)練，實現(xiàn)有效的模型更新,，例如在正常的產(chǎn)線上檢測出帶有缺陷的樣本,？在對隱私保護越來越重視的情況下，如何在保護數(shù)據(jù)隱私的同時創(chuàng)新出一些能夠在邊緣側(cè)進行模型訓(xùn)練的新技術(shù),？這些都是推動邊緣人工智能進入第二階段,，即邊緣訓(xùn)練時所要解決的問題,，而這些問題往往是建設(shè)數(shù)據(jù)中心時不一定需要面對的問題。

然而,，即使順利完成第二階段,，人工智能所潛藏的局限性仍會制約邊緣人工智能的發(fā)展,。

“有時我們和行業(yè)專家探討這一話題時,，會開玩笑說,，‘當下的人工智能一半是人工,，一半是智能,?！驗楝F(xiàn)在的人工智能，不管應(yīng)用在邊緣端,，還是應(yīng)用在數(shù)據(jù)中心,，人都在其中扮演了一個非常重要的角色?！痹趶堄羁磥?，要實現(xiàn)真正意義上的人工智能,，就需要實現(xiàn)自主機器學(xué)習(xí),，即網(wǎng)絡(luò)模型感知人的意圖,，并選取適宜的樣本集訓(xùn)練模型,，將訓(xùn)練結(jié)果推送到訓(xùn)練階段進行相應(yīng)操作,，甚至根據(jù)訓(xùn)練的結(jié)果不斷更新網(wǎng)絡(luò)模型,，以達到理想的結(jié)果。這才是邊緣人工智能發(fā)展的最終形態(tài),。

三方面的突破

“要實現(xiàn)邊緣人工智能的最終目標,，需要在算力,、算法，乃至理論上進一步突破?！睆堄钫f,。

他告訴記者,，制約邊緣人工智能發(fā)展的關(guān)鍵要素主要有三個方面,。一是算力,，即算力要足夠,，能支撐越來越復(fù)雜的網(wǎng)絡(luò)模型,。二是數(shù)據(jù),，因為要解決問題不能僅只設(shè)計一個模型,，而是必須不斷通過數(shù)據(jù)訓(xùn)練得到最終的訓(xùn)練結(jié)果并付諸實用,。三是人工智能核心理論的突破,?！斑@三個方面相輔相成,，缺一不可。只有這樣,，才能到達邊緣人工智能的‘山頂’,?！?/p>

如何面對這一過程中的諸多挑戰(zhàn),，并提供相應(yīng)的解決方案？在張宇看來,，這需要產(chǎn)業(yè)界的通力合作。

他舉例說,。作為一家數(shù)據(jù)公司,，英特爾給業(yè)界提供的是面向邊緣人工智能,、網(wǎng)絡(luò)、數(shù)據(jù)中心的完整硬件和軟件解決方案。尤其在人工智能方面,，英特爾提供了從計算,、通訊到存儲等一系列產(chǎn)品,，供開發(fā)人員進行選擇。

在計算方面，英特爾提供了包括CPU、GPU及各種人工智能芯片等在內(nèi)的多種產(chǎn)品組合,，滿足用戶對人工智能不同算力的要求,。以計算為例，針對人工智能大模型的訓(xùn)練和推理，英特爾在今年7月推出第二代Gaudi深度學(xué)習(xí)加速器——Habana Gaudi 2。它不僅能提供大量的算力,，同時還能提供通訊能力。在近期MLPerf公司針對業(yè)界主流大模型的評測中，Gaudi 2成為全球唯二能夠提供針對大模型訓(xùn)練極佳性能的產(chǎn)品,。“對于大模型訓(xùn)練，往往不能靠單顆芯片單打獨斗，而是要靠一個集群,。而大集群的性能不僅僅取決于計算能力,，同時也取決于通訊能力和存儲能力，Gaudi 2處理器則兼顧了這幾方面的能力,。”張宇說,。

此外,，在硬件方面,，考慮到邊緣人工智能在算力、算法復(fù)雜性以及數(shù)據(jù)安全保護等方面的訴求,，英特爾采取的策略是,，在增強通用處理器的同時，還提供專用的人工智能加速芯片,，以滿足用戶對邊緣人工智能算力的要求,。

張宇介紹說，今年英特爾還發(fā)布了第四代至強可擴展處理器,。這款處理器上包含了一系列面向人工智能的技術(shù)創(chuàng)新,，特別值得一提的是其嵌入了高級矩陣擴展（AMX）技術(shù)。該技術(shù)可以直接對矩陣計算進行加速,，從而使得人工智能的推理和訓(xùn)練能力相比上代提高了10倍,。

當問及邊緣人工智能何時能到達“山頂”時，張宇坦言,，這一時間點很難預(yù)測,。不過，相比算力和算法上的進步,，目前理論上的進展仍然相對較慢,，而這正是下一步需要重點突破的地方,。