7月4日-7月7日，2024世界人工智能大會(WAIC)在上海舉行,，來自國內外的數(shù)百款大模型集體亮相,，呈現(xiàn)了AI大模型智能涌現(xiàn),、賦能千行百業(yè)的生動場景,。在各色技術及應用的創(chuàng)新體驗區(qū)中，一個具備高度交互能力的多模態(tài)機器人引起了人們的注意,。它就是來自巖芯數(shù)智RockAI,，搭載了樹莓派5代芯片的“小智”，在極低算力的設備上實現(xiàn)了強大的多模態(tài)能力,。繼年初推出超強性能的Yan1.0云端大模型后,，RockAI再次突破了端側AI“原生無損”門檻，并在這款機器人上部署了此次首發(fā)的Yan 1.2大模型,。與傳統(tǒng)的自動控制機器人不同,，小智具備多模態(tài)認知能力，能夠基于Yan1.2的語音和視覺處理能力,，準確理解用戶的模糊指令和意圖,，并據(jù)此控制其機械軀體高效完成各類復雜任務。隨著這款智能機器人在各種模糊指令下描述“視覺”場景,、展現(xiàn)“四步成詩”,，一場關于端側AI的全新想象也鋪展開來。端側AI通常指在終端設備上直接運行和處理人工智能算法的技術,，其優(yōu)勢在于可以直接利用設備的計算能力進行數(shù)據(jù)處理,，不需要將數(shù)據(jù)發(fā)送到云端或服務器進行處理，從而降低對云端計算資源的依賴,。且無論網(wǎng)絡環(huán)境如何都能即時生成響應,，確保用戶數(shù)據(jù)安全性的同時，減少了相關算力成本開支,。自去年下半年以來,，隨著大模型的競爭從技術驅動過渡到市場驅動，端側AI以其廣泛的應用場景備受青睞,，開始釋放出全新的發(fā)展價值,。全球范圍內各大模型廠商紛紛通過各種技術手段，嘗試將大模型在物理意義上融入終端,。但受制于端側AI落地的算力和功耗等挑戰(zhàn),，傳統(tǒng)輕量化部署往往均以性能損失為代價。如目前大熱的AIPC是把Transformer架構的模型通過量化壓縮部署到個人電腦,，僅70億參數(shù)的大模型還需要額外定制PC芯片為其提供算力,。而此前在微型電腦主板樹莓派5上打出“1.89tokens每秒速度運行、支持8K上下文窗口”戰(zhàn)績的Llama3 8B,，同樣止步于“有損壓縮”,。壓縮后的模型不僅性能大打折扣，還會失去再訓練,、再學習的能力,，成為無法定時更新底層知識的“一次性AI”。而RockAI此次首發(fā)的Yan 1.2大模型,，則可以“原生無損”地以6+tokens/s的速度運行于算力僅普通電腦八分之一的樹莓派上,，并在這個僅有信用卡大小的芯片上實現(xiàn)超強的多模態(tài)能力,，不僅能“聽說讀”，還可以識別模糊指令,，進行學習,、創(chuàng)作及互動。這一成果,，起初是得益于對于大模型基礎架構的“破壞式”創(chuàng)新,。早在今年1月，RockAI發(fā)布了國內首個非Transformer的Yan架構大模型,。該架構通過對Attention機制的替換,，將計算復雜度降為線性，大幅降低了對算力的需求,，用百億級參數(shù)達成千億參數(shù)大模型的性能效果,，并且率先實現(xiàn)了在主流消費級CPU等端側設備上的原生無損運行。為了實現(xiàn)樹莓派等更多更低端設備的無損適配,，RockAI基于全新自研的Yan架構,，在實驗室對人工神經網(wǎng)絡最底層的反向傳播算法進行挑戰(zhàn)，尋找反向傳播的更優(yōu)解嘗試,，進一步實現(xiàn)Yan模型的降本增效,。同時在算法側，RockAI采用了基于仿生神經元驅動的選擇算法,，實現(xiàn)了類腦分區(qū)激活的工作機制,，使大模型可以根據(jù)學習的類型和知識的范圍分區(qū)激活，大幅減少了數(shù)據(jù)訓練量,，同時也能有效發(fā)揮多模態(tài)的潛力,。故而，模型迭代到1.2版本,，已經可以實現(xiàn)在PC端,、手機端、樹莓派端和機器人端等設備上的無損運行,。歷經了卷參數(shù),、卷市場的階段，大模型當下正集中于一個“卷智能”的時代,，因此,，讓大模型無損跑通更多低算力設備只是第一步，接下來就要思考如何提高端側大模型的知識密度,、智能密度,。但RockAI CEO劉凡平還有一個更高的目標，就是在實現(xiàn)通用人工智能的同時,，將AI與每個人獨特的地方結合在一起,，模型具備自主學習能力,，讓每個設備都擁有個性化的智能。為了實現(xiàn)這種個性化的通用人工智能,，RockAI團隊首創(chuàng)了“同步學習”理念,，讓模型具備像人一樣實時學習的能力，在推理的同時進行知識更新和學習,，無需像云端大模型一樣“返廠”進行再次更新或預訓練,。從而實時、有效且持續(xù)性地提升大模型的智能密度,，應對各類個性化場景中出現(xiàn)的問題,。基于神經網(wǎng)絡的底層技術創(chuàng)新,，RockAI不斷嘗試尋找反向傳播的更優(yōu)解，試圖能更低代價更新神經網(wǎng)絡,，實現(xiàn)對現(xiàn)有知識體系的快速更新,，輔以模型分區(qū)激活降低功耗、實現(xiàn)部分更新,，使大模型像人類學習一樣建立自己獨有的知識體系,，實現(xiàn)模型的邊跑邊進化。會上,，RockAI展示了“同步學習”的實驗室示例,，并表示該機制已處于實驗室最后驗證階段。而對于Yan模型在設備端的落地,，劉凡平則透露,，團隊正加緊進行設備端的適配工作，目前已與眾多硬件和芯片廠商建立了溝通與合作,。RockAI以Yan架構大模型為核心的技術突破與創(chuàng)新實踐,，標志著端側AI正逐步克服技術壁壘，向更廣泛的應用場景邁進,。不僅是對現(xiàn)有計算范式的挑戰(zhàn)與超越,，更是對未來智慧生活的前瞻布局。隨著全模態(tài)支持+實時人機交互+同步學習的落地,，Yan 2.0或將重新定義設備的價值,，成為設備的“最強大腦”，真正做到“讓世界上每一臺設備都擁有自己的智能”,。漢王大健康攜柯氏音電子血壓計亮相2024世界人工智能大會暨人工智能全球治理高級別會議于7月4日在上海盛大開幕,，本次大會圍繞“以共商促共享 以善治促善智”主題，匯聚全球頂尖科學家,、企業(yè)家和投資人,，共同探討人工智能領域的前沿技術,、產業(yè)動向及向善治理。在這場全球人工智能盛宴中,，漢王大健康攜柯氏音電子血壓計重磅亮相,，展示醫(yī)療科技領域的最新創(chuàng)新成果。柯氏音電子血壓計,，顧名思義，采用的原理和市面上大多數(shù)電子血壓計不同,，用的是“柯氏音法”,。柯氏音法,，也叫聽診法,，是國際公認的無創(chuàng)血壓測量金標準。其原理是通過監(jiān)測袖帶放氣過程中血流沖擊血管產生的聲音變化直接測得血壓,，水銀血壓計便是用的這個原理,，可見其準確性。百年來,，業(yè)界一直嘗試將柯氏音法電子化,，但由于多方條件限制，均未取得成功,。實現(xiàn)柯氏音法電子化的關鍵在于“聽,、控、學,、量”四個方面：“聽”是不受環(huán)境影響,，精準識別柯氏音；“控”指柯氏音要求的精準控制均速泄壓,；“學”指大量優(yōu)質的血壓聽診數(shù)據(jù)用于訓練,；“量”是精準、實時的柯氏音測量算法,。這樣高的技術要求,，唯有擁有深厚人工智能技術積淀的高科技企業(yè)才能做到。作為一家老牌人工智能企業(yè),，漢王科技自2019年起便投入大量資源,，在硬件、數(shù)據(jù),、算法,、軟件和設計等方面進行了全鏈條創(chuàng)新，成功攻克了柯氏音法電子化的百年難題,。這一技術突破使得血壓計的測量誤差平均差控制在≤±1mmHg,，遠高于國際臨床標準對血壓計測量誤差的要求,，有助于對高血壓進行精準預測和早期診斷，從而提高高血壓的知曉率,。高血壓作為一種慢性病，需要長期監(jiān)測與管理,。而面對我國高血壓患病人群數(shù)量達2.45億之龐大,，醫(yī)生數(shù)量和人均診療時間就顯得微乎其微。然而,，隨著人工智能技術的不斷革新發(fā)展,，高血壓長期監(jiān)測與管理問題可以得到有效解決。漢王大健康在柯氏音電子血壓計的配套App中引入了漢王天地大模型,，基于它全面強大的多模態(tài)協(xié)同能力,，融合專用的醫(yī)養(yǎng)知識和專業(yè)醫(yī)療數(shù)據(jù)庫，能夠根據(jù)用戶的血壓數(shù)據(jù),，結合專業(yè)醫(yī)療知識,，生成個性化的檢查建議。為了確保建議的準確性和可靠性,，漢王科技還配備了坐席醫(yī)生進行內容審核和修正。其生成的所有內容建議和分析結果,，都會經過坐席醫(yī)生的嚴格專業(yè)把關,，確保患者能夠獲得科學,、準確的健康指導,。在實際應用中，用戶可以通過簡單的交互界面與天地大模型進行對話,，比如在“血壓管理問答”模塊中,，用戶可以詢問各種關于血壓的問題，包括但不限于降血壓食物,、降血壓運動,、為什么會患高血壓等。搭載人工智能技術的漢王柯氏音電子血壓計,，可以對患者進行精準血壓監(jiān)測和結果反饋,，并提供相關治療指導，有助于提高高血壓的治療率和控制率,。在漢王天地大模型的“檢驗報告分析”模塊中,，用戶可以直接發(fā)送醫(yī)院的檢查結果圖片，無論是文字還是圖片,，大模型都能迅速生成相應的,、準確的回答,。此外，整個系統(tǒng)還設置了醫(yī)生端,，使得醫(yī)患之間的信息和意見能夠實時共享和交互,，真正實現(xiàn)醫(yī)患共同體，使醫(yī)生對慢病患者的實時健康監(jiān)護成為可能,。獨創(chuàng)巧思,，漢王柯氏音電子血壓計內置物聯(lián)網(wǎng)NB模塊,，無需連接藍牙或WiFi,，就能實現(xiàn)遠程監(jiān)測。醫(yī)生可以通過手機App獲取到的血壓數(shù)據(jù)來建立高血壓人群完備的個人電子健康檔案,，對患者進行分層,、分型和細化管理，動態(tài)實時評估治療效果，實現(xiàn)高血壓的閉環(huán)管理,。上市僅半年,，漢王柯氏音電子血壓計便在激烈的市場競爭中脫穎而出，618當日在京東,、天貓,、抖音三平臺500元以上上臂式高端血壓計中榮獲銷量第一，超越國外知名品牌,。這不僅是漢王柯氏音電子血壓計自身實力的體現(xiàn),，也反映了國貨品牌在健康監(jiān)測領域的崛起和進步。未來,，漢王柯氏音電子血壓計將繼續(xù)發(fā)揮在人工智能技術上的優(yōu)勢,，為廣大消費者提供更加精準、可靠,、便捷的健康血壓監(jiān)測服務,。猿力科技亮相 自研教育大模型全面產品化落地近年來大模型成為業(yè)內最熱議題，本次大會也成為眾多廠商展示大模型技術與“人工智能+”創(chuàng)新應用的最佳平臺,。除了已經被外界熟知的百度文心,、訊飛星火、阿里通義千問等通用大模型悉數(shù)亮相外,，各行各業(yè)也紛紛“秀”出在垂直大模型領域的最新落地成果,。今年5月，猿力科技于通過了大模型備案,，并且在本次世界人工智能大會將展示其自研大模型與支撐的教育產品“全家桶”,，包括飛象星球、猿編程,、小猿學練機、海豚AI學等國內教育服務產品,，及旗下兩款AI教育出海產品CheckMath,、LeapMath。在大會現(xiàn)場,，海豚AI學所展示的“蘇格拉底啟發(fā)式AI答疑”與“超時空對話AI名人”引發(fā)了圍觀，因有趣,、生動的互動場景引起不少參會人士的興趣,。“蘇格拉底啟發(fā)式AI答疑” 是猿力科技旗下首個大模型落地產品,，主要面向小學數(shù)學解析的場景,，通過多輪問答形式引導孩子主動思考、自主解題,?！俺瑫r空對話AI名人”則通過生成式AI技術,，讓當今學生可以與愛因斯坦、高斯,、魯迅,、莎士比亞等世界頂級智慧大腦隨時對話。海豚AI學由國內領先的AI技術團隊,、教研團隊與動畫電影團隊共同打造,，目前為1-9年級學生提供數(shù)學、物理,、英語三科的自主學習內容和智能規(guī)劃,。海豚AI學開創(chuàng)性地以高質量可交互的動畫視頻為知識載體，獨創(chuàng)了一套讓孩子愿意“主動學”的學習流程,，通過AI大模型,，實現(xiàn)一人一套個性化學習方案，目前海外版本Leap Math覆蓋70余國家和地區(qū),。除了海豚AI學,，本次大會學習機產品也備受關注。大會上,，小猿學練機展出了與大語文場景深度融合的“AI伴讀大模型”與“AI百科大模型”,，其中“AI伴讀大模型”在閱讀內容上可以與學習者展開深度互動，學習者可以在口頭表達過程中與AI互動共創(chuàng)作品,，實現(xiàn)主動閱讀,、主動思考，進而提升深度表達,、理解和寫作能力,。作為科技教育公司大模型技術落地的主要場景之一，學習機有著巨大發(fā)展空間,。隨著技術的不斷發(fā)展,，智能學習機產品技術日益成熟，廣泛應用于多個教育學習場景,，其廣闊的應用前景將推動中國智能學習機行業(yè)規(guī)?？焖僭鲩L。2023年中國教育智能硬件市場規(guī)模達807億元,，同比增長29.53%,。艾媒咨詢預測，預計2025年中國教育智能硬件市場規(guī)模將超1000億元,。在大模型加持下的學習機更受到消費者關注,。調查顯示，近七成的中國消費者比較看重智能學習機的AI功能，超五成的受訪者比較看重智能學習機學習資源,。關于智能學習機行業(yè)前景,，超八成的受訪者表示看好。艾媒咨詢分析師認為,，未來智能學習機的需求較為廣闊,，有望滲透到更多的學習場景中；依靠大模型等AI能力及優(yōu)質課程內容資源和豐富練習資源的智能學習機將成為消費者選購的重要關注點,。據(jù)前瞻產業(yè)研究院2021年的研究,，2020 年 K12 在線教育家庭花費 1萬-2萬元的意愿人群占據(jù) 46%。在“雙減”后,，學習機承接部分在線教育需求,，學習平板出貨量同比提升18%。洛圖科技《中國學習平板線上零售市場月度分析報告》數(shù)據(jù)顯示,，2023年11月至2024年1月,，小猿學練機在全國線上京東、天貓,、抖音三大電商合計市場中的單品銷量和銷售額均排名第一,。分析師認為，人工智能等新興技術與教育的深度融合,，是今后智能學習機領域高質量發(fā)展的重要一步,，隨著AI賦能學習機，高品質,、個性化,、大規(guī)模的三個教育“無法”共存的指標將有希望同步實現(xiàn)。中國教育智能產品正在為傳統(tǒng)的教育方式帶來更多的可能性和創(chuàng)新性,，讓不可能逐漸變成可能,。當前，智能教育隨著技術的推進成為了風口,。數(shù)據(jù)顯示,，2020年中國人工智能核心產業(yè)規(guī)模就已達1500億元，預計在2025年將達到4000億元,，未來有望發(fā)展為全球最大的人工智能市場,。分析師預計,，AI技術革新將極大改善和提升智能學習機的功能及使用體驗,，打造出更符合消費者需求的產品。在大模型落地上,，本次大會所展出的“飛象AI寫作伙伴”利用大模型的自然語言生成能力,，為學生提供作文輔導，通過多輪啟發(fā)式的對話，幫助學生理解題目,、發(fā)散思維,，引導其逐步列出提綱并成文。從落地情況看,，該功能目前已隨“飛象智能作業(yè)”產品在北京朝陽,、平谷全區(qū)的100多所學校落地。此外,，“飛象課堂”還利用語音,、視覺交互技術，開發(fā)了面向3-6年級學生的“探秘人工智能”系列課程,，學生可以在課堂大屏中與AI互動,，幫助學生了解什么是大模型、怎么用好大模型等前沿技術,。聚焦未來科技與人工智能教育領域，猿力科技旗下猿編程研發(fā)了智能編程學習助手——猿編程AI-Agent,。作為行業(yè)首創(chuàng)的內嵌在少兒編程App內的多模態(tài)大模型,，猿編程AI-Agent已進入測試階段，可通過智能聊天互動,、代碼編寫實時監(jiān)測,、網(wǎng)絡安全教育引導等功能，助力學生高效掌握編程知識,、提升思維及實踐能力,。此外，猿力科技還攜旗下兩款AI教育出海產品CheckMath,、LeapMath亮相本次世界人工智能大會,。憑借在多語言智能批改、“AI大模型+高質量交互動畫”等領域的創(chuàng)新,，該等產品已經覆蓋新加坡等100余個國家和地區(qū),，并在多個國家應用榜上長期占據(jù)榜首。從覆蓋場景看,，目前猿力科技大模型技術已覆蓋對話輔導,、口語陪練、閱讀理解等面向家庭教育端的應用場景,，以及作業(yè)批改,、學情分析、答疑輔導等服務于政府和學校端的教育應用場景,。技術的領先來自于投入,。猿力科技在過去12年在科技研發(fā)投入近百億,，自研知識圖譜、語音識別,、自然語言處理等9項關鍵技術,。整體市場正面臨激烈的競爭。數(shù)據(jù)顯示,，2013-2022年中國教育企業(yè)數(shù)整體呈上升水平,；2022年中國教育企業(yè)數(shù)達5326家，同比增長1.64%,。猿力科技表示,，世界人工智能大會是中國教育科技企業(yè)向全球展示“中國智慧”的重要窗口，其希望以大模型技術杠桿撬動全球教育革新,，促進全球數(shù)字教育創(chuàng)新,、包容發(fā)展。當前,，教育對外開放在國家戰(zhàn)略和教育發(fā)展戰(zhàn)略中具有重要地位,，是建設教育強國的重要條件，在此方面,，教育數(shù)字化轉型即是國際教育變革的重點和趨勢,，也是快速提升世界影響力的主要途徑。中國日報上海分社 記者王穎來源：中國日報網(wǎng)