中科院自動化所所長徐波發(fā)布“紫東太初”全模態(tài)大模型,?！≈锌圃鹤詣踊?供圖

中新網(wǎng)北京6月16日電 (記者 孫自法)記者從中國科學院自動化研究所(中科院自動化所)獲悉，在6月16日舉行的“人工智能框架生態(tài)峰會2023”上，中科院自動化所所長徐波研究員正式發(fā)布“紫東太初”全模態(tài)大模型,，持續(xù)探索可自主進化的通用人工智能(AI),。

首次展示“紫東太初”全新功能

“紫東太初”全模態(tài)大模型是在千億參數(shù)多模態(tài)大模型“紫東太初”1.0基礎上升級打造的2.0版本，在語音,、圖像和文本三模態(tài)的基礎上,，加入視頻、傳感信號,、3D點云等模態(tài)數(shù)據(jù),，研究突破認知增強的多模態(tài)關聯(lián)等關鍵技術，具備全模態(tài)理解能力,、生成能力和關聯(lián)能力,，面向數(shù)字經(jīng)濟時代加速通用人工智能的實現(xiàn)。

當天會上,，徐波首次對外實時展示“紫東太初”大模型在音樂理解與生成,、三維場景導航,、信號理解、多模態(tài)對話等方面的全新功能,，并邀請現(xiàn)場觀眾與大模型即時互動,。

“紫東太初”全模態(tài)認知大模型不僅可以透過《月光曲》暢談貝多芬的故事，也可以在三維場景里實現(xiàn)精準定位,，還能夠通過圖像與聲音的結合完成場景分析,，在現(xiàn)場獲得熱烈反響。

從多模態(tài)到全模態(tài)持續(xù)探索

人類在認知世界時,，往往同時涉及語音,、圖像、文字等信息,。機器要實現(xiàn)更高水平的智能,，就需要像人一樣，發(fā)展貫通圖,、文,、音等更多模態(tài)的大模型。自2019年起,，中科院自動化所即堅持以“圖-音-文”多模態(tài)技術為核心,，確立多模態(tài)大模型布局，整合所內圖像,、文本,、語音等研究方向的優(yōu)勢資源開展集團式攻關，于2021年9月成功打造“紫東太初”1.0多模態(tài)大模型,，助推人工智能從“一專一能”邁向“多專多能”,，向發(fā)展通用人工智能邁出堅實的第一步。

以此為基礎,，“紫東太初”大模型的多模態(tài)探索持續(xù)深入,。針對邁入數(shù)字經(jīng)濟時代的新需求與新趨勢，“紫東太初”2.0在語音,、圖像和文本之外,，加入視頻、傳感信號,、3D點云等更多模態(tài),，大模型多模態(tài)認知能力大幅提升。

“紫東太初”2.0可以理解三維場景,、傳感信號等數(shù)字物聯(lián)時代的重要信息,，完成音樂、圖片和視頻等數(shù)據(jù)之間的跨模態(tài)對齊，能處理音樂視頻分析,、三維導航等多模態(tài)關聯(lián)應用需求,，并可實現(xiàn)音樂、視頻等多模態(tài)內容理解和生成,。

從1.0到2.0,，“紫東太初”大模型打通感知、認知乃至決策的交互屏障,，使人工智能進一步感知世界,、認知世界，從而延伸出更加強大的通用能力,。

協(xié)同構建自主可控發(fā)展生態(tài)

“紫東太初”2.0以中科院自動化所自研算法為核心,，以昇騰AI硬件及昇思MindSpore AI框架為基礎，依托武漢人工智能計算中心算力支持,，著力打造全棧國產(chǎn)化通用人工智能底座,。

長期以來,，強大的算力支撐是約束中國人工智能發(fā)展的瓶頸之一,，以“紫東太初”大模型為“領頭雁”開展的創(chuàng)新實踐將有力推動國產(chǎn)基礎軟硬件與大模型技術的適配，協(xié)同構建中國通用人工智能自主可控發(fā)展生態(tài),。

已開始系列產(chǎn)業(yè)應用前景廣闊

目前,，“紫東太初”大模型已展現(xiàn)出廣闊的產(chǎn)業(yè)應用前景，在神經(jīng)外科手術導航,、短視頻內容審核,、法律咨詢、醫(yī)療多模態(tài)鑒別診斷,、交通違規(guī)圖像研讀等領域已經(jīng)開始一系列引領性,、示范性應用。

其中,，在醫(yī)療場景,，“紫東太初”大模型部署于神經(jīng)外科機器人MicroNeuro，可實現(xiàn)在醫(yī)療手術中實時融合視覺,、觸覺等多模態(tài)信息,，協(xié)助醫(yī)生對手術場景進行實時推理判斷。同時,，通過與北京協(xié)和醫(yī)院合作,，科研團隊利用“紫東太初”具備的較強邏輯推理能力，正在人類罕見病診療這個挑戰(zhàn)性醫(yī)學領域開展嘗試,，希望有所突破,。

徐波表示，以“紫東太初”大模型為基礎，中科院自動化所將持續(xù)探索與類腦智能,、博弈智能等技術路徑的相互融合,，最終實現(xiàn)可自主進化的通用人工智能，并將探索在更多領域發(fā)揮賦能價值,，為促進中國數(shù)字經(jīng)濟快速發(fā)展貢獻力量,。(完)