近日,，商湯科技智能產(chǎn)業(yè)研究院與中國信息通信研究院云計算與大數(shù)據(jù)研究所,，中國智能算力產(chǎn)業(yè)聯(lián)盟,，人工智能算力產(chǎn)業(yè)生態(tài)聯(lián)盟，聯(lián)合發(fā)布《新一代人工智能基礎設施白皮書》（以下簡稱《白皮書》）?！栋灼凡粌H明確了“新一代AI基礎設施”的定義,、特點和價值，還首次提出“新一代AI基礎設施評估體系”,，為AI 2.0時代智算產(chǎn)業(yè)發(fā)展提供重要參考,。

新一代AI基礎設施成為AI 2.0時代“新基建”

數(shù)據(jù)顯示,，過去四年，大模型參數(shù)量以年均400%復合增長,，AI算力需求增長超過15萬倍,，遠超摩爾定律。以CPU為中心的傳統(tǒng)計算基礎設施已無法滿足大模型,、生成式AI的新要求,。大模型訓練對數(shù)據(jù)質(zhì)量和效率的需求，企業(yè)應用生成式AI對于MaaS（大模型即服務）的需求,，也都給AI基礎設施提出了全新要求,。

AI 2.0時代，需要新一代的基礎設施來支撐大模型的訓練與推理,、生成式AI應用的規(guī)?；涞兀浜诵囊?，如計算,、存儲、網(wǎng)絡以及數(shù)據(jù)服務都要做精細化的設計和重構(gòu),，而非簡單的服務器或GPU實例堆砌,。

《白皮書》明確了新一代AI基礎設施的定義：以大模型能力輸出為核心平臺，集成算力資源,、數(shù)據(jù)服務和云服務，專門設計用于最大限度提升大模型和生成式AI應用的表現(xiàn)：數(shù)據(jù)準備與管理,、大模型訓練,、推理、模型能力調(diào)用,、生成式AI應用部署,。企業(yè)通過新一代AI基礎設施開發(fā)和運行生成式AI業(yè)務和客戶應用程序，以及基模型和行業(yè)模型的訓練與微調(diào),。

《白皮書》指出,，新一代AI基礎設施的建設將降低大模型開發(fā)和應用門檻，在政企服務,、產(chǎn)業(yè)和科研創(chuàng)新等方面創(chuàng)造更大社會價值：面向產(chǎn)業(yè),，將加快推進傳統(tǒng)產(chǎn)業(yè)上下游各個環(huán)節(jié)的智能化轉(zhuǎn)型，催生新業(yè)態(tài),、新模式的不斷涌現(xiàn),。面向科研,，可加速科學實驗的自動化和智能化，激發(fā)人工智能驅(qū)動科學研究（AI for Science）的新范式,。面向政務,，將原本分散、碎片化的政務應用,，通過“一模通辦” 為政務服務提質(zhì)增效,。

首次提出新一代AI基礎設施評估體系

當前，新一代AI基礎設施市場處于高速競爭的初級階段,，云計算,、AI原生、硬件系統(tǒng)等各類廠商均有各自優(yōu)勢,。為了給企業(yè)用戶提供AI基礎設施選型的可靠性指導,，《白皮書》首次提出了“新一代AI基礎設施評估體系”。通過產(chǎn)品技術,、戰(zhàn)略愿景,、市場生態(tài)三大維度、十二個評估指標,，對AI基礎設施廠商綜合能力進行定性和定量的全面評估,。

《白皮書》選取了十二家最具代表性的AI基礎設施廠商。商湯科技的新一代AI基礎設施 -SenseCore商湯大裝置,，在各個評估指標的得分均超過廠商平均分,，并在市場響應、市場認知,、產(chǎn)品戰(zhàn)略,、工程化建設四個評估指標拿到滿分，成為新一代AI基礎設施市場的領導者,。

《白皮書》指出,，商湯在產(chǎn)品服務能力呈現(xiàn)出較強的產(chǎn)品實力和技術積累，不僅超前布局了算力基礎設施,，還在MaaS平臺以及自身大模型業(yè)務的加持下,，形成了整套AI基礎設施產(chǎn)品架構(gòu)，滿足客戶大模型訓練,、生成式AI應用的大規(guī)模落地需求,。

SenseCore商湯大裝置作為商湯推出的AI基礎設施產(chǎn)品與解決方案，總體算力規(guī)模目前已達6800P,，在支持商湯自身大模型研發(fā)的同時,，也支持外部客戶訓練大模型和應用部署。今年以來,，共有超1000個參數(shù)量數(shù)十億至上千億的大模型在大裝置上完成訓練,，實現(xiàn)了領跑行業(yè)的技術迭代進度,，并支持了數(shù)十款生成式AI應用。

商湯大裝置全面支撐大模型訓練與推理,、生成式AI與應用的基礎設施

激發(fā)“智能基建革新”，加速大模型和生成式AI落地

《白皮書》以商湯基于AI大裝置的多場景實踐案例為例,，闡述了從大型模型訓練到生成式AI應用的全過程,，再到區(qū)域智算中心的建設與運營，深入挖掘了這一全生命周期中的商業(yè)創(chuàng)新價值,。

l 大模型訓練場景

商湯大裝置為商湯自研“日日新SenseNova”大模型體系的訓練迭代提供了強大算力支撐,，以及1.5萬億token和6000億中文高質(zhì)量數(shù)據(jù)，推出了商量大語言模型,，AIGC等大模型,，并在多個權威大模型測評榜單中位居前列。

商湯還助力某業(yè)界領先的認知智能公司打造了高性能算力平臺,，提高模型訓練速度和效率,，已成功推出了400億參數(shù)量的大模型，快速滿足不同領域和場景需求,。

l 生成式AI應用場景

依托商湯大裝置,，商湯聯(lián)合中公教育發(fā)布虛擬數(shù)字講師“小鹿老師”，相比傳統(tǒng)人工直播,，不僅降低了80%錄課成本,，還提高了2~3倍的課程豐富度，實現(xiàn)教學質(zhì)量和效率雙重提升,。

商湯還助力微博打造“營銷大模型”,，讓每位博主都能擁有自己的AI營銷助手，短短數(shù)月便有超7000位微博達人采用AIGC生成69萬篇文案,，采用率高達95%,。

l 智算中心建設與運營

今年10月，商湯與重慶南岸區(qū)攜手打造的“重慶人工智能計算中心（AIDC）”,，以國產(chǎn)化算力為核心，首期建設峰值算力達100 Petaflops,，為西南地區(qū)的各行各業(yè),、科研機構(gòu)提供AI算力、大模型訓練,、推理部署和應用開發(fā)等服務,。

同時，商湯還助力打造福建省大數(shù)據(jù)算力平臺,，第一階段已建成125 PFLOPS算力規(guī)模,，并有多家數(shù)字生態(tài)領軍企業(yè)入駐,，有望推動生成式AI技術在醫(yī)療、金融,、制造等各個產(chǎn)業(yè)中的落地,。

《白皮書》最后指出，隨著新一代AI基礎設施的邊際成本持續(xù)下降,、邊際效益持續(xù)增長,，AI將普惠每一個人。

《白皮書》下載鏈接：https://www.sensecore.cn/whitepaper.pdf