近日,，商湯科技智能產(chǎn)業(yè)研究院與中國信息通信研究院云計(jì)算與大數(shù)據(jù)研究所,，中國智能算力產(chǎn)業(yè)聯(lián)盟，人工智能算力產(chǎn)業(yè)生態(tài)聯(lián)盟，聯(lián)合發(fā)布《新一代人工智能基礎(chǔ)設(shè)施白皮書》（以下簡稱《白皮書》）?！栋灼凡粌H明確了“新一代AI基礎(chǔ)設(shè)施”的定義,、特點(diǎn)和價(jià)值，還首次提出“新一代AI基礎(chǔ)設(shè)施評(píng)估體系”,，為AI 2.0時(shí)代智算產(chǎn)業(yè)發(fā)展提供重要參考,。

新一代AI基礎(chǔ)設(shè)施成為AI 2.0時(shí)代“新基建”

數(shù)據(jù)顯示，過去四年,，大模型參數(shù)量以年均400%復(fù)合增長,，AI算力需求增長超過15萬倍，遠(yuǎn)超摩爾定律,。以CPU為中心的傳統(tǒng)計(jì)算基礎(chǔ)設(shè)施已無法滿足大模型,、生成式AI的新要求。大模型訓(xùn)練對(duì)數(shù)據(jù)質(zhì)量和效率的需求,，企業(yè)應(yīng)用生成式AI對(duì)于MaaS（大模型即服務(wù)）的需求,，也都給AI基礎(chǔ)設(shè)施提出了全新要求。

AI 2.0時(shí)代，需要新一代的基礎(chǔ)設(shè)施來支撐大模型的訓(xùn)練與推理,、生成式AI應(yīng)用的規(guī)?；涞兀浜诵囊?，如計(jì)算,、存儲(chǔ)、網(wǎng)絡(luò)以及數(shù)據(jù)服務(wù)都要做精細(xì)化的設(shè)計(jì)和重構(gòu),，而非簡單的服務(wù)器或GPU實(shí)例堆砌,。

《白皮書》明確了新一代AI基礎(chǔ)設(shè)施的定義：以大模型能力輸出為核心平臺(tái)，集成算力資源,、數(shù)據(jù)服務(wù)和云服務(wù),，專門設(shè)計(jì)用于最大限度提升大模型和生成式AI應(yīng)用的表現(xiàn)：數(shù)據(jù)準(zhǔn)備與管理、大模型訓(xùn)練,、推理,、模型能力調(diào)用、生成式AI應(yīng)用部署,。企業(yè)通過新一代AI基礎(chǔ)設(shè)施開發(fā)和運(yùn)行生成式AI業(yè)務(wù)和客戶應(yīng)用程序,，以及基模型和行業(yè)模型的訓(xùn)練與微調(diào)。

《白皮書》指出,，新一代AI基礎(chǔ)設(shè)施的建設(shè)將降低大模型開發(fā)和應(yīng)用門檻,，在政企服務(wù)、產(chǎn)業(yè)和科研創(chuàng)新等方面創(chuàng)造更大社會(huì)價(jià)值：面向產(chǎn)業(yè),，將加快推進(jìn)傳統(tǒng)產(chǎn)業(yè)上下游各個(gè)環(huán)節(jié)的智能化轉(zhuǎn)型,，催生新業(yè)態(tài),、新模式的不斷涌現(xiàn),。面向科研，可加速科學(xué)實(shí)驗(yàn)的自動(dòng)化和智能化,，激發(fā)人工智能驅(qū)動(dòng)科學(xué)研究（AI for Science）的新范式,。面向政務(wù)，將原本分散,、碎片化的政務(wù)應(yīng)用,，通過“一模通辦” 為政務(wù)服務(wù)提質(zhì)增效。

首次提出新一代AI基礎(chǔ)設(shè)施評(píng)估體系

當(dāng)前,，新一代AI基礎(chǔ)設(shè)施市場處于高速競爭的初級(jí)階段,，云計(jì)算、AI原生,、硬件系統(tǒng)等各類廠商均有各自優(yōu)勢,。為了給企業(yè)用戶提供AI基礎(chǔ)設(shè)施選型的可靠性指導(dǎo)，《白皮書》首次提出了“新一代AI基礎(chǔ)設(shè)施評(píng)估體系”。通過產(chǎn)品技術(shù),、戰(zhàn)略愿景,、市場生態(tài)三大維度、十二個(gè)評(píng)估指標(biāo),，對(duì)AI基礎(chǔ)設(shè)施廠商綜合能力進(jìn)行定性和定量的全面評(píng)估,。

《白皮書》選取了十二家最具代表性的AI基礎(chǔ)設(shè)施廠商。商湯科技的新一代AI基礎(chǔ)設(shè)施 -SenseCore商湯大裝置,，在各個(gè)評(píng)估指標(biāo)的得分均超過廠商平均分,，并在市場響應(yīng)、市場認(rèn)知,、產(chǎn)品戰(zhàn)略,、工程化建設(shè)四個(gè)評(píng)估指標(biāo)拿到滿分，成為新一代AI基礎(chǔ)設(shè)施市場的領(lǐng)導(dǎo)者,。

《白皮書》指出,，商湯在產(chǎn)品服務(wù)能力呈現(xiàn)出較強(qiáng)的產(chǎn)品實(shí)力和技術(shù)積累，不僅超前布局了算力基礎(chǔ)設(shè)施,，還在MaaS平臺(tái)以及自身大模型業(yè)務(wù)的加持下,，形成了整套AI基礎(chǔ)設(shè)施產(chǎn)品架構(gòu)，滿足客戶大模型訓(xùn)練,、生成式AI應(yīng)用的大規(guī)模落地需求,。

SenseCore商湯大裝置作為商湯推出的AI基礎(chǔ)設(shè)施產(chǎn)品與解決方案，總體算力規(guī)模目前已達(dá)6800P,，在支持商湯自身大模型研發(fā)的同時(shí),，也支持外部客戶訓(xùn)練大模型和應(yīng)用部署。今年以來,，共有超1000個(gè)參數(shù)量數(shù)十億至上千億的大模型在大裝置上完成訓(xùn)練,，實(shí)現(xiàn)了領(lǐng)跑行業(yè)的技術(shù)迭代進(jìn)度，并支持了數(shù)十款生成式AI應(yīng)用,。

商湯大裝置全面支撐大模型訓(xùn)練與推理、生成式AI與應(yīng)用的基礎(chǔ)設(shè)施

激發(fā)“智能基建革新”,，加速大模型和生成式AI落地

《白皮書》以商湯基于AI大裝置的多場景實(shí)踐案例為例,，闡述了從大型模型訓(xùn)練到生成式AI應(yīng)用的全過程，再到區(qū)域智算中心的建設(shè)與運(yùn)營,，深入挖掘了這一全生命周期中的商業(yè)創(chuàng)新價(jià)值,。

l 大模型訓(xùn)練場景

商湯大裝置為商湯自研“日日新SenseNova”大模型體系的訓(xùn)練迭代提供了強(qiáng)大算力支撐，以及1.5萬億token和6000億中文高質(zhì)量數(shù)據(jù),，推出了商量大語言模型,，AIGC等大模型,，并在多個(gè)權(quán)威大模型測評(píng)榜單中位居前列。

商湯還助力某業(yè)界領(lǐng)先的認(rèn)知智能公司打造了高性能算力平臺(tái),，提高模型訓(xùn)練速度和效率,，已成功推出了400億參數(shù)量的大模型，快速滿足不同領(lǐng)域和場景需求,。

l 生成式AI應(yīng)用場景

依托商湯大裝置,，商湯聯(lián)合中公教育發(fā)布虛擬數(shù)字講師“小鹿老師”，相比傳統(tǒng)人工直播,，不僅降低了80%錄課成本,，還提高了2~3倍的課程豐富度，實(shí)現(xiàn)教學(xué)質(zhì)量和效率雙重提升,。

商湯還助力微博打造“營銷大模型”,，讓每位博主都能擁有自己的AI營銷助手，短短數(shù)月便有超7000位微博達(dá)人采用AIGC生成69萬篇文案,，采用率高達(dá)95%,。

l 智算中心建設(shè)與運(yùn)營

今年10月，商湯與重慶南岸區(qū)攜手打造的“重慶人工智能計(jì)算中心（AIDC）”,，以國產(chǎn)化算力為核心,，首期建設(shè)峰值算力達(dá)100 Petaflops，為西南地區(qū)的各行各業(yè),、科研機(jī)構(gòu)提供AI算力,、大模型訓(xùn)練、推理部署和應(yīng)用開發(fā)等服務(wù),。

同時(shí),，商湯還助力打造福建省大數(shù)據(jù)算力平臺(tái)，第一階段已建成125 PFLOPS算力規(guī)模,，并有多家數(shù)字生態(tài)領(lǐng)軍企業(yè)入駐,，有望推動(dòng)生成式AI技術(shù)在醫(yī)療、金融,、制造等各個(gè)產(chǎn)業(yè)中的落地,。

《白皮書》最后指出，隨著新一代AI基礎(chǔ)設(shè)施的邊際成本持續(xù)下降,、邊際效益持續(xù)增長，AI將普惠每一個(gè)人,。

《白皮書》下載鏈接：https://www.sensecore.cn/whitepaper.pdf