【環(huán)球網(wǎng)綜合報(bào)道】7月14日,,華為發(fā)布AI存儲(chǔ)新品,,專門為基礎(chǔ)模型訓(xùn)練、行業(yè)模型訓(xùn)練,,細(xì)分場景模型訓(xùn)練推理等場景提供存儲(chǔ)解決方案,。
以AIGC和大模型為代表的新一輪AI熱潮正在席卷全球。據(jù)科技部新一代人工智能發(fā)展研究中心等機(jī)構(gòu)發(fā)布的數(shù)據(jù)顯示,,中國10億參數(shù)規(guī)模以上的大模型已發(fā)布79個(gè),。不過,企業(yè)在開發(fā)及實(shí)施大模型應(yīng)用過程中,,面臨四大挑戰(zhàn):
首先,,數(shù)據(jù)準(zhǔn)備時(shí)間長,,數(shù)據(jù)來源分散,,歸集慢,預(yù)處理百TB數(shù)據(jù)需10天左右,;其次,,多模態(tài)大模型以海量文本、圖片為訓(xùn)練集,,當(dāng)前海量小文件的加載速度不足100MB/s,,訓(xùn)練集加載效率低;第三,,大模型參數(shù)頻繁調(diào)優(yōu),,訓(xùn)練平臺(tái)不穩(wěn)定,,平均約2天出現(xiàn)一次訓(xùn)練中斷,需要Checkpoint機(jī)制恢復(fù)訓(xùn)練,,故障恢復(fù)耗時(shí)超過一天,;最后,大模型實(shí)施門檻高,,系統(tǒng)搭建繁雜,,資源調(diào)度難,GPU資源利用率通常不到40%,。
針對這些挑戰(zhàn),,華為順應(yīng)大模型時(shí)代AI發(fā)展趨勢,針對不同行業(yè),、不同場景大模型應(yīng)用,,推出OceanStor A310深度學(xué)習(xí)數(shù)據(jù)湖存儲(chǔ)與FusionCube A3000訓(xùn)/推超融合一體機(jī)。
華為數(shù)據(jù)存儲(chǔ)產(chǎn)品線總裁 周躍峰
OceanStor A310深度學(xué)習(xí)數(shù)據(jù)湖存儲(chǔ),,面向基礎(chǔ)/行業(yè)大模型數(shù)據(jù)湖場景,實(shí)現(xiàn)從數(shù)據(jù)歸集,、預(yù)處理到模型訓(xùn)練,、推理應(yīng)用的AI全流程海量數(shù)據(jù)管理。OceanStor A310單框5U支持業(yè)界最高的400GB/s帶寬以及1200萬IOPS的最高性能,,可線性擴(kuò)展至4096節(jié)點(diǎn),,實(shí)現(xiàn)多協(xié)議無損互通。全局文件系統(tǒng)GFS實(shí)現(xiàn)跨地域智能數(shù)據(jù)編織,,簡化數(shù)據(jù)歸集流程,;通過近存計(jì)算實(shí)現(xiàn)近數(shù)據(jù)預(yù)處理,減少數(shù)據(jù)搬移,,預(yù)處理效率提升30 %,。
FusionCube A3000訓(xùn)/推超融合一體機(jī),面向行業(yè)大模型訓(xùn)練/推理場景,,針對百億級(jí)模型應(yīng)用,,集成OceanStor A300高性能存儲(chǔ)節(jié)點(diǎn)、訓(xùn)/推節(jié)點(diǎn),、交換設(shè)備,、AI平臺(tái)軟件與管理運(yùn)維軟件,為大模型伙伴提供拎包入住式的部署體驗(yàn),,實(shí)現(xiàn)一站式交付,。開箱即用,2小時(shí)內(nèi)即可完成部署。訓(xùn)/推節(jié)點(diǎn)與存儲(chǔ)節(jié)點(diǎn)均可獨(dú)立水平擴(kuò)展,,以匹配不同規(guī)模的模型需求,。同時(shí)FusionCube A3000通過高性能容器實(shí)現(xiàn)多個(gè)模型訓(xùn)練推理任務(wù)共享GPU,將資源利用率從40%提升到70%以上,。FusionCube A3000支持兩種靈活的商業(yè)模式,,包括華為昇騰一站式方案,以及開放計(jì)算,、網(wǎng)絡(luò),、AI平臺(tái)軟件的第三方伙伴一站式方案。
華為數(shù)據(jù)存儲(chǔ)產(chǎn)品線總裁周躍峰表示:“大模型時(shí)代,,數(shù)據(jù)決定AI智能的高度,。作為數(shù)據(jù)的載體,數(shù)據(jù)存儲(chǔ)成為AI大模型的關(guān)鍵基礎(chǔ)設(shè)施,。華為數(shù)據(jù)存儲(chǔ)未來將持續(xù)創(chuàng)新,,面向AI大模型時(shí)代提供多樣化的方案與產(chǎn)品,攜手伙伴共同推進(jìn)AI賦能千行百業(yè),?!?/p>
來源:環(huán)球網(wǎng)
免責(zé)聲明:本文來自網(wǎng)絡(luò)收錄或投稿,,觀點(diǎn)僅代表作者本人,,不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,版權(quán)歸原作者所有,。轉(zhuǎn)載請注明出處:http://lequren.com/1058915.html
溫馨提示:投資有風(fēng)險(xiǎn),,入市須謹(jǐn)慎。本資訊不作為投資理財(cái)建議,。