【環(huán)球網(wǎng)綜合報道】7月14日,華為發(fā)布AI存儲新品,,專門為基礎模型訓練、行業(yè)模型訓練,,細分場景模型訓練推理等場景提供存儲解決方案,。
以AIGC和大模型為代表的新一輪AI熱潮正在席卷全球,。據(jù)科技部新一代人工智能發(fā)展研究中心等機構(gòu)發(fā)布的數(shù)據(jù)顯示,中國10億參數(shù)規(guī)模以上的大模型已發(fā)布79個,。不過,企業(yè)在開發(fā)及實施大模型應用過程中,,面臨四大挑戰(zhàn):
首先,數(shù)據(jù)準備時間長,,數(shù)據(jù)來源分散,歸集慢,,預處理百TB數(shù)據(jù)需10天左右,;其次,多模態(tài)大模型以海量文本,、圖片為訓練集,,當前海量小文件的加載速度不足100MB/s,,訓練集加載效率低,;第三,大模型參數(shù)頻繁調(diào)優(yōu),,訓練平臺不穩(wěn)定,,平均約2天出現(xiàn)一次訓練中斷,,需要Checkpoint機制恢復訓練,故障恢復耗時超過一天,;最后,,大模型實施門檻高,,系統(tǒng)搭建繁雜,資源調(diào)度難,,GPU資源利用率通常不到40%,。
針對這些挑戰(zhàn),華為順應大模型時代AI發(fā)展趨勢,,針對不同行業(yè),、不同場景大模型應用,推出OceanStor A310深度學習數(shù)據(jù)湖存儲與FusionCube A3000訓/推超融合一體機,。
華為數(shù)據(jù)存儲產(chǎn)品線總裁 周躍峰
OceanStor A310深度學習數(shù)據(jù)湖存儲,面向基礎/行業(yè)大模型數(shù)據(jù)湖場景,,實現(xiàn)從數(shù)據(jù)歸集,、預處理到模型訓練、推理應用的AI全流程海量數(shù)據(jù)管理,。OceanStor A310單框5U支持業(yè)界最高的400GB/s帶寬以及1200萬IOPS的最高性能,,可線性擴展至4096節(jié)點,實現(xiàn)多協(xié)議無損互通,。全局文件系統(tǒng)GFS實現(xiàn)跨地域智能數(shù)據(jù)編織,,簡化數(shù)據(jù)歸集流程,;通過近存計算實現(xiàn)近數(shù)據(jù)預處理,,減少數(shù)據(jù)搬移,預處理效率提升30 %,。
FusionCube A3000訓/推超融合一體機,,面向行業(yè)大模型訓練/推理場景,針對百億級模型應用,,集成OceanStor A300高性能存儲節(jié)點,、訓/推節(jié)點、交換設備,、AI平臺軟件與管理運維軟件,,為大模型伙伴提供拎包入住式的部署體驗,實現(xiàn)一站式交付,。開箱即用,,2小時內(nèi)即可完成部署。訓/推節(jié)點與存儲節(jié)點均可獨立水平擴展,,以匹配不同規(guī)模的模型需求,。同時FusionCube A3000通過高性能容器實現(xiàn)多個模型訓練推理任務共享GPU,將資源利用率從40%提升到70%以上,。FusionCube A3000支持兩種靈活的商業(yè)模式,,包括華為昇騰一站式方案,,以及開放計算、網(wǎng)絡,、AI平臺軟件的第三方伙伴一站式方案,。
華為數(shù)據(jù)存儲產(chǎn)品線總裁周躍峰表示:“大模型時代,數(shù)據(jù)決定AI智能的高度,。作為數(shù)據(jù)的載體,,數(shù)據(jù)存儲成為AI大模型的關鍵基礎設施。華為數(shù)據(jù)存儲未來將持續(xù)創(chuàng)新,,面向AI大模型時代提供多樣化的方案與產(chǎn)品,,攜手伙伴共同推進AI賦能千行百業(yè)?!?/p>
來源:環(huán)球網(wǎng)
免責聲明:本文來自網(wǎng)絡收錄或投稿,觀點僅代表作者本人,,不代表芒果財經(jīng)贊同其觀點或證實其描述,,版權(quán)歸原作者所有。轉(zhuǎn)載請注明出處:http://lequren.com/1058915.html
溫馨提示:投資有風險,,入市須謹慎,。本資訊不作為投資理財建議。