來(lái)源:中關(guān)村在線
近日,,VMware宣布與英特爾合作,,通過(guò)拓展雙方二十多年的創(chuàng)新成果,幫助客戶加速人工智能(AI)應(yīng)用,并在數(shù)據(jù)中心,、公有云和邊緣環(huán)境等所有地點(diǎn)部署Private AI。VMware和英特爾正致力于提供一個(gè)經(jīng)過(guò)聯(lián)合驗(yàn)證的AI堆棧,支持客戶使用現(xiàn)有的通用VMware和英特爾基礎(chǔ)架構(gòu)以及開(kāi)源軟件簡(jiǎn)化AI模型的構(gòu)建和部署。VMware Cloud Foundation通過(guò)與英特爾的AI套件,、內(nèi)置AI加速器的英特爾至強(qiáng)處理器以及英特爾Max系列GPU組合,將為數(shù)據(jù)準(zhǔn)備,、模型訓(xùn)練,、微調(diào)和推理提供經(jīng)過(guò)驗(yàn)證和基準(zhǔn)測(cè)試的AI堆棧,加速科學(xué)發(fā)現(xiàn)并豐富企業(yè)和消費(fèi)者服務(wù),。
VMware Private AI with Intel憑借出色的隱私保護(hù),、安全性、性能,、規(guī)模和總體擁有成本,,帶來(lái)人工智能的革命性力量
全球已有30多萬(wàn)家客戶部署了VMware Cloud,,VMware虛擬化軟件已被部署到企業(yè)中幾乎所有創(chuàng)建、處理或消費(fèi)數(shù)據(jù)的地點(diǎn),。這使得VMware Cloud成為了一種可將AI加速計(jì)算和模型帶到任何業(yè)務(wù)地點(diǎn)的快速手段,。同樣,英特爾也為成千上萬(wàn)的客戶提供了開(kāi)放,、可擴(kuò)展且值得信賴(lài)的解決方案。在企業(yè)中隨處可見(jiàn)的VMware和英特爾產(chǎn)品將強(qiáng)強(qiáng)聯(lián)手,,共同提高數(shù)據(jù)科學(xué)的可訪問(wèn)性,,支持全球企業(yè)機(jī)構(gòu)采用Private AI,一種平衡AI帶來(lái)的業(yè)務(wù)收益與實(shí)際隱私和合規(guī)需求的架構(gòu)方法,。
VMware AI Labs副總裁Chris Wolf表示:“關(guān)于AI,,我們已經(jīng)無(wú)需在選擇、隱私和控制方面爭(zhēng)論權(quán)衡問(wèn)題。Private AI能夠同時(shí)為客戶提供這三方面的能力,,支持他們?cè)诩涌霢I部署的同時(shí),,構(gòu)建具有前瞻性的AI基礎(chǔ)架構(gòu)。VMware Private AI with Intel將幫助我們的共同客戶大幅提高工作者的生產(chǎn)力,,加速主要業(yè)務(wù)功能轉(zhuǎn)型,,同時(shí)提升經(jīng)濟(jì)影響力?!?/p>
英特爾執(zhí)行副總裁兼數(shù)據(jù)中心與人工智能事業(yè)部(DCAI)總經(jīng)理Sandra Rivera表示:“幾十年來(lái),,英特爾和VMware一直在提供從數(shù)據(jù)中心到云的新一代功能,支持客戶提升行動(dòng)速度,、創(chuàng)新力和運(yùn)營(yíng)效率,。AI可以帶來(lái)更多強(qiáng)大的可能性,改善全人類(lèi)的生活,,英特爾和VMware完全有能力帶領(lǐng)企業(yè)進(jìn)入這個(gè)由芯片和軟件驅(qū)動(dòng)的AI新時(shí)代,。”
提升AI性能,,并以更低的總體擁有成本獲得更安全的AI基礎(chǔ)架構(gòu)
無(wú)論是在公有云,、企業(yè)數(shù)據(jù)中心還是在邊緣,VMware Private AI都能將算力和AI模型帶到創(chuàng)建,、處理和消費(fèi)企業(yè)數(shù)據(jù)的地點(diǎn),,從而為傳統(tǒng)AI/ML工作負(fù)載和生成式AI提供支持。VMware和英特爾可在數(shù)分鐘至數(shù)小時(shí)內(nèi)對(duì)特定任務(wù)模型進(jìn)行微調(diào),,并使用客戶的私有企業(yè)數(shù)據(jù)實(shí)現(xiàn)比人類(lèi)交流速度更快的大型語(yǔ)言模型推理?,F(xiàn)在,VMware和英特爾可以對(duì)更小,、更經(jīng)濟(jì)的先進(jìn)模型進(jìn)行微調(diào),,這些模型更易于在共享虛擬系統(tǒng)上進(jìn)行更新和維護(hù)。當(dāng)批量AI工作完成后,,這些模型又可以被送回IT資源池?,F(xiàn)在,AI輔助代碼生成,、體驗(yàn)式客戶服務(wù)中心推薦系統(tǒng)和經(jīng)典機(jī)器統(tǒng)計(jì)分析等用例可以在運(yùn)行應(yīng)用的相同通用服務(wù)器上共存,。
VMware和英特爾正在設(shè)計(jì)一種參考架構(gòu),以便將英特爾的AI軟件套件,、英特爾至強(qiáng)處理器和數(shù)據(jù)中心GPU與VMware Cloud Foundation相結(jié)合,,支持客戶在其基礎(chǔ)架構(gòu)上構(gòu)建和部署Private AI模型,從而降低總體擁有成本,,解決環(huán)境可持續(xù)發(fā)展問(wèn)題,。采用英特爾AI的VMware Private AI參考架構(gòu)將包括:
· 配備Intel Advanced Matrix Extensions(Intel AMX)的第4代英特爾至強(qiáng)處理器,,使用標(biāo)準(zhǔn)行業(yè)框架和庫(kù)、端到端數(shù)據(jù)科學(xué)生產(chǎn)力工具以及經(jīng)過(guò)優(yōu)化的AI模型,,提供高達(dá)10倍的開(kāi)箱即用性能,。
· Intel Data Center GPU Max包含多達(dá)128個(gè)Xe核,是英特爾針對(duì)要求最苛刻的AI工作負(fù)載推出的基礎(chǔ)GPU計(jì)算構(gòu)件,。英特爾Max系列GPU將提供多種外形尺寸,,以滿足不同客戶的需求。
· 英特爾的AI軟件套件包含端到端開(kāi)源軟件和可選許可組件,,支持開(kāi)發(fā)人員運(yùn)行從數(shù)據(jù)準(zhǔn)備,、微調(diào)到推理的完整AI管線流程、加快構(gòu)建多節(jié)點(diǎn)擴(kuò)展,,并在企業(yè)IT基礎(chǔ)架構(gòu)上部署AI,。開(kāi)放式oneAPI框架可實(shí)現(xiàn)與處理器和硬件加速器無(wú)關(guān)的軟件開(kāi)發(fā),支持開(kāi)發(fā)人員只需編寫(xiě)一次代碼,,即可在不同的架構(gòu)上運(yùn)行,,無(wú)需使用多個(gè)代碼庫(kù)和專(zhuān)用語(yǔ)言。英特爾的Transformer Extensions和PyTorch Extension與開(kāi)發(fā)人員最喜愛(ài)的開(kāi)源Hugging Face庫(kù)深度集成,,為微調(diào)和壓縮模型提供經(jīng)過(guò)自動(dòng)優(yōu)化的配方,,從而實(shí)現(xiàn)高效推理。
VMware Cloud Foundation通過(guò)以下功能,,為VMware Private AI帶來(lái)一致的企業(yè)級(jí)基礎(chǔ)架構(gòu),,操作簡(jiǎn)便,同時(shí)增強(qiáng)安全性,。
· VMware vSAN Express Storage Architecture可為I/O密集型AI/ML調(diào)整和推理工作負(fù)載的加密等重要功能提供高達(dá)30%的性能提升和最小的開(kāi)銷(xiāo),。
· vSphere Distributed Resources Scheduler幫助有效利用空閑算力進(jìn)行AI模型訓(xùn)練和推理,充分利用其他AI應(yīng)用所使用的集群,,最大程度地提高容量,,并降低總體擁有成本。
· VMware NSX用于構(gòu)建微分段和高級(jí)威脅防護(hù)功能,。
· 安全啟動(dòng)和虛擬TPM可確保模型和數(shù)據(jù)的保密性,。
VMware Private AI將由戴爾科技、惠與和聯(lián)想的服務(wù)器提供支持,,這些服務(wù)器運(yùn)行帶有英特爾高級(jí)矩陣擴(kuò)展(英特爾AMX)的第四代至強(qiáng)CPU以及英特爾Max系列GPU,。
(8411475)
免責(zé)聲明:本文來(lái)自網(wǎng)絡(luò)收錄或投稿,觀點(diǎn)僅代表作者本人,,不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,,版權(quán)歸原作者所有。轉(zhuǎn)載請(qǐng)注明出處:http://lequren.com/1078690.html
溫馨提示:投資有風(fēng)險(xiǎn),,入市須謹(jǐn)慎。本資訊不作為投資理財(cái)建議。