A欧美国产国产综合视频_最近日本中文字幕免费完整_国产乱伦一级片_久久99国产综合精品婷婷_韩国理论片在线中文字幕一区二区_亚洲AV成人影片在线观看_亚洲av无码电影网_优物视频最新网址_天天艹无码天天射_脱下丝袜的极品销魂大胸美女王馨瑶91精品美女嫩模写真套图,男男被?到喷水18禁视频,欧美久久精品一级黑人c片 ,综合在线视频精品专区

人民網(wǎng)

第五代英特爾至強可擴展處理器,,以更高效的算力助力AI無處不在

人工智能已成為推動經(jīng)濟結構優(yōu)化,、增長動能轉換的一大關鍵動力,,其正在幫助企業(yè)利用先進的語言、文本生成圖像和代碼生成 AI 模型等新模式,,實現(xiàn)降本增效,并創(chuàng)造新商機,。Grand View Research的研究顯示,,至2030 年,全球 AI 市場的年復合增長率將達37%,,此外40% 的高管表示企業(yè)正在投資于生成式 AI,,而69% 的企業(yè)和機構將在生產(chǎn)中采用 AI。
在中國市場,,據(jù)報告顯示,,2023年中國智能算力規(guī)模同比增長超59%,有超六成中國企業(yè)已探索應用AIGC,,且將更多地使用已有的人工智能數(shù)據(jù)中心設施和生成式AI服務器集群,,并將更加關注效率,、可靠性、時延,、訓練時間和成本等因素,。這無疑表明,人工智能的廣泛應用在為算力服務市場帶來新機會的同時,,也對服務商提出了更高,、更多元化的要求,。

應用戶擁抱AI、創(chuàng)造新商機并加速價值實現(xiàn)所需,,英特爾在近日全新推出第五代至強可擴展處理器,。第五代至強專為AI加速而設計,通過增強型架構,、內(nèi)置AI加速技術,,實現(xiàn)了卓越的性能,能夠幫助用戶更高效地應對要求嚴苛的 AI工作負載,,讓智能開發(fā)及應用無處不在,。

第五代英特爾至強可擴展處理器,以更高效的算力助力AI無處不在

架構增強,,讓AI更高效

算力,、數(shù)據(jù)、算法是智能世界三要素,,其中算力平臺是核心基礎,。有專家指出,算力的成本將關系到AI模型的“價格”,。人工智能的突破,,除了技術提升之外,通過提供強勁且高效的算力,,平衡計算成本也是必不可少,。

為了改善工作負載的性能,第五代至強可擴展處理器通過架構增強,,實現(xiàn)了算力的全面優(yōu)化,。較上一代產(chǎn)品,第五代至強在相同 TDP 下平均性能提升高達21%,,內(nèi)存帶寬提升高達 16%,,三級緩存容量提升近 3倍,能夠為AI訓練和推理提供更高的支持,,AI推理性能提升高達 42%,,且更適用于大型模型。

借助第五代英特爾至強可擴展處理器提升的基礎性能以及AI訓練與推理能力,,用戶無疑可繼續(xù)使用 CPU 將 AI 應用到各個領域,從而解決GPU挑戰(zhàn),,幫助廣泛的產(chǎn)業(yè)用戶將AI融入業(yè)務邏輯各環(huán)節(jié),,并應對部署中可能遭遇的硬件可用性、成本,、集成和擴展方面的挑戰(zhàn),,實現(xiàn)在通用的服務器基礎架構上高效運行AI應用,,提升性能成本收益。

內(nèi)置AI加速器,,促進應用落地與優(yōu)化

英特爾至強可擴展處理器內(nèi)置AI加速器,,有助于提高性能和效率,減少另行添置專用硬件的需求,,在云端和本地環(huán)境中,,可支持AI等目前最為常見的嚴苛工作負載,促進應用落地與優(yōu)化,。

第五代英特爾至強可擴展處理器每個內(nèi)核都具備 AI 加速功能,,英特爾 AVX-512及英特爾 AMX 助力用戶無需添加獨立加速器,就可處理要求嚴苛的 AI 工作負載,,幫助用戶在使用生成式 AI ,,例如從大語言模型 (LLM) 和文本到圖像生成模型時,都擁有更順暢的體驗,,且可滿足多種 SLA,、提供實時用戶體驗等要求。其在運行參數(shù)量低于 200 億的大語言模型時,,詞元處理時延不超過 100 毫秒,,非常適合運行 GPT-J 等特定域?qū)S媚P突蚋〉哪P蜁r使用。
另外,,英特爾AMX可大幅提升深度學習訓練和推理性能,,避免了使用獨立加速器帶來的成本和復雜性。借助在自然語言處理 (NLP) 推理方面的性能飛躍,,英特爾AMX能夠更高效支持智能助手,、聊天機器人、預測性文本,、語言翻譯等工作負載,,使得響應速度更快,用戶體驗更順暢,;且在遷移學習和再訓練方面同樣出色,,無需額外添置硬件即讓用戶模型保持最新狀態(tài)。

基于第五代英特爾至強可擴展處理器,,京東云推出新一代服務器,,實現(xiàn)整機性能代際提升23%,AI視覺類通用模型推理性能提升38%,,通用大語言模型LlaMA v2 13B推理性能提升51%,;在11.11大促用戶訪問峰值同比提升170%、智能客服咨詢服務量超14億次的情況下,,以AI賦能產(chǎn)業(yè),,為百姓的實惠生活?!皟r”護航。阿里云采用第五代至強,,打造了“生成式AI模型及數(shù)據(jù)保護”的創(chuàng)新實踐,,使第八代ECS實例在安全性和AI性能上都獲得顯著提升,其推理和數(shù)據(jù)庫性能雙雙提升25%,,同時基于英特爾TDX,,實現(xiàn)數(shù)據(jù)全流程保護。

第五代英特爾至強可擴展處理器,,以更高效的算力助力AI無處不在

出色的軟件工具和生態(tài)系統(tǒng),,助力AI更快普及

為了幫助開發(fā)者、用戶應對算法開發(fā)效率低,、場景之間遷移能力差,,以及難以滿足泛化性、安全性要求等挑戰(zhàn),,滿足AI應用場景多樣化,、開發(fā)和部署逐步走向深水區(qū)、日益多樣化等需求,,英特爾構建起龐大的生態(tài)系統(tǒng),、豐富的工具集,支持用戶可跨云,、數(shù)據(jù)中心和邊緣采用最新第五代至強可擴展處理器,,快速開發(fā)和部署 AI。

英特爾至強可擴展處理器擁有廣受歡迎的軟件庫和框架加持,,具備數(shù)十個經(jīng)過優(yōu)化的預訓練 AI 模型,,提供開箱即用的出色 AI 性能,且讓開發(fā)人員能夠在不同硬件架構和供應商間自由遷移代碼,,從而提高效率和減少投資,。

英特爾oneAPI 深度神經(jīng)網(wǎng)絡庫(英特爾oneDNN)的軟件優(yōu)化已集成到 TensorFlow 和 PyTorch 的主流發(fā)行版中,開發(fā)人員可以更輕松地使用內(nèi)置 AI 加速功能,。

英特爾是開源社區(qū)的重要貢獻者,,有 90% 的開發(fā)人員都在使用由英特爾開發(fā)或優(yōu)化的軟件。特別是在 AI 方面,,英特爾構建的開源 AI 參考套件可幫助加速各個行業(yè)的模型開發(fā)和 AI 創(chuàng)新,。

人工智能正在滲透到社會經(jīng)濟各個領域,刺激和驅(qū)動企業(yè)加速技術創(chuàng)新和業(yè)務重塑,,打造新優(yōu)勢,,但面對降低成本和風險等壓力,部署 AI 時選擇更信賴的 CPU應該是更明智之選。目前,,大多數(shù)據(jù)中心的 AI 推理都在英特爾至強可擴展處理器上運行,英特爾至強處理器的部署規(guī)模已超 1 億,。第五代英特爾至強可擴展處理器的推出,,無疑可幫助企業(yè)充分應用其多項更優(yōu)異的特性,抓住AIGC,、大語言模型等應用新機遇,,加速創(chuàng)新,創(chuàng)造無限可能,。
作者丨沈叢
編輯丨張心怡
美編丨馬利亞
監(jiān)制丨連曉東

第五代英特爾至強可擴展處理器,,以更高效的算力助力AI無處不在

免責聲明:本文來自網(wǎng)絡收錄或投稿,觀點僅代表作者本人,,不代表芒果財經(jīng)贊同其觀點或證實其描述,,版權歸原作者所有。轉載請注明出處:http://lequren.com/1083848.html
溫馨提示:投資有風險,,入市須謹慎,。本資訊不作為投資理財建議。

(0)
中國電子報的頭像中國電子報
上一篇 2023年12月19日 上午1:00
下一篇 2023年12月19日
198搶自鏈數(shù)字人

相關推薦