AIGC帶飛的不僅是英偉達(dá),。內(nèi)存等AI芯片的關(guān)鍵部件,,以及晶圓代工、電子制造,、先進(jìn)封裝等半導(dǎo)體產(chǎn)業(yè)鏈的多個(gè)環(huán)節(jié),也將受惠于AI芯片需求井噴所帶來(lái)的市場(chǎng)增量,,有的甚至在下半年就能看到“立竿見(jiàn)影”的效果,。與此同時(shí),AI芯片性能的迅速提升,,也對(duì)內(nèi)存,、制造和封裝環(huán)節(jié)提出了更高的要求。
AI拉動(dòng)內(nèi)存帶寬需求,,利好存儲(chǔ)芯片
算力并不是AI芯片唯一的性能指標(biāo),,內(nèi)存同樣對(duì)AI芯片的整體效能起到?jīng)Q定性作用。
SK海力士在第一季度財(cái)報(bào)中指出,,大型語(yǔ)言模型和AIGC的開(kāi)發(fā)和商用化,,將帶動(dòng)HBM(高帶寬內(nèi)存)在2023年的需求上揚(yáng)。三星也在第一季度財(cái)報(bào)指出,,將為AI 帶動(dòng)的 DDR5 和高密度內(nèi)存模塊需求做好產(chǎn)能準(zhǔn)備,。
AI芯片一般要實(shí)現(xiàn)兩大功能,AI訓(xùn)練和AI推理,。其中,,AI訓(xùn)練需要大量計(jì)算和存儲(chǔ)資源,離不開(kāi)高性能存儲(chǔ)的支持,。而AI推理的場(chǎng)景更加細(xì)分,,對(duì)存儲(chǔ)的成本,、功耗、部署方式等,,提出了多樣化的需求,。

英偉達(dá)A100搭載了6個(gè)HBM2E內(nèi)存堆棧
在大模型的訓(xùn)練過(guò)程中,,內(nèi)存帶寬直接影響了GPU的數(shù)據(jù)傳輸速度,。一位業(yè)內(nèi)人士告訴《中國(guó)電子報(bào)》記者:“計(jì)算和存儲(chǔ)是同步進(jìn)行的,在計(jì)算數(shù)據(jù)量增加的同時(shí),,如果存儲(chǔ)的帶寬不能匹配其數(shù)據(jù)量,,就會(huì)造成延遲,勢(shì)必會(huì)影響性能,?!?/p>
英偉達(dá)NVLink(高速 GPU 互連技術(shù))帶寬迭代

當(dāng)前,,新一代HBM3的帶寬最高可達(dá)819 GB/s,,在輔助GPU進(jìn)行運(yùn)算時(shí)有明顯優(yōu)勢(shì)。有市場(chǎng)人士透露,,英偉達(dá)已經(jīng)將SK海力士的HBM3應(yīng)用于H100,,這也使HBM3在DRAM整體表現(xiàn)不佳的情況下實(shí)現(xiàn)逆勢(shì)增長(zhǎng)。有消息稱,,2023年后,,三星與SK海力士?jī)杉掖鎯?chǔ)大廠的HBM訂單增長(zhǎng)迅速。HBM3的原價(jià)為30美元每GB,,如今上漲5倍之多,。
而AI推理的帶寬需求,,往往低于500Gb/s,。在此類場(chǎng)景中,帶寬高于 LPDDR5,,低于HBM2E的GDDR6,,是更加經(jīng)濟(jì)的選擇 。Rambus IP 核產(chǎn)品營(yíng)銷高級(jí)總監(jiān)Frank Ferro表示,,如果將HBM3作為AI推理的存儲(chǔ)設(shè)備,,基本上會(huì)把帶寬需求翻倍,超過(guò)了 AI 推理本身的帶寬需求,,還會(huì)使成本增加 3~4 倍,。相比之下,GDDR6 是更加經(jīng)濟(jì)高效的選擇,。
“在摩爾定律可能失效的今天,,僅談算力可能并不適用,,未來(lái)的競(jìng)爭(zhēng)重心可能會(huì)向內(nèi)存帶寬轉(zhuǎn)移?!痹摌I(yè)內(nèi)人士說(shuō),。
如果說(shuō)芯片設(shè)計(jì)廠商吃到的是AI芯片的第一茬紅利,,代工廠商就是第二茬紅利的收割者,。
有消息稱,為應(yīng)對(duì)市場(chǎng)對(duì)于高性能GPU的龐大需求,,英偉達(dá)已向臺(tái)積電追加了1萬(wàn)片晶圓的訂單,。業(yè)界預(yù)計(jì),英偉達(dá)追單將帶動(dòng)臺(tái)積電7nm及5nm業(yè)績(jī)回升,,并體現(xiàn)在臺(tái)積電第三季度的營(yíng)收中,。
目前來(lái)看,僅臺(tái)積電一家代工廠的產(chǎn)能,,難以應(yīng)對(duì)AIGC和大模型帶來(lái)的算力井噴,。服務(wù)器制造商需要等待超過(guò)6個(gè)月才能拿到英偉達(dá)最新的GPU。在這種形勢(shì)下,,英偉達(dá)也對(duì)尋找更多代工廠商保持開(kāi)放態(tài)度,。在今年5月Computex 2023期間,英偉達(dá)CEO黃仁勛表示,,公司將尋求供應(yīng)鏈多元化,,對(duì)未來(lái)與英特爾合作開(kāi)發(fā)人工智能芯片持開(kāi)放態(tài)度,并透露英偉達(dá)已經(jīng)收到了基于英特爾下一代工藝節(jié)點(diǎn)制造的測(cè)試芯片,,測(cè)試結(jié)果良好,。

雖然英特爾在2023年第一財(cái)季承受著下行壓力,,但制程開(kāi)發(fā)依然按照IDM 2.0計(jì)劃的“4年內(nèi)實(shí)現(xiàn)5個(gè)制程節(jié)點(diǎn)”推進(jìn),。基于Intel 4 的 Meteor Lake預(yù)計(jì)下半年推出,,Intel 3,、Intel 20A、Intel18A也在按計(jì)劃穩(wěn)步推進(jìn),。如果英特爾與英偉達(dá)實(shí)現(xiàn)代工合作,,不僅能夠提升代工業(yè)務(wù)收益,也將提振市場(chǎng)對(duì)于英特爾代工業(yè)務(wù)的信心,。
三星也對(duì)AI帶來(lái)的算力需求保持樂(lè)觀,,預(yù)計(jì)代工市場(chǎng)將在高性能計(jì)算和汽車行業(yè)的拉動(dòng)下復(fù)蘇,帶動(dòng)代工盈利反彈,。三星表示,,將基于第二代3nm工藝拓展客戶訂單,,并通過(guò)2nm技術(shù)的研發(fā)加強(qiáng)技術(shù)領(lǐng)先地位。
同樣受惠的還有EMS(電子制造服務(wù))廠商,。據(jù)相關(guān)供應(yīng)鏈消息,,鴻海科技集團(tuán)將負(fù)責(zé)今年下半年近九成的英偉達(dá)H100的系統(tǒng)代工(電子代工),。H100需求旺盛,,毛利率高,有望為鴻海集團(tuán)帶來(lái)可觀的業(yè)績(jī)回報(bào),。而緯創(chuàng)將主要負(fù)責(zé)A100的系統(tǒng)代工,。
先進(jìn)封裝產(chǎn)能需求提升,外溢效益顯現(xiàn)
隨著AI算力對(duì)于GPU的性能需求日益增長(zhǎng),,芯片上的晶體管數(shù)量也呈現(xiàn)倍數(shù)級(jí)增長(zhǎng),。
在AMD于6月14日凌晨發(fā)布的Instinct MI 300X芯片上,晶體管數(shù)量已經(jīng)達(dá)到1530億,。一般來(lái)說(shuō),,晶體管越多,芯片面積越大,,良率的提升也越困難,。由于摩爾定律放緩,依靠制程提升控制芯片面積的難度和成本越來(lái)越高,,先進(jìn)封裝或?qū)⒊蔀锳I芯片破題的關(guān)鍵,。
臺(tái)積電主導(dǎo)的CoWoS封裝是先進(jìn)封裝領(lǐng)域最早的AI受益者。CoWoS采用的整合型封裝方式,,能夠?qū)崿F(xiàn)更小的封裝體積,、更少的引腳和更低的功耗,獲得了高性能處理器廠商的青睞,。在4月20日舉辦的第一季度財(cái)報(bào)電話會(huì)上,,臺(tái)積電總裁魏哲家表示,近期剛剛接到了客戶要求大幅增加后道封裝產(chǎn)能的電話,,尤其是CoWoS產(chǎn)能,。
大河流水小河滿,。市場(chǎng)近期傳出,,由于英偉達(dá)等高性能計(jì)算用戶的訂單簇?fù)矶粒_(tái)積電的先進(jìn)封裝CoWoS產(chǎn)能吃緊,,選擇將部分封裝需求委托給日月光承接,。矽品與 Amkor 也獲得了 CoWoS 的外溢訂單。
Chiplet同樣有望受益于AI芯片浪潮,。長(zhǎng)電科技表示,,面向AI時(shí)代高算力,、高性能芯片的需求增長(zhǎng),2.5D/3D Chiplet封裝,、高密度SiP等高性能封裝技術(shù)將成為推動(dòng)芯片性能提升的重要引擎,。其中,Chiplet能夠搭建算力密度更高且成本更優(yōu)的密集計(jì)算集群,,顯著提升高性能計(jì)算應(yīng)用的性價(jià)比,。矽品研發(fā)中心副總經(jīng)理王愉博也表示,最新一代Chiplet依照不同的功能做區(qū)隔,,或利用封裝體的形態(tài)把兩個(gè)相同的芯片相互串聯(lián),,可避免芯片因尺寸太大導(dǎo)致良率損失。
AI對(duì)內(nèi)存的需求,,同樣需要封裝技術(shù)的支撐,。三星表示,,已經(jīng)完成 8X HBM3 2.5D 封裝技術(shù)(一種高密度內(nèi)存集成技術(shù))的開(kāi)發(fā),,以滿足未來(lái)的AIGC產(chǎn)品需求,。

免責(zé)聲明:本文來(lái)自網(wǎng)絡(luò)收錄或投稿,,觀點(diǎn)僅代表作者本人,不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,,版權(quán)歸原作者所有。轉(zhuǎn)載請(qǐng)注明出處:http://lequren.com/1048216.html
溫馨提示:投資有風(fēng)險(xiǎn),,入市須謹(jǐn)慎。本資訊不作為投資理財(cái)建議,。