AIGC帶飛的不僅是英偉達(dá),。內(nèi)存等AI芯片的關(guān)鍵部件，以及晶圓代工,、電子制造,、先進(jìn)封裝等半導(dǎo)體產(chǎn)業(yè)鏈的多個環(huán)節(jié),，也將受惠于AI芯片需求井噴所帶來的市場增量，有的甚至在下半年就能看到“立竿見影”的效果,。與此同時,，AI芯片性能的迅速提升，也對內(nèi)存,、制造和封裝環(huán)節(jié)提出了更高的要求,。
算力并不是AI芯片唯一的性能指標(biāo),，內(nèi)存同樣對AI芯片的整體效能起到?jīng)Q定性作用,。
SK海力士在第一季度財報中指出，大型語言模型和AIGC的開發(fā)和商用化,，將帶動HBM（高帶寬內(nèi)存）在2023年的需求上揚,。三星也在第一季度財報指出，將為AI 帶動的 DDR5 和高密度內(nèi)存模塊需求做好產(chǎn)能準(zhǔn)備,。
AI芯片一般要實現(xiàn)兩大功能,，AI訓(xùn)練和AI推理。其中,，AI訓(xùn)練需要大量計算和存儲資源,，離不開高性能存儲的支持。而AI推理的場景更加細(xì)分,，對存儲的成本,、功耗、部署方式等,，提出了多樣化的需求,。
英偉達(dá)A100搭載了6個HBM2E內(nèi)存堆棧
在大模型的訓(xùn)練過程中,，內(nèi)存帶寬直接影響了GPU的數(shù)據(jù)傳輸速度,。一位業(yè)內(nèi)人士告訴《中國電子報》記者：“計算和存儲是同步進(jìn)行的，在計算數(shù)據(jù)量增加的同時,，如果存儲的帶寬不能匹配其數(shù)據(jù)量,，就會造成延遲，勢必會影響性能,?！?/p>
英偉達(dá)NVLink（高速 GPU 互連技術(shù)）帶寬迭代
當(dāng)前，新一代HBM3的帶寬最高可達(dá)819 GB/s,，在輔助GPU進(jìn)行運算時有明顯優(yōu)勢,。有市場人士透露，英偉達(dá)已經(jīng)將SK海力士的HBM3應(yīng)用于H100,，這也使HBM3在DRAM整體表現(xiàn)不佳的情況下實現(xiàn)逆勢增長,。有消息稱，2023年后,，三星與SK海力士兩家存儲大廠的HBM訂單增長迅速,。HBM3的原價為30美元每GB，如今上漲5倍之多,。
而AI推理的帶寬需求,，往往低于500Gb/s。在此類場景中,，帶寬高于 LPDDR5,，低于HBM2E的GDDR6，是更加經(jīng)濟(jì)的選擇 ,。Rambus IP 核產(chǎn)品營銷高級總監(jiān)Frank Ferro表示,，如果將HBM3作為AI推理的存儲設(shè)備，基本上會把帶寬需求翻倍,，超過了 AI 推理本身的帶寬需求,，還會使成本增加 3~4 倍。相比之下,，GDDR6 是更加經(jīng)濟(jì)高效的選擇,。
“在摩爾定律可能失效的今天,，僅談算力可能并不適用,，未來的競爭重心可能會向內(nèi)存帶寬轉(zhuǎn)移?！痹摌I(yè)內(nèi)人士說,。
如果說芯片設(shè)計廠商吃到的是AI芯片的第一茬紅利,，代工廠商就是第二茬紅利的收割者,。
有消息稱，為應(yīng)對市場對于高性能GPU的龐大需求,，英偉達(dá)已向臺積電追加了1萬片晶圓的訂單,。業(yè)界預(yù)計，英偉達(dá)追單將帶動臺積電7nm及5nm業(yè)績回升,，并體現(xiàn)在臺積電第三季度的營收中,。
目前來看,，僅臺積電一家代工廠的產(chǎn)能，難以應(yīng)對AIGC和大模型帶來的算力井噴,。服務(wù)器制造商需要等待超過6個月才能拿到英偉達(dá)最新的GPU,。在這種形勢下，英偉達(dá)也對尋找更多代工廠商保持開放態(tài)度,。在今年5月Computex 2023期間,，英偉達(dá)CEO黃仁勛表示，公司將尋求供應(yīng)鏈多元化,，對未來與英特爾合作開發(fā)人工智能芯片持開放態(tài)度,，并透露英偉達(dá)已經(jīng)收到了基于英特爾下一代工藝節(jié)點制造的測試芯片，測試結(jié)果良好,。
雖然英特爾在2023年第一財季承受著下行壓力，但制程開發(fā)依然按照IDM 2.0計劃的“4年內(nèi)實現(xiàn)5個制程節(jié)點”推進(jìn),?；贗ntel 4 的 Meteor Lake預(yù)計下半年推出，Intel 3,、Intel 20A,、Intel18A也在按計劃穩(wěn)步推進(jìn)。如果英特爾與英偉達(dá)實現(xiàn)代工合作,，不僅能夠提升代工業(yè)務(wù)收益,，也將提振市場對于英特爾代工業(yè)務(wù)的信心。
三星也對AI帶來的算力需求保持樂觀,，預(yù)計代工市場將在高性能計算和汽車行業(yè)的拉動下復(fù)蘇,，帶動代工盈利反彈。三星表示,，將基于第二代3nm工藝拓展客戶訂單,，并通過2nm技術(shù)的研發(fā)加強(qiáng)技術(shù)領(lǐng)先地位。
同樣受惠的還有EMS（電子制造服務(wù)）廠商,。據(jù)相關(guān)供應(yīng)鏈消息,，鴻海科技集團(tuán)將負(fù)責(zé)今年下半年近九成的英偉達(dá)H100的系統(tǒng)代工（電子代工）,。H100需求旺盛,，毛利率高，有望為鴻海集團(tuán)帶來可觀的業(yè)績回報,。而緯創(chuàng)將主要負(fù)責(zé)A100的系統(tǒng)代工,。
先進(jìn)封裝產(chǎn)能需求提升，外溢效益顯現(xiàn)
隨著AI算力對于GPU的性能需求日益增長，芯片上的晶體管數(shù)量也呈現(xiàn)倍數(shù)級增長,。
在AMD于6月14日凌晨發(fā)布的Instinct MI 300X芯片上,，晶體管數(shù)量已經(jīng)達(dá)到1530億。一般來說,，晶體管越多,，芯片面積越大，良率的提升也越困難,。由于摩爾定律放緩,，依靠制程提升控制芯片面積的難度和成本越來越高，先進(jìn)封裝或?qū)⒊蔀锳I芯片破題的關(guān)鍵,。
臺積電主導(dǎo)的CoWoS封裝是先進(jìn)封裝領(lǐng)域最早的AI受益者,。CoWoS采用的整合型封裝方式，能夠?qū)崿F(xiàn)更小的封裝體積,、更少的引腳和更低的功耗,，獲得了高性能處理器廠商的青睞。在4月20日舉辦的第一季度財報電話會上,，臺積電總裁魏哲家表示,，近期剛剛接到了客戶要求大幅增加后道封裝產(chǎn)能的電話，尤其是CoWoS產(chǎn)能,。
大河流水小河滿,。市場近期傳出，由于英偉達(dá)等高性能計算用戶的訂單簇?fù)矶?，臺積電的先進(jìn)封裝CoWoS產(chǎn)能吃緊,，選擇將部分封裝需求委托給日月光承接。矽品與 Amkor 也獲得了 CoWoS 的外溢訂單,。
Chiplet同樣有望受益于AI芯片浪潮,。長電科技表示，面向AI時代高算力,、高性能芯片的需求增長,，2.5D/3D Chiplet封裝、高密度SiP等高性能封裝技術(shù)將成為推動芯片性能提升的重要引擎,。其中,，Chiplet能夠搭建算力密度更高且成本更優(yōu)的密集計算集群,，顯著提升高性能計算應(yīng)用的性價比,。矽品研發(fā)中心副總經(jīng)理王愉博也表示，最新一代Chiplet依照不同的功能做區(qū)隔,，或利用封裝體的形態(tài)把兩個相同的芯片相互串聯(lián),，可避免芯片因尺寸太大導(dǎo)致良率損失。
AI對內(nèi)存的需求，同樣需要封裝技術(shù)的支撐,。三星表示,，已經(jīng)完成 8X HBM3 2.5D 封裝技術(shù)（一種高密度內(nèi)存集成技術(shù)）的開發(fā)，以滿足未來的AIGC產(chǎn)品需求,。
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿，觀點僅代表作者本人,，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請注明出處：http://lequren.com/1048216.html
溫馨提示：投資有風(fēng)險,，入市須謹(jǐn)慎,。本資訊不作為投資理財建議。
