下半年,這些半導體領域率先吃到AI紅利
AIGC帶飛的不僅是英偉達。內存等AI芯片的關鍵部件,以及晶圓代工、電子制造、先進封裝等半導體產業鏈的多個環節,也將受惠于AI芯片需求井噴所帶來的市場增量,有的甚至在下半年就能看到“立竿見影”的效果。與此同時,AI芯片性能的迅速提升,也對內存、制造和封裝環節提出了更高的要求。
AI拉動內存帶寬需求,利好存儲芯片
算力并不是AI芯片唯一的性能指標,內存同樣對AI芯片的整體效能起到決定性作用。
SK海力士在第一季度財報中指出,大型語言模型和AIGC的開發和商用化,將帶動HBM(高帶寬內存)在2023年的需求上揚。三星也在第一季度財報指出,將為AI 帶動的 DDR5 和高密度內存模塊需求做好產能準備。
AI芯片一般要實現兩大功能,AI訓練和AI推理。其中,AI訓練需要大量計算和存儲資源,離不開高性能存儲的支持。而AI推理的場景更加細分,對存儲的成本、功耗、部署方式等,提出了多樣化的需求。
英偉達A100搭載了6個HBM2E內存堆棧
在大模型的訓練過程中,內存帶寬直接影響了GPU的數據傳輸速度。一位業內人士告訴《中國電子報》記者:“計算和存儲是同步進行的,在計算數據量增加的同時,如果存儲的帶寬不能匹配其數據量,就會造成延遲,勢必會影響性能。”
英偉達NVLink(高速 GPU 互連技術)帶寬迭代
來源:英偉達
當前,新一代HBM3的帶寬最高可達819 GB/s,在輔助GPU進行運算時有明顯優勢。有市場人士透露,英偉達已經將SK海力士的HBM3應用于H100,這也使HBM3在DRAM整體表現不佳的情況下實現逆勢增長。有消息稱,2023年后,三星與SK海力士兩家存儲大廠的HBM訂單增長迅速。HBM3的原價為30美元每GB,如今上漲5倍之多。
而AI推理的帶寬需求,往往低于500Gb/s。在此類場景中,帶寬高于 LPDDR5,低于HBM2E的GDDR6,是更加經濟的選擇 。Rambus IP 核產品營銷高級總監Frank Ferro表示,如果將HBM3作為AI推理的存儲設備,基本上會把帶寬需求翻倍,超過了 AI 推理本身的帶寬需求,還會使成本增加 3~4 倍。相比之下,GDDR6 是更加經濟高效的選擇。
“在摩爾定律可能失效的今天,僅談算力可能并不適用,未來的競爭重心可能會向內存帶寬轉移。”該業內人士說。
代工廠和EMS獲得急單,收割第二茬紅利
如果說芯片設計廠商吃到的是AI芯片的第一茬紅利,代工廠商就是第二茬紅利的收割者。
有消息稱,為應對市場對于高性能GPU的龐大需求,英偉達已向臺積電追加了1萬片晶圓的訂單。業界預計,英偉達追單將帶動臺積電7nm及5nm業績回升,并體現在臺積電第三季度的營收中。
目前來看,僅臺積電一家代工廠的產能,難以應對AIGC和大模型帶來的算力井噴。服務器制造商需要等待超過6個月才能拿到英偉達最新的GPU。在這種形勢下,英偉達也對尋找更多代工廠商保持開放態度。在今年5月Computex 2023期間,英偉達CEO黃仁勛表示,公司將尋求供應鏈多元化,對未來與英特爾合作開發人工智能芯片持開放態度,并透露英偉達已經收到了基于英特爾下一代工藝節點制造的測試芯片,測試結果良好。
英特爾制程工藝路線圖
來源:英特爾
雖然英特爾在2023年第一財季承受著下行壓力,但制程開發依然按照IDM 2.0計劃的“4年內實現5個制程節點”推進。基于Intel 4 的 Meteor Lake預計下半年推出,Intel 3、Intel 20A、Intel18A也在按計劃穩步推進。如果英特爾與英偉達實現代工合作,不僅能夠提升代工業務收益,也將提振市場對于英特爾代工業務的信心。
三星也對AI帶來的算力需求保持樂觀,預計代工市場將在高性能計算和汽車行業的拉動下復蘇,帶動代工盈利反彈。三星表示,將基于第二代3nm工藝拓展客戶訂單,并通過2nm技術的研發加強技術領先地位。
同樣受惠的還有EMS(電子制造服務)廠商。據相關供應鏈消息,鴻海科技集團將負責今年下半年近九成的英偉達H100的系統代工(電子代工)。H100需求旺盛,毛利率高,有望為鴻海集團帶來可觀的業績回報。而緯創將主要負責A100的系統代工。
先進封裝產能需求提升,外溢效益顯現
隨著AI算力對于GPU的性能需求日益增長,芯片上的晶體管數量也呈現倍數級增長。
在AMD于6月14日凌晨發布的Instinct MI 300X芯片上,晶體管數量已經達到1530億。一般來說,晶體管越多,芯片面積越大,良率的提升也越困難。由于摩爾定律放緩,依靠制程提升控制芯片面積的難度和成本越來越高,先進封裝或將成為AI芯片破題的關鍵。
臺積電主導的CoWoS封裝是先進封裝領域最早的AI受益者。CoWoS采用的整合型封裝方式,能夠實現更小的封裝體積、更少的引腳和更低的功耗,獲得了高性能處理器廠商的青睞。在4月20日舉辦的第一季度財報電話會上,臺積電總裁魏哲家表示,近期剛剛接到了客戶要求大幅增加后道封裝產能的電話,尤其是CoWoS產能。
大河流水小河滿。市場近期傳出,由于英偉達等高性能計算用戶的訂單簇擁而至,臺積電的先進封裝CoWoS產能吃緊,選擇將部分封裝需求委托給日月光承接。矽品與 Amkor 也獲得了 CoWoS 的外溢訂單。
Chiplet同樣有望受益于AI芯片浪潮。長電科技表示,面向AI時代高算力、高性能芯片的需求增長,2.5D/3D Chiplet封裝、高密度SiP等高性能封裝技術將成為推動芯片性能提升的重要引擎。其中,Chiplet能夠搭建算力密度更高且成本更優的密集計算集群,顯著提升高性能計算應用的性價比。矽品研發中心副總經理王愉博也表示,最新一代Chiplet依照不同的功能做區隔,或利用封裝體的形態把兩個相同的芯片相互串聯,可避免芯片因尺寸太大導致良率損失。
AI對內存的需求,同樣需要封裝技術的支撐。三星表示,已經完成 8X HBM3 2.5D 封裝技術(一種高密度內存集成技術)的開發,以滿足未來的AIGC產品需求。
