對三星而言,AI無疑是一個絕佳的發展風口。
由于人工智能的快速發展,尤其是在ChatGPT等生成式AI應用的推動下,英偉達、AMD、英特爾及其他一些AI芯片廠商正在大規模投入,AI芯片的訂單需求與日俱增。憑借在在晶圓制造和2.5D先進封裝上的優勢,臺積電占據主導地位。然而由于訂單的大量涌入,臺積電一家顯然難以獨占如此豐盛的“AI盛宴”。最近有消息稱,GPU芯片巨頭英偉達正在計劃采用雙源方式來確保供應鏈穩定。這為三星等其他半導體廠商帶來了新的機會。
人工智能的鐘聲已經為三星敲響,AI芯片有三大核心:封裝、代工、HBM(高帶寬內存)。不同于臺積電只有代工和封裝,SK海力士只有存儲的單一戰略,三星則三者兼具。這是三星有別于其他任何一家廠商的獨特優勢。三星手握的這“三板斧”,將會是其在接下來AI競爭中的獨特利器。
2023年5月10日,三星電子董事長李在镕(右)和英偉達首席執行官黃仁勛(左)在美國硅谷的一家日本餐廳會面
第一板斧:HBM3
在AI時代,HBM(高帶寬內存)因其卓越的性能而備受青睞。HBM芯片具備更寬的帶寬,可實現更快速的數據傳輸和更大的存儲容量,因此廣泛應用于AI服務器等領域。AI服務器主要由AWS、谷歌、Meta和微軟等廠商使用,隨著這些公司陸續推出他們的生成式AI產品,導致AI服務器需求急劇上升。
自2022年起,HBM正式進入AI服務器領域,帶動HBM模塊市場以指數級增長,銷量逐漸超過DRAM內存模塊。預計全球HBM需求將在2023年增加60%,可能在2024年再增長30%。
在HBM市場中,主要由SK海力士、三星電子和美光這三家公司瓜分。根據市場研究公司TrendForce的數據,SK海力士控制著HBM市場的大約50%,三星的份額為40%,美光科技僅占剩余市場份額的10%,位居第三。但是在AI GPU中使用的主存儲芯片HBM3目前大多數是由SK海力士提供。去年6月份,SK海力士的HBM3的率先正式量產,這讓SK海力士奪得了先機,供貨給英偉達。目前英偉達GPU中所使用的HBM 90%是由SK海力士供應的。
三星則有點大意了,HBM市場的份額僅占DRAM市場的1.5%,可能也是因為此原因,三星在HBM上沒有給予足夠的重視。不過隨著其HBM3在今年下半年即將迎來大規模生產,三星也迎來了上車AI的發展機會。
后知后覺的三星,猶如猛獸蘇醒,正在加速向AI芯片市場進擊。據三星透露,目前他們已經向主要客戶供應HBM2、HBM2E以及HBM3(16 GB和12 GB),來及時提供滿足AI市場需求。其中,尤為值得一提的是,據悉,三星已經向英偉達提供了16G 的HBM3樣品,該內存產品相比SK海力士,有更快的速度(6.4Gbps)和更低的功耗。
AMD已經在其最新的MI300 Instinct APU中嵌入了三星的這款HBM3,在生成式AI領域,AMD也來勢洶洶,這讓三星的HBM3芯片再添了一個強有力的客戶。
目前三星的HBM產品主要有:
第一代HBM2內存,代號Flarebolt;
三星電子2018年推出的第二代HBM2內存,代號Aquabolt;
三星于2020年推出的第三代HBM2E內存,代號Flashbolt;
Icebolt:這款 HBM3 內存最初在原型階段發布,預計將于今年晚些時候量產。
但這還遠遠不夠,大模型應用AI芯片還需要具有更高性能和容量的HBM產品,三星也正在快馬加鞭的生產其更好級別高帶寬內存 HBM3P,它的傳輸速度將高達7.2 Gbps,內存容量為24G,代號為“Snowbolt”。
三星負責芯片業務的設備解決方案部門總裁兼負責人 Kyung Kye-hyun 在本月早些時候的公司會議上表示:“我們收到了客戶對我們的HBM3產品的積極回應,三星將努力控制一半以上的HBM市場。”三星公司還表示,到2028年,三星的內存芯片將成為人工智能超級計算機的“核心”。
總之,HBM3將成為三星用來攻占更多AI芯片市場的有力武器。業內專業人士分析,預計HBM3銷售將占三星DRAM銷售總額的18%。
第二板斧:先進封裝
對于AI芯片而言,封裝技術也是很關鍵的一環。臺積電能獨家代工英偉達的A100/H100 GPU芯片,主要是因為CoWoS先進封裝技術的加持。隨著摩爾定律逐漸受到物理極限的制約,芯片的性能提升不再僅僅依賴于單一芯片的微縮,而是需要與高級封裝技術相結合。
AI芯片面臨著處理海量數據的挑戰,尤其在深度學習和神經網絡任務中,需要快速有效地處理大規模的計算。通過采用先進封裝技術,例如CoWoS,可以將不同芯片堆疊在一起,縮短芯片間的距離,提高數據傳輸速度,同時減少能量消耗和散熱問題。這種緊密的堆疊結構使得芯片內部的通信更加高效,進而顯著提升了AI芯片的整體性能,據了解,先進封裝技術能將AI芯片的效能提升50%或更高。
說起來,上一次獨攬蘋果手機代工訂單,臺積電就憑借封裝技術(InFO)贏過三星一次。這一次,臺積電又在AI芯片領域中憑借CoWoS先進封裝技術上獨領風騷。然而,臺積電沒有能力處理這些芯片所需的 2.5D 封裝的所有工作量。臺積電先是產能不夠,將訂單外包給日月光和Amkor等,后為了吃下更多的GPU芯片訂單,臺積電不惜斥資900億元在臺灣新建了一個CoWos先進封測廠。臺積電總裁魏哲家表示,人工智能預測在未來五年內以接近50%的年增長率增長,占臺積電1成的營收。足見AI對臺積電的重要性和吸引力。
臺積電在先進封裝業務的暫時性產能不足正好給了三星施展拳腳的機會。先進封裝是此前三星忽略的部分,不過這幾年,三星在先進封裝上的步伐飛快,三星還在去年特意成立了先進封裝團隊(AVP),三星與臺積電在封裝領域的競爭也比較焦灼。
在AI芯片中,三星的砝碼是其I-Cube 2.5D封裝。據三星官網的信息,三星的I-CubeS封裝技術憑借出色的翹曲控制,即使在使用大型中介層的情況下,也能帶來令人印象深刻的帶寬和令人驚嘆的性能。它的信號損失極低,同時內存密度也很高,同時還大大提高了熱效率的控制能力。三星在先進封裝技術上也具有顯著優勢。I-Cube封裝技術使得三星又多了一個可以攻占AI市場的籌碼。
三星的 I-CubeS 2.5D 封裝
三星在6月27日的晶圓代工論壇發下豪語,不僅要提升封裝技術,還要建立相關生態體系,擬與臺積電展開封裝大戰。
為了拿下英偉達的訂單,據報道,三星為英偉達制定了獨特的方案,大意是從臺積電購買晶圓,再從三星內存部門購買HBM3,最后利用公司的I-Cube 2.5D 封裝,同時三星還將為這項工作特意調配大量工程師來負責這一項目。可以說是煞費苦心且誠意十足。消息人士稱,如果通過這筆交易,三星預計將能拿到英偉達約10%的AI GPU封裝量。接下來的關鍵就是三星的HBM3和2.5D封裝的質量能否復合英偉達的標準。
第三板斧:良率大躍進
三星電子在2023年第七屆三星晶圓代工論壇(SFF)上公布了AI時代的代工愿景,三星電子總裁兼代工業務主管 Siyoung Choi 博士表示:“三星代工廠始終通過走在技術創新曲線的前沿來滿足客戶需求,今天,我們相信我們基于環柵 (GAA) 的先進節點技術將有助于支持客戶使用人工智能應用的需求。”“確保客戶的成功是我們代工服務最核心的價值。”
而隨著近日三星的良率和制造水平的提升,也讓三星更加有了更大的底氣。Hi Investment & Securities發表了一份名為《Samsung Foundry》的報告,報告中提到:預計三星電子4納米工藝良率超過75%,而在今年年初的時候三星4納米良率是50%。3納米工藝良率超過60%。作為對比,臺積電的4納米良率約為80%,3納米良率為55%。相比較之下,三星的4納米良率已經近乎達到臺積電的水平,而3納米甚至超過了臺積電。據businesskorea報道,AMD與三星電子的代工部門舉行了會議,討論生產 4 納米工藝芯片。但是臺積電在3納米業務上有蘋果這個大單,臺積電將其3nm晶圓供應量的90%供應都給了蘋果。但三星并未公布出具有豐厚利潤的客戶,此前三星最早的3納米客戶曝光,中國加密貨幣ASIC芯片廠商比特微采用了三星的3nm GAA工藝。
但無論如何,三星的3納米和4納米良率均已超過60%,這意味著,這些制程的生產已經達到穩定水準。接下來就是慢慢的從臺積電手中搶奪市場份額。
三星擁有擊敗臺積電贏得大客戶的“經驗”。2015年,三星先于臺積電成功進入14納米工藝,并獲得了蘋果和高通的大部分訂單。但臺積電在7納米以下的超精細制程上領先,此后,三星就一直被臺積電壓著打。據TrendForce的數據統計,2023年第一季度,晶圓代工市場份額中,臺積電以58.5%再次遙遙領先,三星以15.8%位居第二,三星的提升空間還有很大。
今年5月,三星半導體部門總裁Kyung Kye-hyun在與大學生的一次談話中承認,該公司“落后”臺積電最多兩年。這番言論在韓國媒體上廣泛傳播,對于一家長期以其技術領先地位為榮的公司來說,這是一次罕見的承認。不過他表示:“我們可以在五年內超越臺積電。”
三星要搶占的可不僅僅是生成式AI芯片的市場,而是整個人工智能市場。今年一季度,三星在芯片業務上投資了74億美元,利潤卻驚人的下降了95%,其中一部分就是用于服務人工智能行業的。三星正在擴大其其位于首爾以南約40英里的平澤(Pyeongtaek)芯片制造園區以及德克薩斯州的一家芯片工廠的生產。三星表示,未來20年,它計劃與政府合作,實施一項2300億美元的計劃,在韓國建立一個芯片制造“巨型集群”。
結語
綜上所述,對三星而言,AI無疑是一個絕佳的發展風口。特別是在先進封裝和HBM上,三星有著顯著的優勢。但是,三星也面臨著來自同行的競爭和市場份額的壓力。不論是機遇還是挑戰,都說明了AI芯片市場的巨大潛力。如何抓住這個風口,充分利用自身的優勢,克服前進中的難題,是三星在未來幾年中需要重點考慮和努力的方向。