Een Grote Kans Nadert Samsung... Volledig Inzetten op Geavanceerde Verpakking Elke december komen senior executives van AI-halfgeleidergiganten zoals NVIDIA en Broadcom bijeen op het hoofdkantoor van TSMC in het Hsinchu Science Park, Taiwan. Hun doel is om zelfs maar één extra plek te bemachtigen op de "Geavanceerde Verpakking" productielijnen van TSMC, die GPU's en High Bandwidth Memory (HBM) integreren om AI-versnellers te creëren. De toewijzing van deze lijnen, bekend als "CoWoS" (Chip-on-Wafer-on-Substrate), bepaalt het volume van AI-versnellers dat ze het volgende jaar kunnen produceren. In feite heeft Google naar verluidt het productie doel voor zijn eigen AI-versneller, de Tensor Processing Unit (TPU), met 1 miljoen eenheden verlaagd van het oorspronkelijke doel van 4 miljoen omdat het de strijd om CoWoS-capaciteit aan NVIDIA heeft verloren. "Geavanceerde Verpakking," die hoogpresterende halfgeleiders zoals GPU's en HBM op een speciaal materiaal genaamd een "silicon interposer" monteert om ze naadloos als één chip te laten functioneren, is dit jaar de beslissende strijdtoneel voor suprematie in de AI-halfgeleider markt geworden. Terwijl ultra-fijne processen—het verkleinen van de circuitlijnbreedtes tot het 1-nanometer (nm) bereik om meerdere functies in een kleine chip te proppen—hun technische limieten bereiken, wenden halfgeleiderbedrijven zich tot geavanceerde verpakking om meerdere chips te verbinden en ze als één eenheid te laten functioneren. Bijgevolg wordt verwacht dat de gerelateerde markt zal groeien van $43 miljard (ongeveer 62 triljoen KRW) vorig jaar naar $64,3 miljard (ongeveer 93 triljoen KRW) tegen 2028. Momenteel wordt de geavanceerde verpakkingsmarkt gedomineerd door TSMC. De situatie is zo dat bedrijven geen AI-versnellers op tijd kunnen produceren, zelfs als ze GPU's en HBM hebben veiliggesteld, simpelweg omdat ze niet genoeg van TSMC's CoWoS-lijnen toegewezen hebben gekregen. In reactie op herhaalde verzoeken van NVIDIA, AMD, Broadcom en anderen, heeft TSMC besloten om dit jaar $7,5 miljard (ongeveer 10,85 triljoen KRW) te investeren—het grootste bedrag ooit—om zijn capaciteit voor geavanceerde verpakking aanzienlijk uit te breiden. Samsung Electronics ziet geavanceerde verpakking ook als het volgende belangrijke strijdtoneel na HBM en versterkt zijn gerelateerde bedrijfstak. Er wordt gemeld dat het een "turnkey" oplossing aanbiedt—geavanceerde verpakking in combinatie met DRAM en foundry-diensten—aan bedrijven zoals Google, AMD en Amazon, die niet in staat waren om voldoende CoWoS-lijnen te bemachtigen vanwege de dominantie van NVIDIA. Om de AI-versnellers te produceren—vaak de "pikhouwelen" van de goudkoorts in het AI-tijdperk genoemd—moeten chips twee fasen van geavanceerde verpakking ondergaan (een proces dat meerdere chips als één laat functioneren). De eerste is de fabricage van HBM, waarbij tot 16 DRAM's worden gestapeld. Zodra dit proces, dat veel moeilijker is dan standaard DRAM-productie, is voltooid, wacht er een nog grotere uitdaging: "2.5D Verpakking," die de HBM en GPU verbindt op een speciaal substraat genaamd een silicon interposer om als één chip te functioneren. Hoe goed de GPU en HBM ook zijn, als de geavanceerde verpakking faalt, kan de AI-versneller niet goed functioneren. Het is een proces met hoge moeilijkheidsgraad, waarbij de opbrengst van de industrieleider TSMC slechts 50–60% blijft. Terwijl TSMC niet kan voldoen aan de vloed van bestellingen van NVIDIA en AMD, is 2.5D-verpakking de grootste bottleneck geworden die de uitbreiding van de AI-markt belemmert. ◇ Alternatieven voor de Limieten van Ultra-Fijne Processen Verpakking is grofweg verdeeld in traditionele verpakking en geavanceerde verpakking. Traditionele verpakking verwijst naar het proces van het plaatsen van een enkele chip op een hoofdplaat en deze elektrisch te verbinden. Het maakt deel uit van het "achterkant" proces, dat eerder werd geëvalueerd als een "minder kritieke" technologie in het halfgeleider ecosysteem. Echter, de situatie veranderde toen de vraag naar hoogpresterende chips explodeerde in het AI-tijdperk. Tot het begin van de jaren 2020 gingen halfgeleiderbedrijven "all-in" op "ultra-fijne processen," waarbij de circuitbreedtes tot onder de 2nm werden verkleind om meer functies in kleinere chips te proppen. Maar deze concurrentie sloeg terug. De winstgevendheid daalde door de noodzaak om Extreme Ultraviolet (EUV) lithografie-apparatuur aan te schaffen die tot 500 miljard KRW per eenheid kost. Technische uitdagingen waren ook formidabel; naarmate de lijnbreedtes smaller werden, nam de interferentie toe en groeide de lekstroom, waardoor het moeilijk werd om de warmteontwikkeling te beheersen. De oplossing die werd gevonden was verpakking. In plaats van complexe functies in een enkele chip te proppen via ultra-fijne processen, kon het verbinden van verschillende gematigd geavanceerde chips dezelfde prestaties bereiken. De industrie voegde de modifier "Geavanceerd" toe aan deze technologie omdat de technische moeilijkheid ver boven die van traditionele verpakking ligt. ◇ Ernstig Tekort aan CoWoS Capaciteit De koploper is TSMC. Zijn belangrijkste wapen is een 2.5D geavanceerde verpakkings technologie genaamd "CoWoS-S." Het plaatst een silicon interposer—een speciaal materiaal dat als brug fungeert—bovenop een substraat en rangschikt meerdere chips horizontaal. De silicon interposer bestaat uit Through-Silicon Vias (TSV), verticale doorgangen die de onderkant van het substraat met de bovenste chips verbinden, en een Redistribution Layer (RDL), die signalen tussen chips verbindt. Het wordt 2.5D-verpakking genoemd omdat de interposer en chips verticaal (3D) op het substraat zijn gestapeld, terwijl de chips horizontaal (2D) zijn gerangschikt. Naarmate de vraag naar hoogpresterende chips groeide met het AI-tijdperk, erkenden NVIDIA en AMD de kracht van CoWoS. Zo werden AI-versnellers zoals de B200 en H100, die HBM en GPU's verbinden, geboren. Volgens Samsung Securities is de CoWoS productiecapaciteit van TSMC (omgerekend naar wafers) gestegen van 35.000 vellen per maand in 2024 naar ongeveer 70.000 vellen vorig jaar, en wordt verwacht dat dit dit jaar zal stijgen naar ongeveer 110.000 vellen. Echter, evaluaties suggereren dat dit nog steeds onvoldoende is. Gezien de CoWoS-toewijzing voor NVIDIA door TSMC rond de 55% is, suggereert de berekening dat dit jaar slechts 8,91 miljoen "Blackwell" AI-versnellers kunnen worden geproduceerd. Dit volume kan datacenters ondersteunen met een maximale capaciteit van 18 gigawatt (GW), wat slechts 50% van de wereldwijde investeringscapaciteit van datacenters dit jaar vertegenwoordigt. Samsung Securities analyseerde: "Er is een mogelijkheid dat TSMC dit jaar niet eens aan de vraag van NVIDIA kan voldoen." ◇ Samsung Electronics Streeft naar een Niche Samsung Electronics zoekt naar een kans. Hoewel het binnenlandse bedrijf Rebellions de technische capaciteiten van Samsung tot op zekere hoogte heeft geverifieerd door zijn nieuwste AI-versneller, "Rebel Quad," te ontwikkelen met behulp van Samsung's 2.5D verpakkingsdienst "I-Cube," heeft Samsung nog geen significante wereldwijde klanten veiliggesteld. Echter, nu de "TSMC-bottleneck" geen tekenen van oplossing vertoont, suggereren observaties dat er binnenkort een kans voor Samsung zal komen. Samsung zou naar verluidt een "turnkey service" voorstellen—het bieden van AI-versneller-gerelateerde geheugen, foundry en geavanceerde verpakking allemaal tegelijk—aan bedrijven zoals Broadcom (maker van Google's TPU) en AMD, die niet voldoende CoWoS-volume hebben toegewezen gekregen vanwege NVIDIA. SK Hynix let ook op 2.5D-verpakking. Het is begonnen met grootschalig R&D, gericht op zijn Future Technology Research Institute en Packaging & Test (P&T) organisatie. Hoewel SK Hynix een grens trekt door te stellen dat het "betere klant-gepersonaliseerde HBM" wil maken, observeert de industrie een hoge mogelijkheid dat het in de toekomst serieus de 2.5D verpakkingsbusiness zal betreden.

Ik heb ook iets interessants gehoord. Blijkbaar speelt Samsung hardball—als een fabless bedrijf de HBM van Samsung wil veiligstellen, eist Samsung dat ze ten minste een deel van hun chipbestellingen bij Samsung Foundry plaatsen. Is het niet gek hoe de tijden zijn veranderd? Niemand wilde eerder de HBM van Samsung gebruiken, maar nu trekt de HBM van Samsung volume naar Samsung Foundry.

Google, dat niet in staat is om voldoende CoWoS-capaciteit te waarborgen, verlaagt zijn productievolume van TPU's voor 2026 van het oorspronkelijke doel van 4 miljoen eenheden naar 3 miljoen. Samsung voert marketing uit om geavanceerde verpakking aan te bieden als een "turnkey" oplossing, gebundeld met DRAM en foundry-diensten aan Google, AMD en Amazon. volgens The Korea Economic Daily