En stor mulighet nærmer seg Samsung... Gå all-in på avansert emballasje Hver desember samles toppledere fra AI-halvledergiganter som NVIDIA og Broadcom på TSMCs hovedkontor i Hsinchu Science Park, Taiwan. Målet deres er å sikre bare én plass til på TSMCs "Advanced Packaging"-produksjonslinjer, som integrerer GPU-er og High Bandwidth Memory (HBM) for å lage AI-akseleratorer. Allokeringen av disse linjene, kjent som "CoWoS" (Chip-on-Wafer-on-Substrate), bestemmer volumet av AI-akseleratorer de kan produsere året etter. Faktisk skal Google ha senket produksjonsmålet for sin proprietære AI-akselerator, Tensor Processing Unit (TPU), med 1 million enheter fra det opprinnelige målet på 4 millioner fordi de tapte mot NVIDIA i kampen om CoWoS-kapasitet. «Advanced Packaging», som monterer høyytelses halvledere som GPU-er og HBM på et spesielt materiale kalt en «silisiuminterposer» for å få dem til å fungere sømløst som én enkelt brikke, har i år blitt den avgjørende slagmarken for overlegenhet i AI-halvledermarkedet. Etter hvert som ultrafine prosesser – som snevrer inn kretslinjer til 1 nanometer (nm) for å pakke flere funksjoner i en liten brikke – når sine tekniske grenser, vender halvlederselskaper seg til avansert emballasje for å koble sammen flere brikker og operere dem som én enhet. Følgelig forventes det tilhørende markedet å vokse fra 43 milliarder dollar (ca. 62 billioner KRW) i fjor til 64,3 milliarder dollar (ca. 93 billioner KRW) innen 2028. For øyeblikket domineres markedet for avansert emballasje av TSMC. Situasjonen har nådd et punkt hvor selskaper ikke kan produsere AI-akseleratorer i tide, selv om de har sikret seg GPU-er og HBM, rett og slett fordi de ikke har fått tildelt nok av TSMCs CoWoS-linjer. Som svar på gjentatte krav fra NVIDIA, AMD, Broadcom og andre, har TSMC besluttet å investere 7,5 milliarder dollar (ca. 10,85 billioner KRW) i år – det største beløpet noensinne – for å betydelig utvide sin avanserte pakkekapasitet. Samsung Electronics ser også avansert emballasje som neste viktige slagmark etter HBM og styrker sin tilknyttede virksomhet. Det rapporteres at de markedsfører en «nøkkelferdig» løsning—som tilbyr avansert emballasje pakket sammen med DRAM og foundry-tjenester—til selskaper som Google, AMD og Amazon, som ikke klarte å sikre tilstrekkelige CoWoS-linjer på grunn av NVIDIAs dominans. For å produsere AI-akseleratorene – ofte kalt «hakkene» fra gullrushet i AI-æraen – må brikkene gjennomgå to trinn med avansert pakking (en prosess som får flere brikker til å fungere som én). Den første er fabrikasjonen av HBM, som innebærer å stable opptil 16 DRAM-er. Når denne prosessen, som er langt vanskeligere enn standard DRAM-produksjon, er godkjent, venter en enda større utfordring: «2,5D Packaging», som kobler HBM og GPU på et spesielt substrat kalt en silisiuminterposer for å fungere som en enkelt brikke. Uansett hvor god GPU og HBM er, hvis den avanserte pakkingen feiler, kan ikke AI-akseleratoren fungere ordentlig. Det er en prosess med høy vanskelighetsgrad, hvor industrilederen TSMCs avkastning forblir på bare 50–60 %. Etter hvert som TSMC ikke klarer å holde tritt med flommen av bestillinger fra NVIDIA og AMD, har 2,5D-emballasje blitt den største flaskehalsen som hindrer utvidelsen av AI-markedet. ◇ Alternativer til grensene for ultrafine prosesser Emballasje deles grovt inn i tradisjonell emballasje og avansert emballasje. Tradisjonell emballasje refererer til prosessen med å plassere en enkelt brikke på et hovedkort og koble den elektrisk. Det er en del av «back-end»-prosessen, som tidligere ble vurdert som en «mindre kritisk» teknologi i halvlederøkosystemet. Situasjonen endret seg imidlertid da etterspørselen etter høyytelsesbrikker eksploderte i AI-æraen. Frem til tidlig på 2020-tallet gikk halvlederselskaper "all-in" på "ultra-fine prosesser", og smalnet kretsbredder til under 2 nm for å få plass til flere funksjoner i mindre brikker. Men denne konkurransen slo feil. Lønnsomheten sank på grunn av behovet for å kjøpe Extreme Ultraviolet (EUV) litografiutstyr til en kostnad på opptil 500 milliarder KRW per enhet. Tekniske utfordringer var også formidable; Etter hvert som linjebreddene smalnet, økte interferensen og lekkasjestrømmen økte, noe som gjorde det vanskelig å kontrollere varmeproduksjonen. Løsningen som ble funnet var emballasje. I stedet for å presse komplekse funksjoner inn i én brikke via ultrafine prosesser, kunne tilkobling av flere moderat avanserte brikker oppnå samme ytelse. Industrien knyttet modifikatoren «Advanced» til denne teknologien fordi dens tekniske vanskelighetsgrad langt overstiger tradisjonell emballasje. ◇ Alvorlig mangel på CoWoS-kapasitet Favoritten er TSMC. Hovedvåpenet er en avansert 2,5D emballasjeteknologi kalt "CoWoS-S." Den plasserer en silisiuminterposer—et spesielt materiallag som fungerer som en bro—oppå et substrat og plasserer flere brikker horisontalt. Silisiuminterposeren består av Through-Silicon Vias (TSV), som er vertikale passasjer som forbinder bunnsubstratet med toppbrikkene, og et Redistribution Layer (RDL), som kobler signaler mellom brikkene. Dette kalles 2,5D-pakning fordi interposeren og brikkene er stablet vertikalt (3D) på substratet, mens brikkene er arrangert horisontalt (2D). Etter hvert som etterspørselen etter høyytelsesbrikker økte med AI-æraen, anerkjente NVIDIA og AMD kraften i CoWoS. Slik ble AI-akseleratorer som B200 og H100, som kobler HBM og GPU-er, til. Ifølge Samsung Securities økte TSMCs CoWoS-produksjonskapasitet (konvertert til wafers) fra 35 000 ark per måned i 2024 til rundt 70 000 ark i fjor, og forventes å øke til rundt 110 000 ark i år. Evalueringer tyder imidlertid på at dette fortsatt er utilstrekkelig. Med tanke på at CoWoS-tildelingen for NVIDIA fra TSMC er rundt 55 %, antyder beregningen at kun 8,91 millioner "Blackwell" AI-akseleratorer kan produseres i år. Dette volumet kan støtte datasentre med en maksimal kapasitet på 18 gigawatt (GW), noe som kun utgjør 50 % av den globale datasenterinvesteringen i år. Samsung Securities analyserte: «Det er en mulighet for at TSMC ikke engang vil kunne møte NVIDIAs etterspørsel i år.» ...