Vad är HBM och varför är det så viktigt för AI?

USA:s exportrestriktioner

De senaste exportrestriktionerna, som tillkännagavs den 2 december, följer på två tidigare omgångar av begränsningar av avancerade kretsar som Biden-administrationen infört under de senaste tre åren. Syftet är att hindra Kina från att få tillgång till kritisk teknik som kan ge landet en militär fördel.

Som vedergällning har Peking infört nya begränsningar för export av germanium och gallium, grundämnen som är viktiga för tillverkning av halvledare och annan högteknologisk utrustning.

Experter menar att de senaste exportrestriktionerna kommer att bromsa Kinas utveckling av AI-kretsar och i värsta fall helt stoppa landets tillgång till HBM. Även om Kinas förmåga att producera HBM för närvarande ligger efter Sydkoreas SK Hynix och Samsung samt amerikanska Micron, utvecklar landet sin egen kapacitet inom området.

“Vad de amerikanska exportrestriktionerna kommer att göra är att begränsa Kinas tillgång till HBM av bättre kvalitet på kort sikt”, säger Jeffery Chiu, vd för Ansforce, ett expert nätverkskonsultföretag specialiserat på teknik.

“På lång sikt kommer Kina dock fortfarande att kunna producera dem oberoende, om än med mindre avancerad teknik.”

I Kina är Yangtze Memory Technologies och Changxin Memory Technologies de ledande tillverkarna av minneskretsar. De uppges öka kapaciteten för att bygga HBM-produktionslinjer för att uppfylla landets strategiska mål om teknisk självförsörjning.

Varför är HBM så viktigt?

Det som gör HBM-kretsar så kraftfulla är främst deras större lagringsutrymme och mycket snabbare hastighet för att överföra data, jämfört med konventionella minneskretsar. Eftersom AI-applikationer kräver mycket komplex databehandling säkerställer dessa egenskaper att applikationerna körs smidigt, utan förseningar eller problem.

Större lagringsutrymme innebär att mer data kan lagras, överföras och bearbetas, vilket förbättrar prestandan för AI-applikationer. De stora språkmodellerna (LLM) gör det möjligt för dem att ha fler parametrar att träna på.

Tänk på den snabbare hastigheten för att skicka data, eller högre bandbredd, som en motorväg. Ju fler körfält en motorväg har, desto mindre sannolikt är det att det blir trafikstockningar och därmed kan den hantera fler bilar.

“Det är som skillnaden mellan en tvåfilig motorväg och en hundrafilig motorväg. Du får helt enkelt inga trafikstockningar”, säger Hutcheson.

De ledande tillverkarna

För närvarande dominerar bara tre företag den globala marknaden för HBM. Från och med 2022 stod Hynix för 50 procent av den totala marknadsandelen för HBM, följt av Samsung med 40 procent och Micron med 10 procent, enligt en rapport publicerad av det Taipei-baserade marknadsundersökningsföretaget TrendForce.

Båda sydkoreanska företagen förväntas ta liknande andelar på HBM-marknaden 2023 och 2024, tillsammans kommande de att ha cirka 95 procent.

När det gäller Micron siktar företaget på att öka sin HBM-marknadsandel till någonstans mellan 20 procent och 25 procent till 2025, rapporterade Taiwans officiella Central News Agency och citerade Praveen Vaidyanatha, en senior chef på Micron.

Det höga värdet på HBM har lett till att alla tillverkare avsätter en betydande del av sin tillverkningskapacitet till det mer avancerade minneschipet. Enligt TrendForces Senior Research Vice President Avril Wu förväntas HBM stå för mer än 20 procent av den totala marknaden för standardminneskretsar i värde från och med 2024 och potentiellt överstiga 30 procent nästa år.

Hur tillverkas HBM?

Föreställ dig att du staplar flera vanliga minneskretsar i lager som en hamburgare. Det är i huvudsak strukturen för HBM. På ytan låter det enkelt, men det är ingen lätt bedrift att genomföra, så mycket att det återspeglas i priset. Försäljningspriset per enhet för HBM är flera gånger högre än för ett konventionellt minneschip.

Det beror på att höjden på en HBM är ungefär sex hårstrån, vilket innebär att varje lager av de vanliga minneskretsarna som staplas ihop också måste vara extremt tunna, en bedrift som kräver förstklassig tillverkningsexpertis som kallas avancerad paketering.

“Var och en av dessa minneskretsar måste slipas till så tunna som halva ett hårstrå innan de staplas ihop, något som är mycket svårt att genomföra”, säger Chiu.

Dessutom borras hål på dessa minneskretsar innan de monteras ovanpå varandra för att elektriska ledningar ska passera igenom, och positionen och storleken på dessa hål måste vara extremt exakta.

“Du har många fler felpunkter när du försöker göra dessa enheter. Det är nästan som att bygga ett korthus”, säger Hutcheson.

Hacker varnar – finansmarknader i riskzonen

En hacker med 30 års erfarenhet av den digitala undre världen, Dark Web, har delat med sig av sina insikter om de skrämmande trender han bevittnat. I en

Läs också:
Kronofogden: Nu kan dina obetalda skulder ge fängelsestraff. News 55
Kinneviks framtid – dags för Stenbeck att göra comeback? Realtid