Mälu on vaikselt saamas kitsaskohtaks võidus kiirema AI-inferentsi nimel. SK hynix nihutas olukorda, saates partneritele oma uue HBM4E prooviversioonid ja kasvatades survet mälu ribalaiusele kiirendite disainis.
Lühidalt: see on kiirem. SK hynixi HBM4E saavutab 16Gbps ühe pinniga, varem HBM4 spetsifikatsioonis oli see 10Gbps. Samsung, et maha ei jääda, alustas umbes kuu aega varem 14Gbps disaini proovimisega, kuid SK hynixi hüpe on tähelepanuväärne, sest jõudlustõusud toovad sageli kaasa valusaid kompromisse. Seekord mitte.
SK hynixi HBM4E jõuab 16Gbps ühe pinni kohta ja 48GB 12-kiibi virna kohta.
Ettevõte virnastab 12 kiipi ühte pakendisse, saades 48GB ühe virna kohta. See on oluline, sest enamik AI-kiirenditest ei tuginе ainult ühele virnale; nad ühendavad mitu HBM-virna, et varustada suuri kiibisiseseid maatrikseid. Rohkem mahtu ühe virna kohta lihtsustab plaatide disaini ja vähendab pakendamise keerukust tihedates kiirendimoodulites.
Toite pool on see põlvkond pragmaatiline samm. SK hynix väidab, et HBM4E on ligikaudu 20% energiakulutuse poolest tõhusam kui eelnev HBM4. Paranenud efektiivsus on AI rakendatavuse alahinnatud kangelane; ribalaiust saab suurendada, kuid kui soojust ei ole võimalik juhtida ära, kaovad praktilised eelised. SK hynix kasutab Mass Reflow Molded Underfill (MR-MUF) protsessi, kus silikoonikiipide vahele pihustatakse kaitsev vedelik pakendi stabiliseerimiseks. Tulemuseks on umbes 17% madalam termiline takistus võrreldes varasema lähenemisega, mis aitab jahutussüsteemidel paremini töötada.
Miks on termiline takistus nii oluline? Sest maailmas, kus riiulid on täis kiirendajaid, tähendab iga säästetud vatt ja iga kraad vähem liitumistemperatuuris suurenenud töökindlust ja lihtsamat andmekeskuse jahutuse eelarvestamist. Insenerid vihkavad üllatusi. Madalam termiline takistus on see tüüpi ettearvatav täiendus, millele nad saavad tooteplaanides tugineda.
On ka laiemad tagajärjed. Kiiremad pinnid ja suurema tihedusega virnad võimaldavad kiibiarhitektidel ümber mõelda interposerite paigutuse ja mälukanalite kujunduse. Nad võivad kas koormata arvutusvõimsust rohkem või skaleerida mudeleid, mis varem põrkusid mälu piirangutega. Lihtsustatult: suuremad mudelid, tihedam inferents või samad mudelid odavamalt ja jahedamalt töötamas.
SK hynix esitles proovisaadetisi kui ajakohast verstaposti, toetudes oma tootmiskogemusele. Sõnum on selge: ettevõte eeldab, et partnerid alustavad kvalifitseerimistöid ja liiguvad massitootmise suunas. Ajastus on oluline klientidele, kes planeerivad pooljuhtide ja moodulite väljatoomist; varajane ligipääs proovidele lühendab seda tsüklit.
Mitte iga AI-töökoormus ei vaja tipptaset. Kuid hüperskaleerijatele ja AI-riistvara idufirmadele, kes ajavad maksimaalset läbilaskevõimet, on HBM4E ribalaiuse, mahutavuse ja termiliste eeliste kombinatsioon ahvatlev. Kas see muudab järgmist kiirendajate lainet? Võib-olla. Järgmiseks küsimuseks on, kui kiiresti ökosüsteem, sealhulgas interposerid, jahutid ja süsteemiarhitektid, kohaneb, et ära kasutada neid virnu pakutavaid marginaale.
Kui sind huvitab AI-riistvara tulevik, jälgi mälu arenguid. See muutub sageli võistlust vaikselt, kuni äkki enam mitte.
"Tehnoloogia liigub kiiremini kui kunagi varem ja ma naudin selle jälgimist. Iga uus seade või rakendus jutustab loo inimlikust loovusest."
Arutelu
Jäta kommentaar
Kommentaarid
Kommentaare veel pole. Ole esimene.