Samsungi BV-NAND ja zHBM: mälu, mis muudab infrastruktuuri

Rahvarohkes Santa Clara saalis tõstis Samsung vaikselt loo kardinad seadmetele, mis ei tundunud lihtsalt järguvärkidena, vaid pigem väikese revolutsioonina. Insenerid kogunesid klaaskappide ümber. Kaardid vahetusid. Järeldus oli selge: mälu muudab oma kuju.

Pealkiri: BV-NAND V10. See on bonded V-NAND viidud uuele ekstreemsusele, üle 400 virnastatud kihiga, mis on valmistatud Samsungi täiustatud sidumistehnikatega. Tulemus ei ole ainult kõrgem silikoonihunnik. See pakub umbes 58% suuremat tihedust võrreldes eelmise põlvkonnaga, ja see täiendav vertikaalne ruum tähendab otseselt kiiremaid lugemisi, kiiremaid kirjutusi, paremat I/O-d ning mõõdetavat energiakokkuhoidu. Lühidalt: tihedam mälu, mis tarbib vähem energiat ja liigutab andmeid kiiremini.

Virnita ja lühenda vahemaad

Nüüd kujuta ette mälu, mis asub sõna otseses mõttes protsessori kohal. Imelik? Võimas. Samsung nimetab seda zHBM-iks. See laenab vööri sidumise meetodit ja rakendab seda suure läbilaskevõimega mälule, ümber kujundades füüsilist suhet DRAMi ja kiirendaja vahel. Selle asemel, et olla naaber trükkplaadi teisel küljel, on zHBM virnastatud tehisintellekti kiirendajate kohale, lühendades oluliselt andmete läbitavat vahemaad. Latentsus väheneb. Kiirus tõuseb. Energiatarve langeb.

Samsung väidab, et zHBM võib pakkuda umbkaudu kaheksakordset jõudlust võrreldes tulevase HBM5 standardiga, pakkudes samal ajal umbes kümnekordset mälutihedust ja ligikaudu kolmekordset energiatõhusust. Need on suured väited. Need toetuvad kahele asjaolule: äärmiselt tihedale vertikaalsele integratsioonile ja ettevõtte vööri sidumise ekspertiisile. Kui reaalsed süsteemid vastavad neile numbritele, võib zHBM kujundada ümber andmekeskuste ja tehisintellekti riiulite arhitektuuri.

Samsung demonstreeris ka oma edusamme tööstuse standardse HBMiga: HBM4E proovid on juba klientidele saadetud ning ettevõte tutvustas HBM5-d kui järgmist aluspunkti suure läbilaskevõimega mälule. Kuid zHBM on positsioneeritud kui kiirem, kompaktsem ja energiatõhusam valik skaleerumist nõudvatele töökoormustele.

Kõik arengud ei sihi pilve. Tervitame zNAND-O-d, V-NANDi meetoditest tulenevat järgmise põlvkonna flash-mälutehnoloogiat, mis on häälestatud servatehisintellekti jaoks. Samsung arendab 4- ja 8-kihilisi versioone, mis lubavad tihedamat ruumikasutust, paremat I/O jõudlust ja väiksemat latentsust võrreldes tavalise NANDiga. Mõelge zNAND-O-le kui saledale, lokaalsele vahemälule kasutajale lähedal toimiva tehisintellekti ennustuse jaoks, kusjuures zHBM on reserveeritud treeningute ja suuremahulise inferentsi raskemaks tööks pilves.

Oli veel üks nutikas detail: LPDDR5X-PIM. See on tööstuse esimene LPDDR, mis integreerib Processing-In-Memory (PIM) funktsioone, sooritades osa arvutustest mälus enne, kui andmed üldse väljuma hakkavad. Mõju on otsene: vähem andmete edasikandmist, suurem efektiivne läbilaskevõime ja paremad energianäitajad. Töökoormustes, kus domineerivad lihtsad teisendused või vähendused, saab PIM lõigata kitsaskohti ilma kogu tarkvarapinu muutmata.

Hommikune põhisõnavõtt vormistas strateegia. Jin-Yub Lee, täitevasepresident ja Flash-toodete ning -tehnoloogia juht, koos Kyungryun Kimiga, asepresidendi ja DRAM-disainitiimi projektijuhiga, tõid välja Samsungi nägemuse mälust kui aktiivsest süsteemielemendist, mitte ainult passiivsest salvestusest. Nad väitsid, et virnastamine ja sidumine on hoob, mille abil saab AI-süsteemidest välja pigistada rohkem jõudlust ja tõhusust.

Nii et kuhu see meid jätab? Samsung näitas tööriistakasti: tihedam flash salvestuseks, virnastatud HBM-variandid läbilaskevõimet nõudvale arvutusele, kompaktne NAND servatehisintellektile ja RAM, mis suudab tööd teha. Iga osa on oluline. Koos annavad need vihje tulevikust, kus mäludisain mängib peamist rolli tehisintellekti ressursinälja taltsutamisel.