AMD Halo Station toob andmekeskuse AI igale töölauale

Kujutage ette andmekeskuse tasemel tehisintellekti lauaarvutis. See kõlab mõtteeksperimendina, kuni jalutate IFA messil AMD bokist mööda ja näete masinat, mis püüab selle päriselt teoks teha.

AMD tutvustas Threadripper Halo Stationit – tööjaama, mis ühendab ettevõtte tipptasemel PRO-komponendid süsteemiks, mida AMD nimetab ülimaks personaalseks AI-tööjaamaks. Eesmärk on ühtaegu lihtne ja ambitsioonikas: tuua suurte mudelite treenimine, peenhäälestamine ja inferents ühte lauaarvutikorpusesse, et arendajad ja stuudiod saaksid vähendada sõltuvust kallist pilvandmetöötlusest.

Halo Stationi keskmes on Threadripper PRO 9995WX, üks AMD võimsamaid Threadripperi protsessoreid. See tähendab rohkelt tuumi, kõrgeid taktsagedusi ja jõudlust nõudlike töövoogude jaoks. Kiibi taktsagedus ulatub kuni 5,4 GHz-ni ning selle arhitektuur on optimeeritud suure läbilaskevõime ja intensiivse rööptöö jaoks. Ent ainult protsessori toorest arvutusvõimsusest ei piisa.

AI-töökoormuste puhul teevad suurema osa tööst graafikaprotsessorid. AMD ühendab Threadripperi tööjaamaklassi Instincti kiirenditega ehk HBM3e-mäluga MI350P kaartidega. Tüüpiline konfiguratsioon sisaldab kahte sellist kaarti, kuid korpus mahutab kuni neli, mis kasvatab HBM3e-mälu mahu muljetavaldava 576 GB-ni. GPU-de ühendmälu ribalaius ulatub mitme terabaidini sekundis, samal ajal toetab süsteem kuni 2 TB DDR5 RDIMM-mälu. Mõlema mälutüübi kasutamisel on süsteemi kogumälu ligikaudu 2,6 TB.

• CPU: Threadripper PRO 9995WX: kuni 96 Zen 5 tuuma / 192 lõime, taktsagedus kuni 5,4 GHz, ligikaudu 384 MB vahemälu
• GPU: kuni 4× AMD Instinct MI350P kiirendit, igaüks 144 GB HBM3e-mäluga, kokku kuni 576 GB
• Süsteemimälu: kuni 2 TB DDR5 RDIMM-mälu, süsteemi kogumälu ligikaudu 2,6 TB
• Korpus ja jahutus: vedelikjahutus standardses E-ATX Halo-stiilis korpuses
• Kavandatud saadavus: 2027. aastal

Arvestada tuleb siiski ka kompromissidega. NVIDIA DGX Station on otsene konkurent ning säilitab eelise teatud arhitektuuride ja uuendusvõimaluste osas. NVIDIA toetab AIC-laienduskaarte ning pakub mõnel kiirendil suure mahutavusega HBM-mälu ühel kiibil. AMD lähenemine on teistsugune: jõudlust kasvatatakse mitme Instincti kaardi abil, kombineerituna väga suure protsessorilõimede arvuga. Samuti saab komponente muutuvate vajaduste järgi asendada tavapärase riistvaraga.

Miks see oluline on? Kõik meeskonnad ei soovi arvutusvõimsust tunnipõhiselt rentida. Triljoni parameetriga mudelite kohapealne treenimine või käitamine võib korduvaid kulusid märgatavalt vähendada ning kõrvaldab pilveteenuse pakkujatega seotud ribalaiuse ja privaatsuse probleemid. Lihtsalt öeldes: maksad ühe korra, kasutad korduvalt. AMD positsioneerib Halo Stationi lahendusena meeskondadele, kes vajavad andmekeskuse tasemel läbilaskevõimet, kuid mitte andmekeskuse ruumi.

IFA messil ei piirdunud AMD siiski ühe süsteemiga. Ettevõte esitles ka Ryzen AI MAX 400 seeriat, kuhu kuuluvad kohalike AI-ülesannete jaoks optimeeritud sülearvutid ja miniarvutid. Nende seadmete eesmärk on tuua võimekas inferents ja seadmesisene arendus kaasaskantavatesse vormiteguritesse. Partnerid, sealhulgas HP, Lenovo, Acer ja teised, on juba tutvustanud sellel platvormil põhinevaid seadmeid.

AMD täiendas riistvara tarkvara- ja ökosüsteemilahendustega. Ryzen AI Halo süsteemid tarnitakse Microsofti Project Zenithi jaoks valmis olevana ning nendega kaasnevad kohalikku mudeliarendust lihtsustavad tööriistad, nagu Visual Studio Code, WSL, GitHub Copilot CLI ja PowerShell. AMD teatas ka koostööst SUSE-ga, et aidata meeskondadel viia rakendused Ryzen AI Halo kohalikust arenduskeskkonnast skaleeritavatesse ja tootmiskõlblikesse keskkondadesse. See kõrvaldab ettevõtete jaoks veel ühe kasutuselevõtu takistuse.

Üritusel näidatud võrdlustestide tulemused pälvisid tähelepanu. Väidetavalt käitas integreeritud mäluga Ryzen AI MAX+ prototüüp kohapeal GLM-5.3 Flashi, millel on ligikaudu 320 miljardit parameetrit, kiirusega umbes 58 tokenit sekundis. See on paljude tegelike kasutusjuhtude jaoks praktiline jõudlus ning kulude vaates oluline argument: tugev sõltuvus majutatud suurtest keelemudelitest võib mitme miljoni tokeniga töökoormuse korral kiiresti tähendada sadade eurode suuruseid kulusid. Kohapealne arvutus muudab seda arvestust.

AMD püüab muuta seda, kuidas ja kus tehisintellekti arendatakse, tuues töö kaugetest serveririiulitest tagasi töölauale, tegemata järeleandmisi jõudluses ega laiendatavuses.

Kõik pole siiski veel selge. Threadripper Halo Stationi hinda ei ole avalikustatud. DGX Stationi hind on ajalooliselt küündinud peaaegu kuuekohalise summani ning valdkonna vaatlejad eeldavad, et AMD paigutab Halo Stationi konkurentsivõimeliselt samasse hinnaklassi – NVIDIA hinnatasemega võrdselt või sellest madalamale, sõltuvalt turustrateegiast.

AMD komponentide strateegial on ka praktiline eelis: paljud Halo Stationi osad pärinevad tavapärastest serveri- ja tööjaamaökosüsteemidest. Seetõttu on hooldus ja tulevased uuendused vähem tootjaspetsiifilised ning modulaarsemad. See on atraktiivne laboritele ja stuudiotele, kes kavandavad oma riistvara arengut aastaid ette.

Lühidalt ühendab AMD pakkumine insenerliku pragmaatilisuse ja ambitsiooni: anda arendajatele tuttavad tööriistad, võimaldada neil suuri mudeleid kohapeal käitada ning pakkuda riistvara, mida saab hooldada ja laiendada ilma tootjapoolse lukustuseta. Kui turg sellele reageerib, võib 2027. aasta olla hetk, mil lauaarvuti-AI lakkab olemast nišš ja muutub tõsiste meeskondade jaoks mõistlikuks valikuks.