4 Minutit
Kujutage ette tipptasemel AI sülearvutit, mis ei ole piiratud aku ega soojuskompromissidega. Väike, tihe ja siiralt võimas, Microsofti uus Surface RTX Spark Dev Box on täpselt see: kompaktne lauaarvuti, mis on loodud suurte mudelite jooksutamiseks teie laual, mitte andmekeskuses.
Dev Boxi südames on RTX Spark system-on-chip - hübriid, mis liidab 20-tuumalise Arm-põhise Grace CPU (kümme Cortex‑X925-tuuma ja kümme Cortex‑A725-tuuma) Blackwell-klassi GPU-ga. Pealkirjanumbrid on muljetavaldavad: ligikaudu 1 petaflop FP4-arvutust koos harvade maatriksite kiirendusega ja 128 GB ühist mälu. Arendaja keeles tähendab see võimet kohapeal laadida ja teha inferentsi ~120 miljardi parameetriga mudelitega ilma pidevalt pilveteenuste lõpp-punktidele päringuid saatmata.
See on suunatud selgelt inseneridele, kes vajavad katsetamiseks, täpsustamiseks ja agendipõhiste töövoogude käitamiseks püsivat kohalikku AI-jõudlust.
Mis selle paki eriliseks teeb, on Microsofti viis seda tarkvaraarendajatele positsioneerida. Dev Box tarnitakse Windows 11 Proga, mis on arenduse jaoks häälestatud: tumerežiim on algseadetes sees, populaarsed arendustööriistad on eelinstallitud ja PowerShell 7 on vaikimisi kest. Sügaval süsteemi all tuleb WSL 2 koos GPU-pääsuga ja CUDA tugi on seadistatud. See viimane osa on oluline. Paljud AI-tööriistakomplektid ja inferentsi virnad eeldavad Linuxi käituskeskkonda; WSL GPU-juurdepääsuga vähendab lõhet Windowsi töölaua ja Linuxipõhiste AI-serverite vahel.
Riistvarahuvilised märkavad nii turundusdetailide kui praktiliste kompromisside sõnumit. RTX Sparki Blackwell GPU on esitatud kui ligikaudu võrdne RTX 5070-ga CUDA-tuuma loendite põhjal - Microsoft mainib umbes 6 144 CUDA tuuma - kuid eristajaks on mälu: see kiip mahutab märksa rohkem VRAM-i kui tarbijakaardid tavaliselt pakuvad, ja mälu on ühtne CPU ja GPU vahel, et vähendada pudelikaelaprobleeme suurte kaalude laadimisel. Jahutust kaitseb 3D-printitud alumiiniumkarkass, mis on täis 1 000 ventilatsiooniava - mänguline vihje "1 000 teraflops" - ja kuigi korpuse disain aitab, pole süsteem passiivselt jahutatud; see suudab koormuse all aktiivselt hajutada kuni 100 W.
Miks üldse ehitada eraldiseisev kast, kui Surface Laptop Ultra kannab sama RTX Spark kiipi? Vastus on lihtne: vormifaktorist tulenevad piirangud. Sülearvuti peab tasakaalustama soojust, akukestvust ja püsivat läbilaskevõimet. Lauaarvuti ei pea seda tegema. Lühikestes puhkudes võivad sülearvuti ja Dev Box olla võrreldavad. Pikaajalise treenimise või inferentsi käigus hoiab Dev Box kõrgemat läbilaskevõimet kauem.
Ühendused on sirgjoonelised ja praktilised: HDMI port kohalike ekraanide jaoks, kaks USB‑C porti, üks USB‑A port, gigabitine Etherneti pesa ja 3,5 mm helipesa. Kasutage seda oma peamise arendusjaamana, kauginferentsi hostina kergemate sülearvutite jaoks või pühendatud agentipõhise AI-sõlmana kontoririiulil. Microsoft nimetab seda arendusseadmeks, kuid vorm ja sisu kutsuvad paralleele Windowsi tõlgendusega Mac Studio-st - kompaktne, suure jõudlusega sõlmpunkt loojatele ja arendajatele, kes soovivad kohalikku arvutusintensiivsust ilma pilvearvete.
Saadavus on käivitamisel piiratud: Microsoft ütleb, et Surface RTX Spark Dev Box tuleb müügile hiljem sel aastal ja seda hakatakse esialgu USAs müüma eksklusiivselt Microsoft.com-is. Hinnakujundus ja laiem regionaalne kättesaadavus pole veel avalikustatud. Ettevõte pole avaldanud ka Surface Laptop Ultra hinda, kuid paberil peaks Dev Box olema odavam, kuna see loobub ekraanist ja akust.
Kui teie töö sõltub suurte mudelitega iteratsiooni tegemisest, inferentsi testimisest mahus või lihtsalt pilvega seotud latentsuse ja kulude vältimisest, on selles palju head. Kuid mõningad küsimused jäävad: kuidas tarkvaramaastik kohaneb ühtse mäluarhitektuuriga ja kas arendajad eelistavad kohalikku kasti või hübriidpilve lähenemist? Igatahes on Microsoft pannud selge panuse: kohalik AI-arvutus väärib disaini, mitte ainult rentimist.
Allikas: gsmarena
Jäta kommentaar