Microsoft avalikustas oma kolmanda põlvkonna kohandatud tehisintellekti inferentsikiibi Maia 300. Ettevõtte sõnul töötleb kiip ühe megavati elektrivõimsuse kohta umbes 40% rohkem tokeneid kui juhtivad GPU-põhised süsteemid.
Maia 300 on loodud spetsiaalselt inferentsiks ehk AI-mudelite käitamiseks ning Microsofti eesmärk on muuta see oma toodete ja teenuste peamiseks inferentsitaristuks. Kiibi tootmiskasutust on oodata 2027. aastal.
Microsofti pilvanduse asepresidendi Scott Guthrie sõnul võimaldavad uuendused ettevõttel toetuda rohkem enda kiipidele ning vähendada sõltuvust Nvidiast ja AMD-st. Alates 2027. aastast kavatseb Microsoft arendada Azure Maia kiibiperekonda mitme gigavati skaalas, et kasutada seda ettevõtte peamise inferentsitaristuna.
Jõudlus ja kasutus Microsofti teenustes
96 kiirendiga täiskonfiguratsioonis võib Maia 300 suurendada riiulitasandi tokenitöötluse läbilaskevõimet kuni seitse korda võrreldes eelmise põlvkonna Maia 200 kiibiga, mille Microsoft tutvustas alles jaanuaris.
Maia 200 kasutatakse juba Microsoft Copiloti, GitHub Copiloti, Microsoft Foundry ja ettevõtte enda AI-mudelite töökoormustes. Guthrie sõnul on Maia 200 Microsofti taristus reaalsete AI-teenuste jõudlusnäitajate põhjal endiselt parim arvutusplatvorm, kuid Maia 300 on loodud tervikliku süsteemina järgmise põlvkonna AI-töökoormuste jaoks.
Microsofti kirjelduse järgi on Maia 300 optimeeritud pika kontekstiga arutlusülesannete, väikese viivitusega vestluskogemuste ning pidevate mitmeetapiliste agendiülesannete jaoks. Kiip on mõeldud inferentsiks, mitte mudelite treenimiseks.
Kiibi arhitektuur ja tootmine
Maia 300 kasutab kiibletipõhist arhitektuuri ja TSMC N2P tootmisprotsessi. Microsoft eraldas disainis arvutusplokid, mälukontrolleri ning sisend- ja väljundfunktsioonid, et suunata rohkem kiibipinda töötlusele ja kasutada iga ploki jaoks selle rollile sobivaimat tehnoloogiat.
Azure'i riistvara- ja taristumeeskonna hinnangul parandab selline lähenemine energiatõhusust ning võimaldab kiipi häälestada konkreetsete inferentsifunktsioonide jaoks.
Microsoft AI tegevjuht Mustafa Suleyman ütles, et ettevõte peab arendama tehnoloogiavirna kõiki kihte mudelitest ränini. Tema sõnul eeldab Microsofti kavandatav maht spetsiaalset platvormi, mis on projekteeritud koos ettevõtte mudelitega, ning Microsofti enda mudelite käitamine Maia kiipidel on meeskonna üks peamisi prioriteete.
"Olen alati tahtnud mõista, kuidas tehnoloogia töötab ja miks see meid nii palju mõjutab. Kirjutamine annab võimaluse neid vastuseid otsida."
Arutelu
Jäta kommentaar
Kommentaarid
Kommentaare veel pole. Ole esimene.