Qualcomm: 100 miljardi parameetriga AI-telefonid 2028

Qualcommi tegevjuhi Cristiano Amoni sõnul arendavad mõned tehisintellektiettevõtted nutitelefone, mis võiksid 2028. aastaks käitada 100 miljardi parameetriga keelemudeleid pidevalt otse seadmes.

Amon rääkis sellest 10. oktoobril 2026 Fireside Alpha intervjuus, kuid ei nimetanud arendusega seotud ettevõtteid.

100 miljardi parameetriga mudeli telefonis käitamise suurim probleem on mälumaht. 4-bitise kvantimisega 100B mudel vajaks ainuüksi mudeli jaoks ligikaudu 50 GB muutmälu, 2-bitine variant aga umbes 25 GB. Sellele lisanduvad operatsioonisüsteemi, rakenduste ja kontekstivahemälu nõuded.

Qualcommi ja teiste tööstusettevõtete hinnangul piiravad arengut eelkõige DRAM-i pakkumine ja hind. Qualcommi sõnul ei levi nutitelefonides lähiajal 16 GB muutmälu ületavad lahendused, kuigi umbes aasta tagasi olid Androidi telefonidel saadaval ka kuni 24 GB LPDDR5X-mäluga variandid.

DRAM-i turu pingelise olukorra tõttu on tootjad vähendanud suurema mälumahuga mudelite pakkumist. Isegi kui vajalik muutmälu oleks saadaval, kasvataks mahukamate mudelite pidev inferents seadme kuumenemist ja suurendaks termilise piirangu ohtu.

Kiibipakendite muudatused, sealhulgas Apple'i A20 Pro ja Qualcommi Snapdragon 8 Elite Extreme Gen 6 lahendused, võivad lahendada osa integreerimisprobleemidest, kuid ei kõrvalda muutmälu kitsaskohta.

Ühe tehnilise lahendusena kasutatakse agressiivset kvantimist, mis vähendab oluliselt mälunõuet. 1-bitised mudelid võivad mahtuda telefoni DRAM-i, kuid tööstusharu hinnangul langeb mudeli kvaliteet, eelkõige arutlusvõime, 4-bitisest kvantimisest allapoole liikudes märgatavalt.

Teine võimalus on ekspertide segamudel koos ekspertide salvestusruumi tõstmisega. Sel juhul hoitakse iga töödeldava märgi ajal RAM-is vaid osa ekspertidest, ülejäänud aga paiknevad välkmälus. Apple on uurinud mudelite käitamist seadme välkmälust, kuid UFS- ja NVMe-salvestus on DRAM-ist aeglasem ning võib inferentsikiirust vähendada.

Praegu peetakse turustamisvõimelisemaks lahenduseks mudelite destilleerimist. Destilleeritud 20B–30B mudelid võivad seadmes läheneda mõne 100B mudeli jõudlusele, hoides samal ajal mälunõuded ja soojuskoormuse hallatavana.

Amon ei avaldanud tehnilist tegevuskava ega nimetanud partnereid. 100B mudelite otse nutitelefonis käitamist 2028. aastaks piiravad endiselt DRAM-i pakkumine, hind ja soojusprobleemid.