Komponente pametnih telefonov so nam splošno znane. Spredaj je zaslon, zadaj kamera. Če želimo brezžično polnjenje, je potrebno še stekleno hrbtišče. V notranjosti najdemo delovni spomin, pomnilnik za shranjevanje vsebin in predvsem sistem na čipu (SoC), ki mu poenostavljeno rečemo kar procesor.
V resnici je procesor oziroma centralna procesna enota (CPU) zgolj eden od gradnikov sistema na čipu. Med drugimi komponentami mu družbo delata grafična procesna enota (GPU) in v zadnjem času tudi nevronska procesna enota (NPU).
Tudi za CPU in GPU približno vemo, kaj počneta. CPU bi lahko rekli »možgani« naprave. Izvaja splošne izračune, upravlja delovanje sistema in koordinira delo vseh ostalih komponent na čipu. GPU medtem skrbi zlasti za grafiko in vizualni prikaz na zaslonu mobilnika.
Pomembna pa je tudi razlika med delovanjem CPU in GPU. Medtem ko je CPU optimiziran za hitro izvajanje zaporednih in kompleksnih ukazov, je GPU zasnovan za vzporedno obdelavo (paralelizem). To pomeni, da lahko hkrati obravnava tisoče preprostejših nalog, kar je idealno za grafiko, kjer je treba istočasno izračunati barvo, globino in teksturo za milijone slikovnih točk.
Kaj je NPU?
Vse lepo in prav. Kaj pa je NPU, o katerem proizvajalci med predstavitvami zmogljivosti svojih novih naprav vse pogosteje razglabljajo? Naloga NPU je pospeševanje nalog, povezanih z umetno inteligenco (UI) in aplikacijami strojnega učenja. Takšne naloge vključujejo prepoznavanje ljudi oziroma predmetov na slikah, generiranje besedila in slik, pretvarjanje govora v besedilo ali obratno, sprotno prevajanje in še vrsto drugih nalog.
Te naloge bi se dalo rešiti tudi brez posebnega NPU, vendar je NPU zaradi svoje zasnove in načina delovanja pri opravljanju omenjenih nalog energetsko učinkovitejši od CPU in GPU.
CPU je kot splošna namenska enota namenjen zlasti hitremu in natančnemu izvajanju kompleksnih matematičnih operacij. Ker to počne zaporedno, tudi ni najbolj primeren za operacije umetne inteligence. Zato se tem nalogam pogosteje posveča GPU. NPU pa je namensko razvit za operacije z umetno inteligenco, zato porabi le del energije, ki bi jo za isti proces uporabil GPU. To pomeni, da je NPU še posebej dobrodošel v mobilnikih, pri katerih nam je v tekmi z dnevom vsak odstotek baterije še kako pomemben.
Ker je NPU dovolj učinkovit, lahko nekatere operacije umetne inteligence izvajamo kar lokalno na mobilnikih, namesto da bi jih morali izvoziti v oblak podjetja, ki ponuja storitve z umetno inteligenco. To ima več prednosti: ne trošimo podatkov za prenos, kar je pomembno zlasti takrat, ko smo izven EU. Še bolj pomembno pa je, da je lokalno izvajanje nalog na napravi veliko boljše za varovanje zasebnosti, saj svojih vsebin ne posredujemo podjetju, ki z njimi nato počne marsikaj. Hkrati se zmanjša verjetnost, da bi s kakšnim vdorom v veliko oblačno podatkovno bazo do teh podatkov prišli nepridipravi.
Problem s sodobnimi NPU
Problem trenutnih NPU pa je, da niso pretirano sposobni oziroma da zahteve najbolj zanimivih funkcij umetne inteligence ta hip neprimerljivo presegajo zmogljivosti NPU na mobilnikih. Če ne bi, podjetja ne bi vlagala vrtoglavih vsot v izgradnjo podatkovnih centrov za umetno inteligenco, medtem ko je telefon z NPU na voljo že za 300 evrov.
Naloge, ki jih dejansko izvaja, so omejene na prepoznavanje predmetov v kadrih za optimizacijo fotografij, ki jih posnamemo. Denimo prilagoditev barv in ostrine hrane ali zabave v naravi. Pomaga tudi pri učinku zameglitve ozadja na portretih in pri izboljšanju nočnih fotografij. Na teh fotografijah zmanjšuje šum in povečuje število podrobnosti.
Zmore tudi pretvarjati govor v pisano besedilo, ponuja predloge besed ob tipkanju in celo prevajanje besedila. Zmogljivejše naprave zmorejo celo prevajati govorjeni jezik, pod pogojem, da smo prej prenesli potrebne jezikovne pakete.
Ni nič, a prostora za napredek je še veliko. Za zdaj večina funkcij, ki jih povezujemo z umetno inteligenco, nujno potrebuje spletno povezavo in komunikacijo z oblakom. Če želite umetno inteligenco nekaj vprašati ali jo prositi, da vam obnovi oziroma povzame daljše besedilo, boste mnogo bolj zadovoljni z rezultati oblačne UI. Tako bo verjetno vsaj še nekaj časa. Za zdaj so torej omembe NPU v predstavitvah zanimive, niso pa še na ravni nečesa zelo pomembnega. Vendar tudi ta tehnologija napreduje in čez nekaj let bi lahko dosegla raven, ko bomo telefone resnično izbirali tudi glede na njihove NPU.
