Qualcommov Snapdragon 845 vsebuje zmogljiv čip za strojno učenje. Imenuje se Hexagon 685 DSP in je velik korak naprej v strojni opremi AI.
Snapdragon 845 - najnovejši sistem na čipu v Qualcommovi družini Snapdragon - je močan procesor. Ponaša se s hitrimi CPE jedri, tretjo generacijo procesorja slikovnih signalov Spectra (ISP) in arhitekturo, ki je 30 odstotkov bolj energijsko učinkovita od prejšnje generacije. Toda njegova najbolj impresivna komponenta je verjetno koprocesor - Hexagon 685 DSP - ki je prilagojen za umetno inteligenco in strojno učenje.
Zakaj je Qualcommov Hexagon 685 DSP aktiven?
"Vektorska matematika je temelj globokega učenja." - Travis Lanier, višji direktor produktnega upravljanja pri Qualcommu
Da bi razumeli, zakaj je Hexagon DSP tako edinstven, pomaga vedeti, da umetno inteligenco poganja vrsta matematičnih inženirskih fakultet, ki so dobro poznane. Strojno učenje vključuje računanje z velikimi vektorji, kar predstavlja izziv za procesorje pametnih telefonov, tablic in osebnih računalnikov. Čipi za splošne namene težko izračunajo algoritme, kot je stohastični gradientni spust – vrste algoritmov, ki so jedro aplikacij, ki jih poganja AI – hitro in učinkovito. Qualcommov Hexagon DSP je bil uveden delno za rešitev tega: odličen je pri obdelavi slikovnih in senzorskih podatkov, zlasti fotografije.
Toda Hexagon DSP je sposoben veliko več kot popestriti selfije. Vključeni konteksti HVX (več o njih pozneje) mu dajejo prednost procesorjev za splošno uporabo in jeder s fiksno funkcijo; Hexagon 685 DSP je izjemno učinkovit pri računanju matematike za strojnim učenjem na napravi, vendar ohranja prilagodljivost bolj programabilnih procesorjev.
Čipi AI, kot je Hexagon 685 DSP, ki se včasih imenujejo "nevronske procesne enote", »nevronski motorji« ali »jedra strojnega učenja« so posebej prilagojeni matematičnim algoritmom umetne inteligence. potrebe. Po zasnovi so veliko bolj togi kot tradicionalni procesorji in vsebujejo posebna navodila in ureditve (v primeru Hexagon 685 DSP, zgoraj omenjena arhitektura HVX), ki pospešijo določene skalarne in vektorske operacije, ki postanejo opazne v velikih izvedbe.
Hexagon 685 DSP procesorja Snapdragon 845 lahko obdela na tisoče bitov vektorskih enot na cikel obdelave v primerjavi s povprečnim jedrom procesorja s stotinami bitov na cikel. To je načrtno. S štirimi vzporednimi skalarnimi nitmi za operacije VLIW (Very Long Instruction Word) in več konteksti HVX je DSP zmožen žonglirati z več izvršilnimi enotami na enem ukazu in hitro preiti skozi cela števila in decimalke s fiksno vejico operacije.
Hexagon 685 načrtuje visoko raven dela na cikel pri nižji taktni frekvenci, namesto da bi pospeševal zmogljivost skozi neobdelane MHz. Vključuje strojno večnitnost, ki dobro deluje za VLIW, saj večnitnost skrije zakasnitve cevovoda in omogoča boljšo uporabo paketov VLIW. Večnitnost DSP-ja pomeni, da lahko servisira več sej razbremenitve -- tj. sočasne aplikacije za zvok, kamero, računalniški vid in tako naprej -- in pospeši različne naloge hkrati, s čimer prepreči, da bi se aplikacije borile zanje čas izvedbe.
Vendar to niso edine prednosti Hexagon DSP. Njegova arhitektura nabora ukazov (ISA) se ponaša z izboljšano učinkovitostjo v primerjavi s tradicionalnim VLIW zahvaljujoč izboljšano nadzorno kodo in uporablja pametne trike za obnovitev zmogljivosti po nedejavnosti in zastoju niti. Izvaja tudi krožno razporejanje niti brez zakasnitve, kar pomeni, da niti DSP obdelajo nova navodila takoj po zaključku prejšnjega podatkovnega paketa.
Nič od tega ni novo, da bo jasno. Qualcomm je predstavil "prvo generacijo" (ali pravi) Hexagon DSP -- Hexagon 680 ali QDSP6 v6 -- poleg Snapdragona 820 leta 2015, Hexagonu 680 pa je sledil vedno tako malo izboljšan Šesterokotnik 682. Toda zadnja generacija je najbolj izpopolnjena doslej in zagotavlja do trikrat večjo skupno zmogljivost kot DSP procesorja Snapdragon 835.
To je v veliki meri zahvaljujoč HVX, ki je zelo dobro deloval pri obdelavi slik (pomislite na razširjeno resničnost, računalniški vid, video in slike). Registre HVX DSP lahko nadzirata katera koli dva skalarna registra, enote HVX in skalarne enote pa se lahko uporabljajo hkrati, kar ima za posledico znatno izboljšanje zmogljivosti in sočasnost.
Tukaj je Qualcommova razlaga:
»Recimo, da obdelujete na mobilni CPE v načinu nadzorne kode in preklopite v računalniški način na koprocesorju. Če potrebujete kontrolno kodo, se morate ustaviti in se vrniti iz koprocesorja v glavni CPE. S Hexagonom lahko tako procesor krmilne kode na DSP kot procesor računalniške kode na HVX delujeta istočasno za tesno povezovanje krmilne in računalniške kode. To DSP-ju omogoča, da vzame rezultat izračuna HVX in ga uporabi pri odločitvi o nadzorni kodi v naslednjem taktu.«
HVX nudi še eno veliko prednost pri obdelavi slikovnega senzorja. Naprave Snapdragon s Hexagon 685 DSP lahko pretakajo podatke neposredno iz slikovnega senzorja v lokalni pomnilnik DSP (predpomnilnik L2) mimo pomnilniškega krmilnika DDR naprave. To seveda zmanjša zakasnitev, a tudi izboljša življenjsko dobo baterije - procesor Snapdragon je zasnovan tako, da ves čas delovanja ne deluje.
Posebej je optimiziran za 16-bitna omrežja s plavajočo vejico in ga nadzira Qualcommova programska oprema za strojno učenje: Snapdragon Neural Processing Engine.
"To [jemamo] zelo resno," je dejal tiskovni predstavnik Qualcomma. "Zadnja tri leta smo sodelovali s partnerji, da bi jih uporabili [...] naš silicij za AI in slikanje."
Med temi partnerji je Google, ki je na primer uporabil del za obdelavo slik Hexagon DSP za napajanje algoritma HDR+ Pixel in Pixel 2. Medtem ko je Google predstavil tudi svoj Pixel Core, je treba omeniti, da so naprave, ki podpirajo Hexagon 685 DSP, tiste, ki dajejo najboljše rezultate s slavnimi vrati Google Camera, delno zaradi (kot smo potrdili) HVX uporaba. Facebook, drugi partner, je tesno sodeloval s Qualcommom, da bi pospešil Messengerjeve filtre in učinke kamere v realnem času.
Oppo je optimiziral svojo tehnologijo odklepanja z obrazom za Hexagon 685 DSP, Lenovo pa je okoli nje razvil funkcijo zaznavanja znamenitosti.
Eden od razlogov za bogato podporo platforme je njena preprostost. Qualcommov obsežen Hexagon SDK podpira jezik Halide za visoko zmogljivo obdelavo slik in ni potrebe skrbeti za okvire za usposabljanje strojnega učenja – implementacija modela je v večini tako preprosta kot klic API-ja primerih.
»Ne […] tekmujemo z IBM-om in Nvidio [na področju umetne inteligence], vendar imamo področja, ki jih razvijalci lahko izkoristijo – in jih že imajo,« je za XDA Developers povedal Qualcomm.
Heksagon vs. tekmovanje
Hexagon 685 DSP procesorja Snapdragon 845 se pojavi, ko vse več proizvajalcev originalne opreme (OEM) išče lastne rešitve umetne inteligence za mobilne naprave in naprave. Huaweijevega Kirin 970 -- sistem na čipu znotraj Mate 10 in Mate 10 Pro -- ima "nevronsko procesno enoto" (NPU), ki lahko domnevno prepozna več kot 2000 slik na sekundo pri samo 1/50 porabe energije povprečnega procesorja pametnega telefona. In sistem na čipu Apple A11 Bionic v napravah iPhone 8, iPhone 8 Plus in iPhone X ima "Neural Engine", ki izvaja modeliranje obraza v realnem času in do 600 milijard operacij na sekundo.
Toda Qualcomm pravi, da ima Hexagonova platforma agnosticizem prednost. Za razliko od Appla in Huaweija, ki večinoma silita razvijalce v uporabo lastniških API-jev, je Qualcomm od samega začetka skušal podpreti nekatera najbolj priljubljena odprtokodna ogrodja. Na primer, pri optimizaciji je sodeloval z Googlom TensorFlow, Googlovo platformo za strojno učenje, za Hexagon 685 DSP – Qualcomm pravi, da deluje do osemkrat hitreje in 25-krat bolj učinkovito kot na napravah, ki niso Hexagon.
Na Qualcommovi arhitekturi DSP, Googlovi GoogLeNet Inception Deep Neural Network -- algoritem strojnega učenja, zasnovan za ocenjevanje kakovosti sistemov za odkrivanje in razvrščanje objektov -- prikazani dobički v predstavitvenem prikazu ena aplikacija za prepoznavanje slik, ki jo poganja TensorFlow, na dveh pametnih telefonih: enem, ki poganja aplikacijo na CPE, in drugem, ki jo poganja na Qualcommovem Hexagonu DSP. Aplikacija za pametne telefone, pospešena z DSP, je zajela več slik na sekundo, hitreje identificirala predmete in imela večjo zanesljivost pri svojem sklepu o tem, kaj je predmet, kot aplikacija, ki uporablja samo CPE.
Google uporablja tudi Hexagon 685 DSP za pospešitev Project Tango, svoje platforme razširjene resničnosti za pametne telefone. Lenovo Phab 2 Pro, Asusov ZenFone AR in druge naprave z IR modulom za zaznavanje globine Tango in kamerami za sledenje slike izkoriščajo prednosti Qualcommove Arhitektura heterogene obdelave, ki delegira naloge obdelave med Hexagon 685 DSP nabora čipov Snapdragon, zvezdišče senzorja in slikovni signal procesor (ISP). Rezultat je "manj kot 10 odstotkov" režijskih stroškov na CPE sistema na čipu, glede na Qualcomm.
"Kolikor vemo, smo edini mobilni fantje, ki optimizirajo zmogljivost in energetsko učinkovitost," je dejal tiskovni predstavnik Qualcomma.
Seveda si tudi konkurenti prizadevajo razširiti svoj vpliv in spodbujati podporo razvijalcem na svojih platformah. Nevralni čip Kirin 970 je bil predstavljen s podporo za TensorFlow in Caffe (Facebookov odprt API okvir) poleg Huaweijevih API-jev Kirin, s TensorFlow Lite in kavarna2 integracija na poti pozneje letos. Huawei je sodeloval z Microsoftom pri optimizaciji svojega prevajalnika, ki ga poganja umetna inteligenca, za Mate 10.
Toda Qualcomm ima še eno prednost: doseg. Proizvajalec čipov je v prvi polovici leta 2017 obvladoval 42 odstotkov trga čipov za pametne telefone, sledita mu Apple in MediaTek s po 18 odstotki, poroča Strategy Analytics. Dovolj je reči, da se še ne trese v škornjih.
In Qualcomm napoveduje, da bo samo raslo. Proizvajalec čipov načrtuje 160 milijard dolarjev prihodkov do leta 2025 s tehnologijami programske opreme AI, kot sta računalniški vid in vidi trg pametnih telefonov – ki naj bi do leta 2021 dosegel 8,6 milijarde prodanih enot – kot največjega platforma.
S Hexagon 685 DSP in drugimi "terciarnimi" izboljšavami, ki se nenehno utirajo navzdol do srednjega razreda s strojno opremo je čipom Qualcomm tudi lažje prenesti strojno učenje na napravi v vse vrste naprav v bližnji prihodnosti. prihodnost. Ponujajo tudi priročen SDK za razvijalce (ni potrebe po igranju z zbirnim jezikom DSP), da izkoristijo prednosti Hexagon 685 DSP in HVX v svojih aplikacijah in storitvah.
"Potrebne so te namenske procesne enote za nevronsko obdelavo, vendar jih morate tudi razširiti, da boste lahko podpirali [odprtokodne] okvire," je dejal tiskovni predstavnik Qualcomma. "Če ne ustvarite tega ekosistema, razvijalci nikakor ne morejo ustvarjati na njem."