Travis Lanier iz Qualcomma razgovarao je s XDA o Kryo 485 CPU-u u mobilnoj platformi Snapdragon 855 i marketingu Hexagon 690 DSP-a.
Prošlog mjeseca Qualcomm je predstavio Snapdragon 855 mobilna platforma. Snapdragon 855 je mobilna platforma koja će pokretati većinu Android pametnih telefona u 2019. godini. Qualcomm je napravio značajna poboljšanja iz godine u godinu sa svojom mobilnom platformom sljedeće generacije. Mobilna platforma Snapdragon 855 izgrađena je na 7nm proizvodnom procesu i nudi impresivan skok od 45% u CPU performansama u odnosu na Snapdragon 845. Opća poboljšanja u računanju omogućuju Qualcommu da se pohvali izvrsnim AI performansama na novom Snapdragonu 855. Ovdje ima mnogo informacija koje treba raspakirati, a mi smo se potrudili pokazati ih kako je Qualcomm poboljšao performanse i AI na Snapdragonu 855. Međutim, i dalje smo imali pitanja nakon predstavljanja proizvoda, pa smo razgovarali s Travisom Lanierom, starijim Direktor upravljanja proizvodima u Qualcommu, kako bi govorio o Kryo 485 CPU-u i umjetnoj inteligenciji na Qualcommovom novom mobitelu platforma.
Mario Serrafero: "45% [skok], kao da je najveći ikad. Odmotajmo to. Imamo bazu A76, 7nm—to su veliki doprinosi. Čini se da ste otkad ste se odmaknuli od prilagođenih jezgri, nekih publikacija i publike nisam imao puno pojma o tome što licenca Built on ARM podrazumijeva u smislu onoga što može dopustiti ti učiniti. Bio si prilično tajanstven o tome što to podrazumijeva [također]. Sada ste na pozornici jedan od prvih puta, barem osim pitanja i odgovora, ...ali po prvi put ste pokazali koja su poboljšanja, i to je super. Stoga smo se pitali želite li proširiti kako je Qualcomm ugodio Kryo 485 da izvuče više iz ARM-ova baza, bilo da se radi o proširenju stvari koje ste tamo izložili ili o nečemu što niste predstavili."
Travis Lanier: "Dakle, zapravo ne mogu reći previše od onoga što je bilo na mojim slajdovima. Možda u budućnosti možemo, tako da možemo sjesti i dovesti neke stručnjake koji su stvarno obavili posao; Znam teme razgovora na visokoj razini. Ali kao što znate, A76 je već dizajn na visokoj razini—prilično je dobar. I to je jedan od razloga zašto smo vidjeli ARM-ov plan. Pomislio sam, u redu, možda bismo trebali bliže surađivati s tim dečkima, jer je izgledalo vrlo snažno. Vratimo se samo na vaš komentar o prilagodbi u odnosu na ARM. Dakle, u redu, postoje sve ove stvari koje možete učiniti. A ako nešto radite, i to treba imati diferencijaciju, tako da možete učiniti nešto sto posto ili partner s njima. I [kao i] prethodnih godina, malo smo više o integraciji. Dakle, autobusi, i način na koji smo se spojili na sustav, njihove sigurnosne značajke koje smo stavili u CPU, konfiguracije predmemorije. Sada kada angažmani traju dulje, mogli smo izvršiti dublju prilagodbu ovog. I tako smo uspjeli staviti neke od ovih stvari tamo, poput većih prozora za izvođenje [izvan reda], točno, tako da imate više upute u letu, prethodno dohvaćanje podataka zapravo je jedno od područja u kojima ima najviše inovacija u industriji mikroprocesora sada. Mnoge tehnike za mnoge od ovih stvari su prilično slične, danas svi koriste TAGE prediktor grana, koliko velik ga osiguraš, ljudi znaju kako raditi izvan reda, i prosljeđivanje i sve te stvari za veće predmemorije. Ali prethodno dohvaćanje, ima još puno toga, to je jedna od onih mračnih umjetničkih stvari. Dakle, još uvijek ima puno inovacija u tom prostoru. To je nešto za što smo smatrali da možemo pomoći.
I onda samo zato što smatramo da općenito radimo bolji posao s... obično možemo implementirati dizajn brže nego što drugi mogu integrirati procesni čvor. I tako, kada stavimo neke od ovih stvari unutra, kao kada se više poremetite, to je više stresa za vaš dizajn, zar ne? Nije besplatno dodati sve te stvari za izvršenje tamo. Dakle, moći to učiniti, a ne imati udarac na svome fmax. Da, to je dio angažmana koji imamo s ARM-om, na primjer kako ih izvoditi?"
Mario Serrafero: "Samo iz znatiželje, u prezentaciji ste govorili o poboljšanjima učinkovitosti koja dolaze od prethodnog dohvaćanja, jeste li govorili o energetskoj učinkovitosti, poboljšanjima performansi, pomalo oba?"
Travis Lanier: "Sve od navedenog. Dakle, po svojoj prirodi, mi radimo prethodno dohvaćanje - vi ste izvukli stvari u predmemoriju. Dakle, kada predmemorija ne obavlja toliko pristupa memoriji, sada postoji i druga strana prethodnog dohvaćanja: ako radite previše prethodnog dohvaćanja, [koristite] više memorije jer znam, [vi] radite previše spekulativnog prethodnog dohvaćanja, ali što se tiče, ako imate stvari i izvlačite prave stvari, onda ne idete u memoriju da to uvučete tamo. Dakle, ako imate učinkovitiji prefetcher, štedite energiju i povećavate performanse."
Mario Serrafero: "U redu, super, da. Da, nisam očekivao da ćeš se moći proširiti dalje od toga, ali zanimljivo je da ako to kažeš sada se vi više prilagođavate i možda budete u mogućnosti dijeliti više u budućnosti, onda ću paziti na to. Dakle, druga vrsta ljudi koji okreću glavu, barem među ljudima kojima sam okružen, je primarna jezgra. Dakle, očekivali smo vrstu fleksibilnijih, klasterskih aranžmana već nekoliko godina s [] uključivanjem DynamIQ-a i da smo očekivali da će se druge tvrtke odmaknuti od [] 4+4 aranžmana. Dakle, dva pitanja: Koji je bio motiv iza primarne jezgre? Na koji način primarna jezgra koristi korisničkom iskustvu, budući da bi naši čitatelji željeli znati zašto tamo postoji samo usamljena jezgra i zašto to nije baš usamljena jezgra? Ne bi li dijeljenje razine napajanja s klasterom performansi na neki način ublažilo neke od korisnosti koje biste mogli dobiti ako biste koristili DynamIQ i na neki način [ga] držali samostalno?"
Travis Lanier: "Razgovarajmo prvo o različitim satovima i različitim naponskim ravninama. Dakle, svaki put kada dodate sat i svaki put kada dodate napon, to košta. Dakle, postoji ograničenje broja pinova koje stavljate na paket, postoji više PLL-ova koje morate imati za različite satove i tu je samo povećana složenost. Dakle, postoji kompromis za obavljanje stvari. U jednom smo trenutku otišli u neku krajnost; imali smo četiri različite domene na četiri različita sata, pa smo imali iskustva s tim i bilo je skupo. Nekako kad počneš rasti. LITTLE, imate male jezgre na [malom] klasteru i njima nije baš potrebna ta ista granularnost, da tako kažem, zasebnog takta između malih jezgri. Da, nekako je u zraku što ćete učiniti s njima. Pa kad imate veliku. MALI sustav, onda obrnuto imate ove velike jezgre. Pa, dobro, stavljaš li svaki od njih na veliki sat? Pa, ne radiš na njima cijelo [] vrijeme, ako si zapravo u dovoljno niskoj situaciji u kojoj će sat nezauzet ionako raditi na maloj jezgri. Pa stvarno, njih dvoje je dovoljno dobro.
I onda dođete do mjesta gdje smo imali ovu glavnu jezgru gdje u redu, dobro, imamo odvojenu taktnu jezgru, koja može raditi na višoj frekvenciji. Ali ove druge jezgre, drugi klasteri performansi, ne mogu ići do iste visoke frekvencije. Dakle, ako želite dobiti to puno pravo te jezgre, morate imati taj treći takt za tu jezgru. Dakle, što ova jezgra radi? Toga smo se malo dotakli. Velike stvari bit će [] pokretač aplikacija i pregledavanje weba. I zašto samo jedna jezgra? U redu, stvari sada postaju višenitne. Na primjer, motori igara - vratit ću se na to za sekundu - vrlo se agresivno kreću prema više niti. Ali ako pogledate većinu aplikacija, čak i ako imaju više niti, upotrijebit ću Pareto pravilo, kao i većina njih, 80% učitavanja je u jednoj niti. Dakle, možete pokrenuti [an] aplikaciju, i ona se može pokrenuti i zasvijetliti na svih 8 jezgri. Ali više je nego vjerojatno da je 80% toga u jednoj dominantnoj niti - to je u toj jednoj jezgri. Pregledavanje weba još uvijek je primarno, dobro, JavaScript, rekao bih — pregledavanje weba postalo je malo bolje s višenitnošću gdje možete imati više slika i možete ih dekodirati. Ali, na primjer, JavaScript—[jedna] nit će se izvoditi na jednoj jezgri. Dakle, postoji veliki broj slučajeva korištenja koji imaju koristi od ove jedne jezgre koja je išla jako visoko.
Sada imamo tri jezgre koje rade malo na nižoj frekvenciji, ali su i energetski učinkovitije. I tako, kad god vi—ne znam koliko znate o implementaciji jezgri—ali kad god počnete dosezati vrh frekvencije, i implementacije ovih jezgri, postoji kompromis u snazi, stvari počinju biti eksponencijalne u tih zadnjih nekoliko megaherca ili gigaherca koje ste imati. Da, pričao sam o tome prije sekunde, gdje, hej, sve igre počinju dobivati višenitnost, kao i sve Odjednom, ako pogledate unatrag, postojalo je nekoliko igara ne tako davno, a oni koriste samo jednu nit. Ali čudno je kako se industrija brzo može promijeniti. Kao i proteklih godinu, godinu i pol dana, doslovno su počeli stavljati sve ove igre u... Uzbudio sam se zbog ovih igara visoke vjernosti. I tako, dok je puno stvari, kao i prije šest mjeseci do godinu dana, prije, zapravo preokrenulo cijelu Kinu. U Kini čujem "Nije me briga za velike jezgre, dajte mi osam od bilo čega, dajte mi osam najmanje jezgre tako da mogu imati osam jezgri." Promijenili su se jer žele ove igre, ove igre zahtijevaju velike jezgre. A sada dobivamo povratne informacije od partnera da "ne, mi zapravo želimo četiri velike jezgre", zbog svih naprednih igara koje izlaze. I oni će koristiti sve te jezgre.
Dakle, kada igrate, ne igrate 30 sekundi, ili 5 minuta, igrate duže. Dakle, ima smisla, imamo ove tri druge jezgre u većini vaših višenitnih slučajeva velike jezgre, žele imati malo veću energetsku učinkovitost. Nekako je u ravnoteži, imate ovu jezgru viših performansi kada vam je potrebna za neke od ovih stvari unutar nekih od ovih trajnih kućišta gdje također imaju velike jezgre i imate ovo energetski učinkovitije rješenje za uparivanje da. To je na neki način razmišljanje - to je pomalo neobična simetrija. Ali nadamo se da to odgovara zašto [postoji] glavna jezgra, zašto nemate odvojene satove i zašto nemate odvojene napone? I tako mislim da sam se dotakao svega toga."
Mario Serrafero: "Sada, heterogeno računanje. To je ono što je Qualcomm naglašavao od prelaska sa starog brendiranja na mobilnu platformu, i tu vrstu [a] deskriptora, a također i skupljanje blokova za opisivanje određenih metrika izvedbe kao što su AI. Kako je ta evolucija bila u prelasku na heterogeniji računalni pristup? Bilo gdje, od dizajna preko izvedbe do marketinga ili čega god se možete dotaknuti."
Travis Lanier: "Ide malo naprijed-natrag. Ali na kraju, morate imati te motore jer je u mobilnom telefonu glavna stvar energetska učinkovitost. Sada ponekad vidite da se s vremena na vrijeme vraća na generalizaciju. Ako se vratite svom izvorniku, čak i za pametne telefone, telefoni s značajkama imali su multimediju i kameru sposobnosti do neke mjere i tako imaju sve te male namjenske stvari jer vi niste mogli učini to. Ako se vratite na telefone koji su izgrađeni na ARM 9 ili ARM 7, svi su imali widget za hardversko ubrzanje za sve.
Ali da vam dam primjer, gdje je nešto krenulo općenito i onda opet traže hardver, bio bi JPEG. Nekad je postojao JPEG akcelerator. CPU je na kraju postao dovoljno dobar i bio je dovoljno energetski učinkovit, a JPEG-ovi su na neki način ostali isti iste veličine koja, hej, znaš što, samo ćemo ići naprijed i učiniti to na CPU-u [jer] je jednostavno lakše napraviti to. Sada, kako slike postaju sve veće i veće, iznenada, ljudi idu, znate, zapravo, želim da se te stvarno ogromne veličine foto datoteka ubrzaju. CPU [su] na neki način ili nedovoljno brzi ili troše previše energije. Odjednom se pojavio interes za potencijalnim ponovnim JPEG akceleratorima. Dakle, nije uvijek ravnomjerno kako stvari idu, onda morate pogledati što se trenutno događa s Mooreovim zakonom. Svi pričaju o tome, hej, možda nisi mrtav, ali malo usporava, zar ne? Dakle, ako ne dobivate to povećanje snage ili povećanje performansi od svakog sljedećeg čvora, kako ćete nastaviti stavljati više funkcionalnosti na telefon ako nemate te dodatne troškove? Dakle, možete ga jednostavno staviti na CPU. Ali ako nemate više prostora za svoj CPU, kako ubrzati ove stvari? Pa odgovor je da sve te specijalizirane jezgre i stvari stavljate učinkovitije. I tako je to ta prirodna napetost.
Vidjet ćete ljude koji su prisiljeni raditi te stvari za uobičajene funkcije jer možda neće svi biti na rubu krvarenja. Ali svakako ćemo pokušati ostati ondje što je dulje moguće, ali ne možemo prisiliti tvornice da pređu na sljedeći čvor ako on tamo nije nužno. Zato se morate usredotočiti na stalne inovacije i ove arhitekture kako biste nastavili dobivati bolje performanse i energetsku učinkovitost. Dakle, to je naša snaga i naša pozadina."
Mario Serrafero: "Iako je došlo do prelaska na heterogeno računanje, s Qualcommove strane, mnoga publika i svakako mnoge publikacije, svakako mnogi entuzijasti, iznenađujuće, za koje mislite da bi bolje poznavali, još uvijek razmišljaju, razmatraju i ocjenjuju blokove kao zasebne entiteta. I dalje se fokusiraju na: "Želim vidjeti CPU brojke jer mi je do toga stalo." Oni žele vidjeti GPU brojeve jer vole igrice, i tako dalje. Ne smatraju ih komuniciranim dijelovima jednog integralnog proizvoda. Što mislite, kako je Qualcomm uspio, jest i može razbiti tu paradigmu dok se konkurenti zapravo stalno fokusiraju na tu specifičnu vrstu poboljšanja marketinga blok po blok? Točnije, [mi ćemo] prijeći na neuronske mreže, neuronske motore kasnije."
Travis Lanier: "Nadam se da sam se danas dotaknuo nečega od toga. Usredotočeni smo na, na primjer, kontinuirano igranje, tako da možda postignete dobre rezultate na svim referentnim vrijednostima za igranje. Ljudi postaju opsjednuti time. Ali zapravo, ono što je bitno jest, ako igrate svoju igru, ostaju li vaši okviri u sekundi dosljedno tamo gdje želite da budu na najvišoj točki za ove stvari? Mislim da ljudi pridaju previše težine broju za jedan od ovih blokova. Tako je teško i razumijem tu želju da mi date jedan broj koji mi govori što je najbolje. To je jednostavno tako zgodno, posebno u AI trenutačno, da je jednostavno ludo. Čak i uz CPU benchmarkove, što mjeri CPU benchmark? Svi mjere različite stvari. Uzmite bilo koje mjerilo, kao što je GeekBench koji ima hrpu podkomponenti. Vidite li da je itko ikada razdvojio i pogledao koja je od ovih podkomponenti najrelevantnija za ono što zapravo radim?"
Mario Serrafero: "Ponekad, mi."
Travis Lanier: "Možda vi znate. Vi ste kao autlier. Ali kao da je možda jedan CPU bolji u ovome, a možda je jedan bolji u drugom. Ista je stvar sa SPEC-om, ljudi će istaknuti jedan SPEC, dobro, u redu, postoji puno različitih radnih opterećenja unutar toga. I to su prilično tijesne stvari, ali čak i SPEC, koji zapravo koristimo za razvoj CPU-a, ako pogledate stvarna radna opterećenja, jesu li oni zapravo relevantni? Izvrstan je za usporedbu opterećenja radne stanice, ali radim li stvarno molekularno modeliranje na svom telefonu? Ne. Ali opet, želim reći da je većina ovih mjerila korisna na neki način, ali morate razumjeti kontekst čemu [služi] i kako to postići. I tako je stvarno teško svesti stvari na jednu brojku.
Vidim ovo posebno - ovdje se malo okrećem - ali vidim ovo s umjetnom inteligencijom upravo sada, to je ludnica. Vidim da postoji nekoliko različitih stvari koje ne bi dobile jedan broj za AI. I koliko god sam govorio o CPU-u, imate sva ta različita opterećenja i pokušavate dobiti jedan broj. Bože, AI. Postoji toliko mnogo različitih neuronskih mreža i toliko različitih radnih opterećenja. Pokrećete li ga u pokretnom zarezu, pokrećete li ga u int-u, izvodite li ga s 8 ili 16-bitnom preciznošću? I ono što se dogodilo je, vidim da ljudi pokušavaju stvoriti ove stvari i, pa, mi smo odabrali ovo opterećenje, i učinili smo to u pomičnim zarezom, a mi ćemo ponderirati 50% naših testova na ovoj jednoj mreži i dva druga testa, a mi ćemo ih ponderirati na ovaj. U redu, koristi li itko zapravo to konkretno opterećenje na toj mreži? Ima li stvarnih aplikacija? AI je fascinantan jer se kreće tako brzo. Sve što vam kažem vjerojatno će biti netočno za mjesec ili dva. Dakle, to je također cool u vezi toga, jer se jako mijenja.
Ali najveća stvar nije hardver u AI-ju, već softver. Jer svi ga koriste, kao, ja koristim ovu neuronsku mrežu. I tako u osnovi, tu su svi ti množitelji. Jeste li optimizirali tu određenu neuronsku mrežu? Jeste li optimizirali onaj za referentnu vrijednost ili optimizirate onaj pa će neki ljudi reći, znam što sam stvorio mjerilo koje mjeri super rezoluciju, to je mjerilo za super rezoluciju AI. Pa, oni koriste ovu mrežu i možda su to učinili u pokretnom zarezu. Ali sa svakim partnerom s kojim surađujemo, ili smo uspjeli to učiniti 16-bitnim i/ili 8-bitnim i koristeći drugu mrežu. Dakle, znači li to da nismo dobri u super rezoluciji, jer se ovaj rad ne poklapa s tim? Dakle, moja jedina poenta je da je AI benchmark[ing] stvarno kompliciran. Mislite da su CPU i GPU komplicirani? AI je jednostavno lud."
Mario Serrafero: "Da, postoji previše vrsta mreža, previše parametrizacija - različita parametrizacija dovodi do različitih učinaka, kako se izračunava."
Travis Lanier: "To će zaokupiti recenzente."
Mario Serrafero: "Ali ako želite izmjeriti cijeli niz stvari, to je puno teže. Ali da, nitko to ne radi."
Mishaal Rahman: "Zato se vi dečki više fokusirate na slučajeve upotrebe."
Travis Lanier: "Mislim da na kraju, nakon što pokažete slučajeve upotrebe, to je koliko je vaša umjetna inteligencija trenutno dobra. Sve se svodi na softver, mislim da će još malo sazrijeti za nekoliko godina. Ali trenutno postoji toliko puno posla na softveru koji se mora obaviti, a onda se promjene poput, U redu, pa, ova mreža je vruća i onda kao, sljedeće godine, "Oh, ne, pronašli smo novu mrežu koja je učinkovitija u svim tim stvarima," pa onda morate ići ponovno softver. To je prilično ludo."
Mario Serrafero: „Kad smo već kod NN-a, ti si za mene napravio tranziciju, manje neugodno razmišljanje o tranziciji za mene. Prelazimo na Hexagon. Ovo je na neki način jedna od komponenti koju najmanje razumiju, rekao bih, potrošači, čak i većina entuzijasta, svakako moji kolege. Znate, pogotovo s obzirom na to da nije uveden kao AI blok, i kao cijela ideja digitalne obrade signala, znate, kada uvedete nešto ta se izvorna ideja na neki način zadrži, pa ako nešto radite da biste učinili, u redu, to je neuralna stvar s neuralnom, neuralnom, neuralnom moždanom inteligencijom, to se na neki način drži narod. Imaju AI strojno učenje neural, neural, neural oznake za druga rješenja. Želimo vam možda dati priliku da objasnite evoluciju Hexagon DSP-a, zašto se niste odmaknuli od toga nazivi koji zvuče inženjerski kao što su Hexagon DSP, vektorska proširenja itd. koji nisu marketinški prijateljski. Ali da, možda kao kratki pregled toga kako ste vi na čelu DSP-a vidjeli kako ide od početaka radnog opterećenja obrade slika do potpuno novog akceleratora tenzora."
Travis Lanier: "To je zapravo zanimljiva točka jer neki od naših konkurenata zapravo imaju nešto što će nazvati neuralni motor ili neuralni akcelerator—to je zapravo DSP, to je ista stvar. Pretpostavljam da je ime važno, ali dotakli ste se važne točke i iskreno govoreći, kada smo ovo objavili, bilo je to za snimanje, slučajno podržavamo 8 bita. I sjećam se da smo predstavljali na Hot Chipsu i Pete Warden iz Googlea nas je na neki način pronašao i rekao: "Hej, vi... znači vi dečki podržavate 8 bita, ha?" Da, imamo. I tako smo odatle odmah izašli i kao, hej, imamo sve [ove] projekte u tijeku. Tada smo otišli i prenijeli TensorFlow na Hexagon, jer to je kao, hej, imamo ovakav 8-bitni podržani vektorski procesor za to, a bio je na našem Hexagon DSP-u. Da moram sve ispočetka, vjerojatno bih ga nazvao Hexagon Neural Signal Processor. I još uvijek imamo drugi DSP, imamo skalarne DSP-ove i to je DSP u pravom smislu riječi. I onda ovu vrstu vektorskog DSP-a nazivamo. Možda bismo ga trebali preimenovati, možda bismo ga trebali nazvati procesor neuronskih signala jer si vjerojatno ne pridajemo toliko zasluga koliko trebao za ovo jer, kao što sam rekao, neki ljudi jednostavno imaju vektorske DSP-ove i zovu ih kako god, a nisu otkrili kako god to je. Jesam li ti odgovorio na pitanje?"
Hexagon 690 Pregled. Izvor: Qualcomm.
Mario Serrafero: "Dakle, da, tako je vjerojatno veći dio."
Travis Lanier: "Koje je bilo drugo pitanje?"
Mario Serrafero: "Baš kako ste interno vidjeli taj razvoj. Kako je bilo: iskustvo, poteškoće, izazovi, što god nam želite reći? Kako [ste] vidjeli evoluciju od početaka obrade slike do akceleratora tenzora?"
Travis Lanier: "Bilo je malo frustrirajuće jer kao da je stvar zbog koje se naježim kao da će neki novinari podići ruku i reći: "Qualcomm, iza čega toliko kasniš! Zašto nisi—Kada ćeš dobiti namjenski procesor neuralnih signala?” a ja samo želim da se lupam po glavi. Bio sam kao da smo prvi koji imaju vektorski procesor! Ali to je rečeno, mi ovo uređujemo i vjerojatno će biti još stvari kako budemo učili više o umjetnoj inteligenciji. Dakle, dodali smo ovu drugu stvar i da, ova je—radi samo AI, ne radi obradu slike kao dio šesterokutnog kompleksa, tako da nudite... dok ga još uvijek zovemo Hexagon DSP, cijeli kompleks zovemo Hexagon procesor [da] pokušamo dobiti uhvaćeni naziv za cijelu heksagonsku stvar sada. Dodali smo stvari koje su zapravo izravnije izračunavanje, ne bih trebao reći izravno izračunavanje, poput toga ima ovo automatsko upravljanje načinom na koji radite ovu mapu višeg reda gdje se množite matrice."
Mario Serrafero: "Tenzore mi je zapravo prilično teško obuhvatiti glavom. Ionako kao da se i oni omotaju oko sebe."
Travis Lanier: "Da, mislio sam, pohađao sam satove linearne algebre na koledžu. Učinio sam to kao čovjek, "Nadam se da to više nikada neću morati učiniti!" I vratili su se s osvetom. Pretpostavljam da sam rekao: 'O, čovječe, diferencijalne jednadžbe i linearna algebra vratile su se s osvetom!'"
Mario Serrafero: "Osjećam da mnogi moji kolege nisu shvatili ovo. Još uvijek misle da postoji taj mistificirajući aspekt NPU-a kada je to samo hrpa množenja matrica, točkastih produkata, funkcija nelinearnosti, konvolucija [i] tako dalje. I osobno ne mislim da takav naziv motora za neuronsku obradu pomaže, ali u tome je stvar, zar ne? Koliko od toga nije prošireno, zamagljeno, na neki način temeljna matematika izbačena, konvencijama o imenovanju, i što se možda može učiniti? Ne znam jeste li razmišljali o ovome. [Što] se može učiniti da se ljudi informiraju o tome kako to funkcionira? Kako to nije jednostavno, zašto, na primjer, zašto DSP može učiniti ono što mogu drugi novi strojevi za neuronsku obradu? Mislim, to je samo matematika, ali izgleda da korisnici, čitatelji, neki novinari to ne razumiju. Što može - ne kažem da je to odgovornost Qualcomma - ali što mislite da bi se moglo učiniti drugačije? To je vjerojatno moja odgovornost."
Travis Lanier: "Iskreno, počinjem se predavati. Možda stvari jednostavno moramo nazvati "neuralnim". Upravo smo pričali o tome kako su nam se vrtjele glave od linearne algebre i diferencijalnih jednadžbi kad smo ih počeli gledati stvari, pa kad počnete to pokušavati objasniti ljudima kao kad počnete raditi regresijsku analizu, gledate jednadžbe i te stvari, glave ljudi eksplodirati. Možete naučiti većinu ljudi osnovnom programiranju, ali kad ih počnete učiti kako funkcioniraju jednadžbe širenja unatrag, oni će to pogledati i glave će im eksplodirati. Pa da, zabavne stvari. Oni ne žele vidjeti djelomične derivate..."
Mario Serrafero: "Lanci parcijalnih derivacija, ne preko skalara nego preko vektora i uključujući nelinearne funkcije."
Travis Lanier: "Sretno s tim! Da, teško je i ne znam želi li većina ljudi znati za to. Ali trudim se: ubacim nešto poput: "Hej, sve što mi ovdje radimo je vektorska matematika. Imamo vektorski procesor.” I mislim da ljudi to gledaju i kažu: "U redu, ali čovječe, stvarno želim neural akcelerator." "Tenzor" je još uvijek matematički, ali mislim da bi ljudi to mogli malo više povezivati s umjetnom inteligencijom obrada."
Mario Serrafero: "Moglo bi biti kao premošćivanje jaza, semantičkog jaza."
Travis Lanier: "Na kraju, mislim da se svelo na to da vjerojatno jednostavno moramo smisliti drugo ime."
Sve grafike u ovom članku potječu iz prezentacije Travisa Laniera na Snapdragon Tech Summitu. Možete pogledati slajdove prezentacije ovdje.