Rozhovor: Qualcomm o AI a Hexagon 690 DSP Snapdragon 855

Keď spoločnosť Qualcomm predstavila svoju novinku Mobilná platforma Snapdragon 855, navrhli podstatné vylepšenia vo všetkých aspektoch mobilnej výpočtovej techniky. Pre bežného používateľa je to ľahké pochopiť výhody pre koncového používateľa za vylepšeniami CPU a GPU ktorý Qualcomm vyrobil v Snapdragon 855. Lepší výkon procesora sa premieta do rýchlejšieho načítavania aplikácií a lepší výkon GPU sa premieta do lepších snímkových frekvencií pri hraní hier. Čo je pre používateľov menej intuitívne na pochopenie, je AI (umelá inteligencia) a konkrétne techniky strojového učenia, ktoré aplikácie a služby čoraz častejšie prijímajú, ako napríklad umelé neurálne siete. Qualcomm dosiahol obrovské zisky vo výkone pracovného zaťaženia AI so Snapdragonom 855 vďaka vylepšeniam vo výpočtovej technike a najmä vďaka prepracovanému Hexagon 690 DSP. Sadli sme si s Garym Brotmanom, vedúcim AI a stratégie strojového učenia a produktového plánovania v Qualcomme, a Ziadom Asgharom, viceprezidentom Snapdragon Roadmap Planning a AI, XR, Competitive Strategy v Qualcomm, aby ste sa dozvedeli viac o vylepšeniach, ktoré Qualcomm urobil v pracovných zaťaženiach AI.

---

Mario Serrafero: "Takže nový DSP. Minulý rok som sa vás pýtal na stratégiu útoku s ohľadom na to, ako Qualcomm presadzoval, propagoval, predával a komunikoval najmä DSP a HVX. V tom čase bol ako blok AI pre väčšinu čitateľov a spotrebiteľov stále relatívne nový. Takže sme zvedaví, ako ste videli, ako sa to odvtedy vyvinulo s ďalšou propagáciou 845."

Gary Brotman: „V prvom rade, keď sme to začali robiť s 820, stále to bolo veľmi zamerané na CPU a GPU a využívali DSP a možnosti vektorového spracovania skutočne vznikli ako výsledok toho, kam sa Google snaží smerovať s TensorFlow a 8-bit matematika. Takže to je miesto, kde sme si skutočne natiahli nohy v DSP alebo povedzme vektorových procesoroch. Vzhľadom na vyspelosť vektorového procesora, ktorý máme v Hexagone, a spôsob, akým sme boli schopní pokročiť v tomto pláne tak rýchlo v nasledujúcich dvoch generácie a prípady použitia, ktoré sme videli a ktoré boli v tom čase základné klasifikačné siete celkom jednoduché, heft. Môžu fungovať dobre s 8-bitovou matematikou. Vyhradený urýchľovač, dokonca aj minulý rok, bol rizikom pre v podstate prideľovanie oblasti niečomu, čo si nemusí zvyknúť. Súbeh pre prípady použitia a je to čokoľvek od štandardnej jednej kamery, vysokého rozlíšenia alebo segmentácie v reálnom čase. Tieto veci sa v niektorých prípadoch dejú súčasne s požiadavkou mať aspoň určitú úroveň vyhradenej akcelerácie, ktorú môžete zastaviť a stále čítať cykly na vektorovom procesore alebo dokonca na GPU. Bol ten správny čas.

Je to určite niečo, čo sme si museli naplánovať oveľa skôr, ako keď sme sa rozprávali naposledy, ale myslím si, že všetci tento podnik vsádza, že presne alebo takmer presne vie, aké bude toto pracovné zaťaženie. Aký typ presnosti by mal byť potrebný a či ste urobili alebo nevyčlenili dostatok výpočtov na uspokojenie tohto zhluku prípadov použitia, ktoré prichádzajú. V tom sme dosť uvážliví – Qualcomm bol vždy zameraný na prípady použitia – a nechceli sme spustiť riziko, že budete mať vyhradené zrýchlenie, ktoré by sa nepoužilo, pretože by mohlo byť v poslednom čase zastarané cyklu. Len z hľadiska všeobecnej konvolúcie vidíme dosť, že špecializovaný urýchľovač môže urobiť fantastickú prácu. Opäť uvoľnenie cyklov inde. Pokiaľ ide o stratégiu, ktorú máme s týmto novým akcelerátorom: Je oddaný, je to nová architektúra. Nie je to Hexagon derivát. Ale ak sa dnes zamyslíte nad sieťou, existujú určité nelineárne funkcie, ktoré nefungujú dobre na niektorom z vyhradených zrýchlení –“

Mario Serrafero: "Áno, sigmoid, ReLU-"

Gary Brotman: "Presne tak, Softmax. A musíte ich umiestniť inam alebo do CPU. Ale v našom prípade, tak ako sme to skonštruovali pod kapotou, DSP je vlastne ovládanie. Určuje, kde beží sieť a kde bežia vrstvy, a môže rozhodnúť, či existujú určité veci, ktoré by mali bežať na DSP ako záložný alebo na tenzorovom procesore. Takže to párovanie nám vlastne dávalo veľký zmysel. Ale to neznižuje naše presvedčenie a našu stratégiu, že každé primárne jadro v našom SoC má a rolu, takže optimalizujeme plošne, no stále je tu veľká variabilita a to sa stane ďalej."

Mario Serrafero: „Ďalšou témou, o ktorej chceme hovoriť, sú prípady použitia. Ako ste povedali, Qualcomm je veľmi zameraný na prípady použitia, videli sme, ako AI prichádza do mobilných zariadení v troch hlavných oblastiach: rozpoznávanie reči, sekvenčná predikcia ako pri reťazcoch a písaní a samozrejme počítačové videnie ako filtre AI [a objekt uznanie]. Počítačové videnie explodovalo, teraz ho vidíte všade. Pri rozpoznávaní reči som videl, že každý má svojho vlastného asistenta AI, každý má svojho vlastného asistenta. Teraz všetko, čo sa dá urobiť na hrane, s malou latenciou a dokonalým zabezpečením. Ale čo bude ďalej s prípadmi použitia strojového učenia a budú všetky tieto prípady použitia vyvíjať veľké spoločnosti na svete – všetky Snapchaty na svete, Facebooky? Ako vidíš to kotúľanie?"

Gary Brotman: „Nemyslím si, že môžem poukázať na prípad použitia vraha. Možnosti však umožňujú väčšiu výpočtovú náročnosť a v prípade videnia môže byť vstupné rozlíšenie vyššie. Nepracujete na obrázkoch s nízkym rozlíšením, aby ste vytvorili bokeh. V inom rozhovore, ktorý sme mali ako príklad okolo 4K streamovania, sa už diskutovalo. Nebudem predpovedať, že je to možné, ale vývojári, s ktorými spolupracujeme, či už ide o veľké spoločnosti ako Google alebo naše partneri na vývoj softvéru, ktorí v skutočnosti vytvárajú algoritmy, ktoré poháňajú mnohé z týchto mobilných funkcií, len chcú tlačiť viac. Chcú ísť ďalej. Ak by som niečo videl z hľadiska ďalších krokov, pravdepodobne by to bolo menej o tom, čo sa deje nad čiarou alebo na úrovni aplikácie, a viac o tom, čo sa deje v systéme, ako je zlepšenie spôsobu, akým produkt funguje, správa napájania a dokonca aj vo vedení kamier, nielen na to. Spomenuli ste zvuk a počet kľúčových slov, ktoré budete podporovať, alebo či by ste mohli urobiť potlačenie hluku na zariadení. Kľúčové slovo je zaujímavé, pretože nie je ľahké vybudovať knižnicu – máte obmedzenú pamäť. Takže stále bude existovať rovnováha medzi tým, čo je lokálne, a tým, čo sa stane v cloude."

Ziad Asghar: „Môžem trochu pridať. Takže prinajmenšom dve oblasti, v ktorých to tak trochu rastie, sú dnes zvuk a obraz. Vidíme, že má veľa prípadov použitia. Jack o tom hovoril z pohľadu kamery, mali sme AI engine, kde toho môžete veľa využiť v prípadoch použitia pri zobrazovaní. Niektoré z tých, ktoré sa dnes ukázali. A potom, keď sa pozriete na zvuk, nehovorili sme o ňom toľko, ale v skutočnosti sme pridali aj niektoré zvukové funkcie do zvukového bloku. Sme schopní urobiť lepšiu hlasovú aktiváciu v hlučnejších prostrediach. Sme schopní urobiť lepšie potlačenie šumu [pri zobrazovaní]. Všetky tieto schopnosti sa už v podstate dejú. Sú partneri, ktorých Gary dnes ukázal pre ISP, prichádza ich oveľa viac. Takže si myslím, že to sú dva rozmery, na ktoré sa dnes viac zameriavame."

Gary Brotman: „A potom ďalším krokom – nebudem predpovedať, kedy sa to stane – je teraz dostatok výpočtov, kde učenie na zariadení a experimentovanie so skutočným učením na zariadení sa pravdepodobne uskutoční v tomto ďalšom kroku cyklus."

Mario Serrafero: „Toto je pravdepodobne téma, o ktorej je zábavnejšie diskutovať, a je to skutočnosť, že Qualcomm sa drží prezývky Hexagon DSP a HVX, zatiaľ čo iné spoločnosti sa rozhodujú pre „neurálne“ tak a tak. Ako vidí Qualcomm tento rozpor a tieto rozdielne stratégie a prístupy hlavne s marketingu, ale o heterogénnom výpočte verzus špecifických blokových bitov sa môžeme dostať o niečo neskôr no."

Gary Brotman: „Keďže Hexagon už má v DSP vybudovaný kapitál, človek by si okamžite myslel, že len rozširujeme našu stratégiu DSP. Vlastne, ak sa pozriete na všetky tri procesory, váš skalárny, váš vektor a teraz váš vyhradený tenzorový urýchľovač, nie sú to všetky DSP. Hexagon je naozaj značka vyššej úrovne ako len DSP. Existuje niekoľko DSP. Myslím si, že na marketingové otázky je asi trochu ťažšie odpovedať, pretože každý región je iný. Čína je veľmi zameraná na NPU, pretože toto je prezývka, ktorá bola zavedená minulý rok a zdá sa, že sa udomácnila. Nepovedal by som, že to funguje aj inde na svete. Google má tenzorový procesor a zdá sa, že tenzor rezonuje.“

Mario Serrafero: "Veľa ľudí má svoje vlastné mená."

Gary Brotman: „V konečnom dôsledku ide o to, čo chce OEM robiť. Ak na tom záleží ich zákazníkom, je na nich, aby zistili, ako môžu využiť túto schopnosť spracovania a odlíšiť sa od nej z hľadiska schopností. Náš engine a myslím si, že veľká časť spracovateľských schopností, ktoré máme, by boli stále veľmi vektorové a tensor-centrické z hľadiska celkového mixu. Samotné vyhradené spracovanie, spôsob, akým robí násobenie matíc, je to rovnaký druh vyhradeného procesora, aký by [používal] NPU. Marketingová otázka je zaujímavá a zabudol som, aká bola Keithova odpoveď?

Ziad Asghar: "Jeho odpoveď bola, 'môžete to nazvať ako chcete, aby ste mohli predávať viac produktov'."

Gary Brotman: "To bolo skoro všetko; to bolo správne, bola to veľmi strohá odpoveď."

Ziad Asghar: „Myslím si, že Gary to pokryl naozaj dobre. Niektorí ľudia používajú toto označenie ako výraz spôsobom, ktorý takmer uvádza alebo naznačuje, že ho obmedzuje iba na tento blok. Ale to, čo vidíme, je, že celý tento heterogénny prístup schopnosti používať CPU, GPU alebo Hexagon tensor vector, vám ponúka rôzne kompromisy v celom spektre presnosti výkonu a výkonu, a to je to, čo potrebujete dnes. Pretože nevieme, ktorá aplikácia vyžaduje aký stupeň presnosti, čo vyžaduje trvalý výkon alebo čo si to nevyžaduje. Takže veríme, že je to úplné, celkové riešenie, pretože tak získate najlepší zážitok“

Gary Brotman: "A to sa nikdy nezmenilo v žiadnom z našich rozhovorov, dokonca ani so špeciálnym urýchľovačom. Je to doplnok, nie náhrada."

Mario Serrafero: „Áno, myslím, že to bol Keith minulý rok, kto povedal, že tam, kde je počítač, bude aj AI. A teraz je tu viac výpočtov."

Gary Brotman: "Viac výpočtov v každom bloku, to je úplne správne."

Mario Serrafero: "NKeď už sme pri tejto téme, počuli sme veľa porovnaní s „tajomným“ 7nm konkurentom v systéme Android. Áno, stále nevieme, kto to je." (hovorený v srande)

Gary Brotman: "Žiaden nápad." (povedané žartom)

Mario Serrafero: „Ale mohli by ste nám priblížiť tieto prirovnania? Ako boli merané? Aké upozornenia sa oplatí zvážiť? Nejaké ďalšie komentáre, ktoré ste možno nemali čas rozviesť v snímkach alebo v otázkach a odpovediach? Viem, že je to trochu ťažké merať [a komunikovať] kvôli rôznorodosti modelov, takže si myslím, že áno zaujímavá téma, ktorú treba rozšíriť, aby ľudia vedeli, prečo nie je také ľahké ich vytvoriť prirovnania."

Gary Brotman: „Je to vlastne celkom jednoduché. Dám vám veľmi jednoduchú odpoveď na jednu konkrétnu metriku; v januári budeme robiť viac benchmarkingu. Povieme si viac o rôznych sieťach, ktoré sa používajú na meranie čísel, z ktorých vychádzame, a to by bol štandardný Inception v3. To je miesto, kde odvodzujeme tento výkon a naše chápanie toho, kde sa konkurencia radí. Ale pokiaľ ide o ten, ktorý oznámil a je s produktmi na trhu, tam prichádza 2x a 3x od – 3x bolo v porovnaní s tým, čo sme mali v roku 845, zatiaľ čo 2x je ich mierou výkonu a relatívneho stavu výkonu k našim."

Ziad Asghar: „Zariadenia máte k dispozícii, môžete si ich skutočne zaobstarať a sami vykonať nejaké to testovanie. Ale myslím, že jediná vec, pred ktorou by som sa bránil, je akýsi divoký západ benchmarkingu AI. Niektorí ľudia používajú niektoré veľmi zovšeobecnené výrazy alebo zmesi sietí, ktoré by im mohli byť konkrétnym spôsobom prospešné alebo nie. "Bude to v súlade s modálnym pracovným zaťažením?" nie je niečo, čo ľudia berú do úvahy. Niektoré benchmarky, ktoré sa vznášajú okolo, toho dokážu oveľa viac a my sme si tak veľmi blízki viem, že existujú ľudia, ktorí spôsobujú, že tieto kritériá sa menia tak či onak v závislosti od toho, čo uprednostňuje ich. Preto je to oveľa viac o skutočných prípadoch použitia. Je to tiež oveľa viac o najlepšom výkone vo svojej triede pre daný prípad použitia a potom ide o to, aby ste to urobili čo najrýchlejšie. Myslím si, že toto sú všetky faktory, na ktoré sa pozeráme. Ale myslím, že sa to zlepší, bude sa to zbližovať. Práve teraz existuje množstvo rôznych možností. Myslím, že zostanú určité referenčné hodnoty, ktoré dávajú väčší zmysel. Dnes by ste možno mohli tvrdiť, že Inception v3 je v tomto časovom bode relatívne lepší."

Gary Brotman: „Pokiaľ ide o siete, je ich hŕstka. Existuje ResNet, VGG, segmentačné siete, siete s vysokým rozlíšením – surový výkon, s ktorým môžete merať. Bod, ktorý je potrebné vziať z hľadiska referenčných hodnôt, ako sú spoločnosti alebo subjekty, ktoré robia benchmarking AI, a oni majú zmesi presností, sietí a vzorcov, ktoré sú variabilné, sú také variabilné, že sa výsledky menia z týždňa na týždeň. Tam je to skutočne divoký západ a držíme sa na dĺžku. Nikde neumiestňujeme stávky, pretože existuje veľká variabilita, pokiaľ ide o skutočný výkon niektorých z týchto sietí ktoré sa používajú v prípadoch použitia, sme si istí, že z hľadiska výkonu v porovnaní s modelom sme stále na popredných miestach súťaž. Mal by som povedať nie hodnotenie, ale zdvojnásobenie, o ktorom sme hovorili, surový výkon."

Mario Serrafero: „Jedným z predmetov, ktoré nás ako stránky primárne pre vývojárov zaujímajú, je demokratizácia strojového učenia. Je zrejmé, že máme knižnice s otvoreným zdrojovým kódom, ktoré sú skvelé, každý ponúka aj tieto úžasné súpravy SDK a je tu množstvo vzdelávania. A teraz je k dispozícii Android NN a spoločnosť Google práve vydala Súprava ML čo zjednodušuje proces. Jednoducho zavoláte API, zadáte mu svoj vstup, oni používajú natrénovaný model, nemusíte sa o to starať, nemusíte o tom premýšľať, nemusíte poznať žiadne štatistiky ani žiadny vektorový kalkul. Ako vidíte, že sa krajina v tomto ohľade vyvinula, aby bola prístupnejšia, zjednodušila sa API, zjednodušiť dokumentáciu, súpravy SDK a podporiť začlenenie vývojárov tretích strán, nielen veľkých spoločnosti?"

Gary Brotman: „Je zábavné, keď sa skutočne zameriavame na veľké spoločnosti, pomáha to aj menším vývojárom. Pokiaľ ide o programovanie pre Snapdragon, konkrétne pre spustenie AI, začali sme s viac proprietárnym zásobníkom. Postupom času a v posledných niekoľkých generáciách sme však pridali ďalšie nástroje. Snažíme sa nájsť rovnováhu medzi abstrakciou na vysokej úrovni a jednoduchým používaním a prístupom na nižšej úrovni, ktorý si vyžaduje niekoho byť oveľa dôvtipnejší, najmä pokiaľ ide o prácu s niektorými našimi proprietárnymi jadrami, ako je vektorový procesor alebo NPU. Vidíme, že sa vyvíja z hľadiska demokratizácie. Máme základné stavebné bloky, ako sú matematické knižnice Hexagon a Qualcomm, ale možno aj API o niečo vyššej úrovne, ktoré abstrahuje aspoň nejaké to ťažké zdvíhanie, ale poskytuje vývojárovi dostatočnú flexibilitu, aby mohol používať svojich vlastných operátorov alebo mohol trochu vyladiť, pokiaľ ide o výkon na nižšej úrovni úrovni. Takže portfólio bude aj naďalej zahŕňať viac nástrojov a určite veci ako NN API, kde je Onyx príkladom toho, v podstate povedzte „tu je to, čo programujete, v čom vyjadrujete svoju sieť“. Pokiaľ to hardvér podporuje, ste dobre.

Ako som spomenul v našej prezentácii, sme zodpovední za prostredie viacerých OS. Je tu Windows, je tu Linux, je tu Android, takže to nie je len o Androide. Keď sa na to pozrieme, ak sa chystáme skonštruovať nejaký druh API, ktoré bude SoC, cross-SoC alebo cross-platform z hľadiska OS, musíme sa pozrieť a zistiť, ako nájsť spoločné prvky v tom, čo staviame pod kapucňa. Zásobník s knižnicami a podporou operátorov, ktorý sa môže napríklad pripojiť k NN API alebo Windows ML. Ale určite sme odišli od kyvadla, ktoré je tu, kde nikto nevie, čo má robiť, napríklad doslova, nevediac. „Neviem, aký rámec použiť. Používam TensorFlow, alebo mám použiť Caffe alebo Torch? A nevedieť, čo robiť pre optimalizáciu na nižšej úrovni. Takže všetci sú spokojní s volaním API. Teraz, v priebehu niekoľkých rokov, je ľahké ísť hlbšie. Takže nástroje existujú, či už ide o bežné nástroje s otvoreným zdrojovým kódom, alebo dokonca v portfóliu, aké ponúkame my alebo konkurencia, tieto nástroje sa stávajú ľahšie prístupnými a ľahšie použiteľnými.“

Mario Serrafero: „Keď už hovoríme o komunitách vývojárov. Naposledy sme spomenuli jednu z najvyspelejších komunít, ktoré máme, hernú komunitu a Qualcomm je v nej celkom dobre zakomponovaný. Teraz to vidíme viac ako kedykoľvek predtým vďaka partnerstvám s hernými motormi, ktoré sa propagujú a uvádzajú na trh. Takže sme o tom hovorili v kontexte AI a ako sa tam objavuje.“

Mishaal Rahman: „Hovorili ste o tom, ako chcete v nasledujúcich 12 mesiacoch investovať viac. Bolo to späť, keď sme tu boli naposledy."

Mario Serrafero: "Konkrétne v komunite herných vývojárov sa to trochu rozširuje o to, čo dnes vidíme."

Gary Brotman: „Nepamätám si konkrétny komentár o investovaní do hernej komunity, ale ak sa pozriete na kategóriu, ktorú sme videli potreba vyhradenej akcelerácie a hranie hier je toho súčasťou, ale nie je to nutne primárny prípad použitia – VR ako príklad. V bohatom, pohlcujúcom zážitku VR je každé jadro v podstate využívané. Robíte grafické spracovanie na GPU, vizuálne spracovanie na vektorovom procesore a je to potrebné vezmite jednu alebo viacero sietí a spustite ich oddelene na vyhradenom urýchľovači bez obáv zo súbežnosti vplyv. To je jeden z dôvodov, ktorý nás priviedol k vyhradenej akcelerácii. Nemám veľa informácií o tom, ako sa dnes AI využíva v hrách. S agentmi je veľa práce – vyvíjajú agentov, aby proti vám bojovali alebo vás učili.“

Mario Serrafero: "Ako tradičná AI v hrách."

Gary Brotman: "Uplne spravne. Ale byť viac založený na neurónovej sieti."

Mario Serrafero: "Áno, nie Minimax."

Gary Brotman: "Časť Ziadovej zodpovednosti je aj riadenie XR stratégie."

Ziad Asghar: „Ak sa na to pozriete dnes, spustili sme nové zariadenia, ktoré sú HMD typu všetko v jednom s plnou podporou 6DOF. Zariadenia ako Oculus Quest, ktoré boli spustené v skutočnosti so Snapdragonom 835, takže sa začíname dostávať k veľmi dobrému bodu, pokiaľ ide o skutočné využitie plnej schopnosti zariadení XR. V minulosti niektoré zariadenia skutočne neposkytovali ten pôvodný zážitok, pretože niektorí ľudia z toho nezískali najlepší zážitok. Myslím, že XR sa teraz darí skvele. Na čo sa tiež pozeráme v budúcnosti, keďže sa kombinuje s 5G, umožňuje vám to teraz vaše zariadenie je v skutočnosti oveľa mobilnejšie, čo znamená, že si môžete predstaviť, že skutočne kráčate po a ulica. A potom mať prepojenie ako 5G znamená, že ako ukážku Google Lens, ktorú Gary ukázal. Teraz si predstavte, že keby ste mali na sebe nejaké okuliare Google alebo niečo podobné a môžete ich skutočne priniesť všetky informácie o tom, na čo sa pozeráte vašimi očami, teraz máte príklad použitia, ktorý môže byť naozaj veľmi presvedčivý. Myslím, že to je miesto, kde dlhodobá investícia, o ktorej hovoríte, je určitým smerom, ktorým sa uberá.

Ale práve teraz máme pocit, že sme vo veľmi dobrom stave, pokiaľ ide o XR a všetky rôzne spoločnosti, ktoré začali s XR. Oculus Go je tiež založený na Snapdragon 820, takže si myslím, že sa začíname dostávať do veľmi dobrého bodu, keď ho ľudia berú a robia s ním veľa vecí. A ďalšou fázou, ako som už spomenul, je, že začneme prinášať pripojenie 5G, čo urobíme a potom ďalej že samozrejme AR a niektoré veci, ktoré budú dokonca vyžadovať oveľa viac z hľadiska výkonu, ale obmedzené moc. A to bude mimoriadne náročné a myslím si, že s tým, o čom sme dnes hovorili, je Qualcomm pravdepodobne najlepší, pokiaľ ide o výkon ktoréhokoľvek z týchto prípadov použitia. Ak sa pozriete na grafiku, ak porovnáte ktoréhokoľvek z konkurentov, uvidíte, že náš výkon na jednotku a výkon je najlepší vo svojej triede. A v dôsledku toho je v XR dôležitá termika a trvalý výkon a v tomto smere sme skutočne popredu – to je dôvod, prečo nás ľudia používajú na XR."

Mario Serrafero: „Od minulého roka sme boli svedkami toho, že Hexagon 685 DSP konečne zasiahol prémiovú strednú triedu s 710 a správny stredný rozsah s 670 a 675. Takže teraz dostávame Hexagon Vector Extensions po prúde, zatiaľ čo iní konkurenti to so svojimi neurónovými procesorovými jednotkami úplne nerobia. Ako vidíte, že rozšírenie dosahu týchto skúseností, a chcel som sa opýtať, či ste v minulosti videli, že rozdiely vo výkone v AI majú nejaký vplyv? Pretože sme stále tak trochu na začiatku prijímania AI."

Ziad Asghar: „Pozerám sa na celkový plán. Ak hľadáte nedotknutý najlepší výkon vo svojej triede, bude to v prémiovej kategórii. To, čo robíme, je, že selektívne preberáme niektoré zo schopností Hexagonu a znižujeme ich. Prvý AI motor alebo prvý Hexagon bol spustený so Snapdragonom 820. Takže sme to znížili na Snapdragon 660 a na 670 a 710 to má tiež. Naším plánom je teda zistiť, ako to prenikne do budúcich skúseností.

Ako AI engine máme základné staré komponenty: CPU, GPU, Hexagon tensor, Hexagon vector a skalár. To, čo robíme, je, že selektívne prinášame časti toho ďalej do plánu, keď vidíme, že tieto schopnosti sa znižujú a prechádzajú do náhlavných súprav nižšej úrovne. Uvidíte vlastne, keď pôjdeme v roku ďalej. uvidíš, urobíme toho viac. Snapdragon 675 sme spustili na summite 4G/5G. Hovorili sme o tom, že prichádza s 675, a uvidíte, že týchto prípadov použitia je čoraz viac Prevládajúce, ako sme dnes ukázali s ArcSoftom a všetkými ostatnými chlapmi, tieto schopnosti skutočne prinesieme nižšie. Na nižšej úrovni budete môcť spustiť tento prípad použitia, ale aby ste mohli získať správny výkonový profil ako ja o ktorom sme už hovorili, ak chcete mať trvalý výkon, chcete, aby prišiel tento konkrétny blok nižšie. Takže opäť, najlepší výkon vo svojej triede bude na vrchole, ale keď pôjdete nižšie, dôjde k veľkému zhoršeniu alebo gradácii…“

Mario Serrafero: "Dá sa povedať gradientný zostup." (hovorené žartom)

Ziad Asghar: "Áno, presne tak. Takto to robíme s inými technológiami aj na pláne a AI sa v tomto zmysle nebude veľmi líšiť. Pravdepodobne je to jeden rozdiel, možno odkiaľ prichádzate, pretože pravdepodobne klesá rýchlejšie prostredníctvom iných technológií, ktoré sme zahrnuli do plánu, takže s týmto postrehom by som súhlasil s."

---

Ak máte záujem dozvedieť sa viac o AI na mobilných platformách Qualcommu, odporúčame prečítať si náš minulý rok rozhovor s Garym Brotmanom. Môžete začať s časť 1 nášho rozhovoru alebo prejdite na časť 2.

Všetky grafiky zobrazené v tomto rozhovore pochádzajú z prezentácie Garyho Brotmana počas Snapdragon Tech Summit. Môžete si prezerať snímky tu.