Куалцомм-ов Хекагон 685 ДСП је моћна машина за учење

Снапдрагон 845 - најновији систем на чипу у Куалцоммовој Снапдрагон породици - је моћан процесор. Може се похвалити брзим ЦПУ језгром, Спецтра процесором сигнала слике треће генерације (ИСП) и архитектуром која је 30 посто енергетски ефикаснија од претходне генерације. Али вероватно његова најимпресивнија компонента је копроцесор - Хекагон 685 ДСП - који је скројен за вештачку интелигенцију и машинско учење.

Шта то чини Куалцоммов Хекагон 685 ДСП?

„Векторска математика је основа дубоког учења.“ - Травис Ланиер, виши директор управљања производима у Куалцомм-у

Да бисмо разумели шта Хекагон ДСП чини тако јединственим, помаже да се зна да АИ покреће врста математичких инжењерских смерова која су блиско позната. Машинско учење укључује рачунање са великим векторима, што представља изазов за процесоре паметних телефона, таблета и рачунара. Чиповима опште намене је тешко да брзо и ефикасно израчунају алгоритме попут стохастичког градијента - врсте алгоритама који су у основи апликација које покреће вештачка интелигенција. Куалцомм-ов Хекагон ДСП је уведен делимично да реши ово: одличан је у руковању подацима о слици и сензорима, посебно фотографији.

Али Хекагон ДСП је способан за много више од улепшавања селфија. Укључени ХВКС контексти (више о њима касније) дају му предност и процесора опште намене и језгара са фиксном функцијом; Хекагон 685 ДСП је изузетно ефикасан у рачунању математике иза машинског учења на уређају, али задржава флексибилност процесора који се више могу програмирати.

АИ чипови попут Хекагон 685 ДСП, који се понекад називају „неуралне процесне јединице“, „неурални мотори“ или „језгра за машинско учење“ су посебно прилагођени математичким алгоритмима вештачке интелигенције потребе. Они су много ригиднији у дизајну од традиционалних ЦПУ-а и садрже посебна упутства и аранжмане (у случају Хекагон 685 ДСП, горе поменута ХВКС архитектура) које убрзавају одређене скаларне и векторске операције, које постају приметне у великим размерама имплементације.

Хекагон 685 ДСП Снапдрагон 845 може да обради хиљаде битова векторских јединица по циклусу обраде, у поређењу са стотинама битова просечног ЦПУ језгра по циклусу. То је по дизајну. Са четири паралелне скаларне нити за операције веома дуге инструкцијске речи (ВЛИВ) и више ХВКС контекста, ДСП је способан да жонглира са више извршних јединица на једној инструкцији и прође кроз цео број и децимални број са фиксном зарезом операције.

Уместо да прогура перформансе кроз сирове МХз, дизајн Хекагон 685 има за циљ висок ниво рада по циклусу уз смањену брзину такта. Укључује хардверско мулти-тхреадинг које добро функционише за ВЛИВ, пошто вишеструко преклапање сакрива кашњења цевовода омогућава боље коришћење ВЛИВ пакета. Вишенитност ДСП-а значи да може да опслужује више сесија ослобађања – тј. истовремене апликације за аудио, камеру, компјутерски вид и тако даље -- и истовремено убрзавају различите задатке, спречавајући апликације да се боре за њих време извршења.

Али то нису једине предности Хекагон ДСП-а. Његова архитектура скупа инструкција (ИСА) се може похвалити побољшаном ефикасношћу у односу на традиционални ВЛИВ захваљујући побољшан контролни код и користи паметне трикове да поврати перформансе из стања мировања и застоја нити. Такође имплементира кружно планирање нити са нултом кашњењем, што значи да ДСП-ове нити обрађују нове инструкције одмах након завршетка претходног пакета података.

Ништа од овога није ново, да буде јасно. Куалцомм је представио „прву генерацију“ (или прави) Хекагон ДСП -- Хекагон 680 или КДСП6 в6 -- поред Снапдрагона 820 2015. године, а Хекагон 680 је пратио увек тако мало побољшан Шестоугао 682. Али најновија генерација је најсофистициранија до сада и пружа до три пута веће перформансе у односу на Снапдрагон 835 ДСП.

То је добрим делом захваљујући ХВКС-у, који је веома добро функционисао за обраду слика (мислите на проширену стварност, компјутерски вид, видео и слике). ХВКС регистри ДСП-а могу се контролисати са било која два скаларна регистра, а ХВКС јединице и скаларне јединице могу се користити истовремено, што резултира значајним повећањем перформанси и истовременошћу.

ево Објашњење компаније Куалцомм:

„Рецимо да обрађујете на мобилном ЦПУ-у у режиму контролног кода и да пређете на рачунарски режим на копроцесору. Ако вам треба било какав контролни код, морате да се зауставите и вратите се са копроцесора на главни ЦПУ. Са Хекагон-ом, и процесор контролног кода на ДСП-у и процесор рачунарског кода на ХВКС-у могу да раде у исто време ради чврстог повезивања контролног и рачунарског кода. То омогућава ДСП-у да узме резултат ХВКС израчунавања и користи га у одлуци контролног кода у следећем циклусу такта.

ХВКС пружа још једну велику предност у обради сензора слике. Снапдрагон уређаји са Хекагон 685 ДСП могу да стримују податке директно са сензора слике у локалну меморију ДСП-а (Л2 кеш), заобилазећи ДДР меморијски контролер уређаја. То, наравно, смањује кашњење, али и побољшава век трајања батерије - Снапдрагон процесор је дизајниран да мирује током целог рада.

Посебно је оптимизован за 16-битне мреже са плутајућим зарезом, а контролише га Куалцоммов софтвер за машинско учење: Снапдрагон Неурал Процессинг Енгине.

„Схватили смо то веома озбиљно“, рекао је портпарол компаније Куалцомм. „Радили смо са партнерима последње три године како бисмо их натерали да искористе [...] наш силицијум за вештачку интелигенцију и снимање.“

Ти партнери укључују Гоогле, који је користио део за обраду слика Хекагон ДСП-а за напајање Пикел-а и ХДР+ алгоритма Пикел-а 2, на пример. Иако је Гоогле представио и своје Пикел Цоре, вреди напоменути да су Хекагон 685 ДСП уређаји оне које виде најбоље резултате са чувеним портом за Гоогле камеру, делом због (као што смо потврдили) ХВКС-а коришћење. Фацебоок, још један партнер, блиско је сарађивао са Куалцомм-ом како би убрзао Мессенгер-ове филтере камере и ефекте у реалном времену.

Оппо је оптимизовао своју технологију откључавања лицем за Хекагон 685 ДСП, а Леново је око њега развио своју функцију детекције оријентира.

Један од разлога за богату подршку платформе је њена једноставност. Куалцомм-ов екстензивни Хекагон СДК подржава Халиде језик за обраду слика високих перформанси и нема потребе да бринете о оквирима за обуку машинског учења – имплементација модела је у већини случајева једноставна као и позивање АПИ-ја случајевима.

„Ми се [...] не такмичимо са ИБМ-ом и Нвидиом [у АИ], али имамо области у које програмери могу да искористе – и већ јесу“, рекао је Куалцомм за КСДА Девелоперс.

Хекагон вс. такмичење

Хекагон 685 ДСП за Снапдрагон 845 долази као све већи број произвођача оригиналне опреме (ОЕМ) који траже сопствена решења АИ за мобилне уређаје и уређаје. Хуавеи Кирин 970 -- систем на чипу унутар Мате 10 и Мате 10 Про -- има „неуралну процесорску јединицу“ (НПУ) која наводно може да препозна више од 2.000 слика у секунди уз само 1/50 потрошње енергије просечног ЦПУ-а паметног телефона. А Аппле А11 Биониц систем на чипу у иПхоне 8, иПхоне 8 Плус и иПхоне Кс има „Неурал Енгине“ који врши моделирање лица у реалном времену и до 600 милијарди операција у секунди.

Али Куалцомм каже да му агностицизам платформе Хексагона даје предност. За разлику од Аппле-а и Хуавеја, који у великој мери приморавају програмере да користе власничке АПИ-је, Куалцомм је од самог почетка настојао да подржи неке од најпопуларнијих оквира отвореног кода. На пример, радио је са Гоогле-ом на оптимизацији ТенсорФлов, Гоогле-ова платформа за машинско учење, за Хекагон 685 ДСП – Куалцомм каже да ради до осам пута брже и 25 пута ефикасније него на уређајима који нису Хекагон.

На Куалцоммовој ДСП архитектури, Гоогле-овој ГоогЛеНет Инцептион Дубока неуронска мрежа -- алгоритам за машинско учење дизајниран за процену квалитета система за детекцију и класификацију објеката -- демонстрирао напредак у демо приказу једна апликација за препознавање слика која покреће ТенсорФлов на два паметна телефона: један који покреће апликацију на ЦПУ-у, а други који је покреће на Куалцомм-овом хексагону ДСП. ДСП-убрзана апликација за паметне телефоне снимала је више слика у секунди, брже идентификовала објекте и имала веће поверење у закључак о томе шта је објекат него апликација само за ЦПУ.

Гоогле такође користи Хекагон 685 ДСП да убрза Пројецт Танго, своју платформу проширене стварности за паметне телефоне. Леново Пхаб 2 Про, Асус-ов ЗенФоне АР и други уређаји са Танго-овим ИР модулом који детектује дубину и камерама за праћење слика користе предности Куалцомм-а Хетерогена процесна архитектура, која делегира задатке обраде између Хекагон 685 ДСП Снапдрагон чипсета, чворишта сензора и сигнала слике процесор (ИСП). Резултат је „мање од 10 процената“ трошкова за ЦПУ система на чипу, према Куалцомм-у.

„Колико знамо, ми смо једини мобилни момци који [се] оптимизују за перформансе и енергетску ефикасност“, рекао је портпарол компаније Куалцомм.

Наравно, конкуренти такође раде на томе да прошире своју сферу утицаја и негују подршку програмера на својим платформама. Неурални чип Кирин 970 је лансиран са подршком за ТенсорФлов и Цаффе (Фацебоок-ов отворени АПИ оквир) поред Хуавеи-ових Кирин АПИ-ја, са ТенсорФлов Лите и Цаффе2 интеграција на путу касније ове године. Хуавеи је сарађивао са Мицрософтом на оптимизацији свог преводиоца са вештачком интелигенцијом за Мате 10.

Али Куалцомм има још једну предност: Реацх. Произвођач чипова је имао 42 одсто тржишта чипова за паметне телефоне у првој половини 2017. године, а следе Аппле и МедиаТек са по 18 одсто, према Стратеги Аналитицс. Довољно је рећи да се још не тресе у чизмама.

А Куалцомм предвиђа да ће само расти. Произвођач чипова планира приход од 160 милијарди долара до 2025. са софтверским технологијама вештачке интелигенције као што су компјутерски вид и види тржиште паметних телефона – за које се очекује да ће достићи 8,6 милијарди испоручених јединица до 2021. – као највеће платформа.

Са Хекагон 685 ДСП-ом и другим „терцијарним“ побољшањима која континуирано напредују низводно до средњег опсега хардвера, такође је лакше Куалцомм чиповима да донесу машинско учење на уређају на све врсте уређаја у близини будућност. Они такође нуде згодан СДК за програмере (нема потребе да се петљају са ДСП асемблерским језиком) да искористе предности Хекагон 685 ДСП и ХВКС у својим апликацијама и услугама.

„Постоји потреба за овим наменским процесорским јединицама за неуронску обраду, али такође морате да је проширите, тако да можете подржати оквире [отвореног кода]“, рекао је портпарол компаније Куалцомм. „Ако не креирате тај екосистем, нема начина да [...] програмери могу да креирају на њему.“