Інтерв'ю: Qualcomm про Kryo 485 і Hexagon 690 від Snapdragon 855

Тревіс Ланьє з Qualcomm поспілкувався з XDA для інтерв’ю про процесор Kryo 485 на мобільній платформі Snapdragon 855 і про маркетинг Hexagon 690 DSP.

Минулого місяця Qualcomm представила Мобільна платформа Snapdragon 855. Snapdragon 855 — це мобільна платформа, яка буде працювати на більшості флагманських смартфонів Android у 2019 році. Компанія Qualcomm з кожним роком істотно покращує свою мобільну платформу нового покоління. Мобільна платформа Snapdragon 855 побудована за 7-нанометровим технологічним процесом і пропонує вражаючий 45% стрибок у продуктивності процесора порівняно з Snapdragon 845. Удосконалення обчислень за всіма напрямками дозволяє Qualcomm похвалитися чудовою продуктивністю ШІ на новому Snapdragon 855. Тут можна розпакувати багато інформації, і ми зробили все можливе, щоб показати як Qualcomm покращила продуктивність і AI на Snapdragon 855. Однак після презентації продукту у нас все ще залишалися запитання, тому ми зустрілися з Тревісом Ланьєром, старшим Директор із управління продуктами Qualcomm, щоб розповісти про процесор Kryo 485 і штучний інтелект на новому мобільному пристрої Qualcomm платформа.


Маріо Серраферо: «45% [стрибок], це як найбільший за всю історію. Давайте розгорнемо це. У нас є база A76, 7-нм — це великий внесок. Здається, відтоді, як ви, хлопці, відійшли від кастомних ядер, деяких публікацій і аудиторії не мав жодного уявлення про те, що передбачає ліцензія Built on ARM з точки зору того, що вона може дозволити вам робити. Ви були досить таємничими щодо того, що це передбачає [теж]. Тепер ви вперше на сцені, принаймні окрім запитань і відповідей, ...але вперше ви показали, якими були деякі покращення, і це круто. Тож нам було цікаво, чи не хочете ви розповісти про те, як Qualcomm налаштувала Kryo 485, щоб вичавити більше з База ARM, незалежно від того, чи йдеться про те, що ви там оприлюднили, чи про те, що ви не представили».

Тревіс Ланьє: «Тож я не можу сказати більше, ніж те, що було на моїх слайдах. Можливо, у майбутньому ми зможемо, щоб ми могли сісти та запросити експертів, які справді виконали роботу; Я знаю теми розмов на високому рівні. Але, як ви знаєте, A76 — це вже дизайн високого рівня — він досить хороший. І це одна з причин, чому ми побачили дорожню карту ARM. Тож я думаю, гаразд, можливо, нам варто тісніше працювати з цими хлопцями, тому що це виглядало дуже сильно. Повертаючись до вашого коментаря щодо налаштування та ARM. Отже, добре, ви можете зробити все це. І якщо ви щось робите, і це потребує диференціації, щоб ви могли зробити щось на сто відсотків або співпрацювати з ними. І [як] у попередні роки, ми трохи більше про інтеграцію. Отже, шини та те, як ми підключилися до системи, їхні функції безпеки, які ми вставили в ЦП, конфігурації кешу. Тепер, коли взаємодія тривала довше, ми змогли глибше налаштувати це. І ось як ми змогли розмістити туди деякі з цих речей, як-от більші [позачергові] вікна виконання, правильно, щоб у вас було більше інструкції під час польоту, попередня вибірка даних насправді є однією з областей, де в індустрії мікропроцесорів відбувається найбільше інновацій зараз. Багато технік для багатьох із цих речей досить подібні, сьогодні всі використовують предиктор розгалужень TAGE, Наскільки великий ви його надаєте, люди знають, як робити позачерговий, і пересилання, і все таке інше для більших кешів. Але попередня вибірка, це все ще багато, це одна з тих речей темного мистецтва. Отже, у цьому просторі ще багато інновацій. Отже, ми відчували, що можемо допомогти.

А потім просто тому, що ми відчуваємо, що загалом краще справляємося з... зазвичай ми можемо реалізувати проект швидше, ніж інші можуть інтегрувати вузол процесу. І тому, коли ми додаємо деякі з цих речей туди, наприклад, коли ви більше не працюєте, це більше навантажує ваш дизайн, чи не так? Не можна безкоштовно додати туди всі ці елементи виконання. Отже, щоб мати можливість це зробити, і не мати удару fмакс. Так, це частина нашої співпраці з ARM, наприклад, як їх досягти?»

Маріо Серраферо: «Просто з цікавості, у презентації ви говорили про підвищення ефективності з попередньої вибірки, ви говорили про енергоефективність, покращення продуктивності тощо обидва?"

Тревіс Ланьє: «Все перераховане. Отже, за своєю суттю ми виконуємо попередню вибірку — ви витягли речі з кешу. Отже, коли кеш не виконує стільки звернень до пам’яті, тепер є зворотний бік попереднього вибору: якщо ви робите занадто багато попереднього вибору, ви [використовуєте] більше пам’яті, тому що ви знаєте, [ви] робите занадто багато спекулятивної попередньої вибірки, але якщо у вас є речі, і ви витягуєте правильні речі, то ви не збираєтесь пам’ятати, щоб затягнути це там. Отже, якщо у вас є більш ефективний засіб попередньої вибірки, ви економите енергію та підвищуєте продуктивність».

Маріо Серраферо: «Добре, круто, так. Так, я не очікував, що ви зможете розширити більше, ніж це, але цікаво, що якщо ви це скажете тепер ви, хлопці, більше налаштовуєте, і, можливо, ви зможете поділитися більше в майбутньому, тоді я буду стежити за цим. Таким чином, інший вид людей, які повертають голову, принаймні серед людей, які мене оточують, — це головне ядро. Тож ми очікували більш гнучкого кластерного устрою протягом кількох років із [] включенням DynamIQ і що ми очікували, що інші компанії відмовляться від [] угоди 4+4. Отже, два запитання: який мотив був основним ядром? Як основне ядро ​​приносить користь користувальницькому досвіду, адже наші читачі хотіли б знати, чому там є лише одиноке ядро, а також чому це не зовсім самотнє ядро? Хіба спільне використання площини живлення з кластером продуктивності не зменшить частину корисності, яку ви могли б отримати, якщо б ви використовували DynamIQ і як би сиділи [його] самостійно?"

Тревіс Ланьє: «Тож давайте спочатку поговоримо про різні годинники та різні площини напруги. Тому кожен раз, коли ви додаєте годинник і кожен раз, коли ви додаєте напругу, це коштує грошей. Отже, є обмеження на кількість контактів, які ви розміщуєте на упаковці, є більше PLL, які ви повинні мати для різних годинників, і є просто підвищена складність. Отже, є компроміс, щоб робити речі. Одного разу ми пішли в крайність; у нас було чотири різних домени на чотирьох різних годинниках, тож у нас був досвід із цим, і це було дорого. Схоже, коли ти починаєш ставати великим. LITTLE, у вас є маленькі ядра на [маленькому] кластері, і їм не зовсім потрібна та сама деталізація, так би мовити, окремого годинника між маленькими ядрами. Так, це наче в повітрі, що ти з ними робиш. Тому, коли у вас є великий. МАЛЕНЬКА система, тоді, навпаки, у вас є ці великі ядра. Ну, гаразд, ви помістите кожен із них на великий годинник? Що ж, ви не працюєте на них весь час, якщо ви насправді перебуваєте в досить низькій ситуації, коли незайнятий годинник все одно буде працювати на маленькому ядрі. Тож справді, їх двоє цілком достатньо.

І тоді ви дійдете до того, де у нас було це первинне ядро, де добре, добре, у нас є окреме ядро ​​тактової частоти, яке може працювати на вищій частоті. Але ці інші ядра, інші кластери продуктивності не можуть досягти такої ж високої частоти. Отже, якщо ви хочете отримати повний доступ до цього ядра, вам потрібно мати третій годинник для цього ядра. Отже, що робить це ядро? Ми торкнулися цього трохи. Великими речами будуть [] програма запуску програм і веб-перегляд. І чому тільки одне ядро? Гаразд, зараз все стає багатопотоковим. Наприклад, ігрові движки — я повернуся до цього за секунду — дуже агресивно рухаються до збільшення кількості потоків. Але якщо ви подивіться на більшість програм, навіть якщо вони мають кілька потоків, я скористаюся правилом Парето, як і більшість із них, 80% завантаження відбувається в одному потоці. Отже, ви можете запустити програму, і вона може запуститися та засвітитися на всіх 8 ядрах. Але більш ніж імовірно, що 80% з них знаходиться в одному домінантному потоці — це одне ядро. Перегляд веб-сторінок — це все ще переважно, ну, JavaScript, я б сказав — перегляд веб-сторінок став трохи кращим завдяки багатопотоковості, де ви можете мати кілька зображень і ви можете їх декодувати. Але, наприклад, JavaScript — [один] потік працюватиме на одному ядрі. Таким чином, існує велика кількість варіантів використання, які виграють від наявності цього одного ядра, яке було дуже високим.

Тепер у нас є три ядра, які працюють трохи на нижчій частоті, але вони також енергоефективніші. І так, щоразу, коли ви—я не знаю, скільки ви знаєте про впровадження ядер—але щоразу, коли ви починаєте досягати верхньої межі частоти, і реалізації цих ядер, є компроміс у потужності, речі починають ставати експоненціальними в тих останніх кількох мегагерцах або гігагерцах, які ви мати. Так, і я говорив про те, що секунду тому, привіт, усі ігри починають ставати багатопоточними, як і всі раптом, якщо ви озирнетеся назад, не так давно було кілька ігор, і вони використовують лише одну нитка. Але дивно, як швидко може змінюватися галузь. Як і минулого року, півтора року, вони буквально почали вставляти всі ці ігри в… Я в захваті від цих ігор високої точності. І тому, хоча багато речей, як і шість місяців-рік тому, раніше, це фактично перевернуло весь Китай. У Китаї я чую: «Мене не цікавлять великі ядра, дайте мені вісім будь-чого, дайте мені вісім найменші ядра, щоб я міг мати вісім ядер." Вони змінилися, тому що їм потрібні ці ігри, ці ігри вимагають великі ядра. І зараз ми отримуємо відгуки від партнерів, що «ні, ми насправді хочемо чотири великих ядра», через усі просунуті ігри, які виходять. І вони збираються використовувати всі ці ядра.

Отже, коли ви граєте, ви граєте не 30 секунд, або 5 хвилин, ви граєте довше. Отже, це має сенс, ми маємо ці три інші ядра в більшості випадків використання великих багатопоточних ядер, вони хочуть мати трохи більше енергоефективності. Це начебто балансує, у вас є це ядро ​​з високою продуктивністю, коли воно вам потрібно для деяких із цих речей у деяких з цих стійких випадків, де вони також мають великі ядра, і у вас є це більш енергоефективне рішення для з’єднання що. Ось таке мислення — це якась незвичайна симетрія. Але, сподіваюся, це відповідає, чому [є] основне ядро, чому у вас немає окремих годинників і чому у вас немає окремих напруг? І тому, я думаю, я торкнувся всього цього».

Конфігурація ядра процесора Kryo 485. Джерело: Qualcomm.

Маріо Серраферо: «Тепер гетерогенні обчислення. Саме на цьому наголошує Qualcomm після переходу від старого бренду до мобільної платформи, і такий [а] дескриптор, а також агрегування блоків для опису певних показників ефективності, як-от ШІ. Як відбулася ця еволюція у переході на більш різнорідний обчислювальний підхід? Будь-де, від дизайну до виконання та маркетингу, чи будь-що, до чого ви можете торкнутися».

Тревіс Ланьє: «Трохи йде туди-сюди. Але врешті-решт у вас повинні бути ці двигуни, тому що ім’я гри в мобільних пристроях – енергоефективність. Тепер ви іноді бачите, як час від часу він повертається до узагальнення. Якщо повернутися до свого оригіналу, то навіть у смартфонах функціональні телефони мали мультимедіа та камеру можливостей певною мірою, тому вони мають усі ці маленькі спеціальні речі, тому що ви не могли Зроби це. Якщо ви повернетесь до телефонів, побудованих на ARM 9 або ARM 7, усі вони мали віджет апаратного прискорення для всього.

Але щоб навести вам приклад, де щось пішло загальним, а потім вони знову вимагають обладнання, це буде JPEG. Колись був прискорювач JPEG. Зрештою ЦП став досить хорошим, і він був досить енергоефективним, а JPEG начебто залишився той самий розмір, що, привіт, знаєте що, ми просто підемо вперед і зробимо це на ЦП [оскільки] це просто легше зробити це. Зараз, коли зображення стають все більшими і більшими, раптом люди починають, знаєте, насправді, я хочу, щоб ці справді гігантські розміри фотофайлів прискорилися. Процесори [є] начебто недостатньо швидкими або споживають занадто багато енергії. Просто раптово з’явився інтерес до потенційної можливості знову мати прискорювачі JPEG. Отже, не завжди все відбувається прямолінійно, тож вам потрібно дивитися на те, що відбувається прямо зараз за законом Мура. Усі продовжують говорити про те, що ти, можливо, ще не мертвий, але це трохи сповільнюється, чи не так? Отже, якщо ви не отримуєте такого приросту потужності чи підвищення продуктивності від кожного наступного вузла, як ви продовжите розширювати функціональність телефону, якщо у вас немає цих накладних витрат? Тож ви можете просто поставити його на процесор. Але якщо у вас немає більше простору для процесора, як прискорити ці речі? Відповідь полягає в тому, що ви використовуєте всі ці спеціалізовані ядра та інші речі ефективніше. І тому це природне напруження.

Ви побачите, як людей змушують робити ці речі для загальних функцій, оскільки, можливо, не всі будуть на межі кровоточивості. Але ми, звичайно, намагатимемося залишатися там якомога довше, але ми не можемо змусити фабрики перейти до наступного вузла, якщо він там не обов’язково. Ось чому вам потрібно зосередитися на постійних інноваціях і цих архітектурах, щоб і надалі отримувати кращу продуктивність і енергоефективність. Тож це наша сила і наша підґрунтя».

Маріо Серраферо: «Незважаючи на перехід до гетерогенних обчислень з боку Qualcomm, багато аудиторій і, звичайно, багато публікацій, звичайно багато ентузіастів, на диво, які, на вашу думку, знають краще, вони все ще думають, розглядають і оцінюють блоки як окремі сутності. Вони все ще зосереджуються на: «Я хочу бачити дані про ЦП, тому що мене це хвилює». Вони хочуть бачити цифри GPU, тому що їм подобаються ігри тощо. Вони не розглядають їх як комуніковані частини одного цілісного продукту. Як ви думаєте, що Qualcomm зробила, є і може зруйнувати цю парадигму, оскільки конкуренти фактично продовжують зосереджуватися на цьому конкретному поблочному виді вдосконалення маркетингу? Зокрема, [ми] перейдемо до нейронних мереж, нейронного механізму пізніше».

Тревіс Ланьє: «Сподіваюся, я торкнувся чогось із цього сьогодні. Ми зосереджуємося, наприклад, на тривалих іграх, тож, можливо, у вас є хороші результати за всіма ігровими тестами. Люди стають одержимими цим. Але насправді, що важливо, якщо ви граєте у свою гру, чи ваші кадри в секунду постійно залишаються там, де ви хочете, щоб вони були на найвищій точці для цих речей? Я думаю, що люди надають надто великої ваги числу для одного з цих блоків. Це так важко, і я розумію це бажання дати мені одну цифру, яка скаже мені, що є найкращим. Це просто так зручно, особливо зараз у ШІ, що просто божевільно. Що вимірює бенчмарк ЦП навіть із тестами процесора? Усі вони вимірюють різні речі. Візьміть будь-який з тестів, наприклад GeekBench має купу підкомпонентів. Ви бачите, щоб хтось колись розбирав і дивився, який із цих підкомпонентів найбільше відповідає тому, що я насправді роблю?»

Маріо Серраферо: "Іноді так буває".

Тревіс Ланьє: «Можливо, ви, хлопці, так і знаєте. Ви, хлопці, схожі на аутсайдер. Але, можливо, один процесор кращий у цьому, а інший — у іншому. Те ж саме з SPEC, люди виділять один SPEC, ну добре, у ньому є багато різних робочих навантажень. І це досить вузькі речі, але навіть SPEC, який ми фактично використовуємо для розробки процесорів, якщо ви подивіться на фактичне робоче навантаження, чи вони насправді актуальні? Це чудово для порівняння навантажень робочих станцій, але чи справді я роблю молекулярне моделювання на своєму телефоні? Ні. Знову ж таки, я хочу сказати, що більшість цих тестів у певному сенсі корисні, але ви повинні розуміти контекст того, для чого [це] і як ви туди потрапите. Тому дуже важко звести речі до одного числа.

І я бачу це особливо — я трохи змінюю тут, — але зараз я бачу це з штучним інтелектом, це божевілля. Я бачу, що є кілька різних речей, які не отримають одну цифру для ШІ. І тому, скільки я говорив про ЦП, у вас є всі ці різні робочі навантаження, і ви намагаєтеся отримати одне число. Святий молій, А.І. Існує так багато різних нейронних мереж і стільки різних робочих навантажень. Ви запускаєте його з плаваючою комою, ви запускаєте його в int, запускаєте його з точністю 8 або 16 біт? І що сталося, я бачу, як люди намагаються створювати ці речі, і, добре, ми вибрали це робоче навантаження, і ми зробили це в з плаваючою точкою, і ми збираємося зважити 50% наших тестів у цій одній мережі та двох інших тестах, і ми зважимо їх на це. Гаразд, хтось навіть використовує це конкретне робоче навантаження в цій мережі? Є реальні програми? Штучний інтелект захоплює, тому що він рухається дуже швидко. Усе, що я вам скажу, через місяць чи два, ймовірно, буде невірним. Тож це також круто в цьому, тому що він дуже змінюється.

Але головне не апаратне забезпечення ШІ, а програмне забезпечення. Тому що всі користуються нею, наприклад, я використовую цю нейронну мережу. По суті, тут є всі ці множники. Ви оптимізували цю конкретну нейронну мережу? І так ви оптимізували один для тесту, чи ви оптимізували той, щоб деякі люди сказали, що ви Знайте, що я створив еталонний тест, який вимірює суперроздільність, це еталон суперроздільності ШІ. Добре, вони використовують цю мережу, і вони, можливо, зробили це з плаваючою комою. Але з кожним партнером, з яким ми співпрацюємо, нам вдалося або зробити це 16-бітним та/або 8-бітним, використовуючи іншу мережу. Чи означає це, що ми погано працюємо над роздільною здатністю, оскільки ця робота не збігається з нею? Тож моя єдина думка полягає в тому, що порівняння ШІ справді складне. Ви думаєте, що процесор і графічний процесор складні? ШІ просто божевільний».

Маріо Серраферо: «Так, є забагато типів мереж, забагато параметризацій — різна параметризація призводить до різного впливу на спосіб обчислення».

Тревіс Ланьє: "Це займе рецензентів."

Маріо Серраферо: «Але якщо ви хочете виміряти весь спектр речей, це набагато складніше. Але так, ніхто цього не робить».

Мішал Рахман: «Ось чому ви, хлопці, більше зосереджуєтесь на варіантах використання».

Тревіс Ланьє: «Я вважаю, що врешті-решт, як тільки ви продемонструєте варіанти використання, ви побачите, наскільки хороший ваш ШІ зараз. Справа зводиться до програмного забезпечення, я думаю, що за кілька років воно трохи зріле. Але зараз потрібно зробити так багато роботи з програмним забезпеченням, а потім зміни на кшталт: «Добре, добре, ця мережа гаряча, а потім наприклад, наступного року: «О, ні, ми знайшли нову мережу, яка є більш ефективною в усіх цих речах», тож вам доведеться переробити програмне забезпечення. Це досить божевільно».

Маріо Серраферо: «Якщо говорити про NN, ти начебто зробив для мене перехід, менш незручне мислення про перехід для мене. Переходимо до шестикутника. Це один із компонентів, який, я б сказав, найменш зрозумілий споживачам, навіть більшості ентузіастів, звичайно ж, моїм колегам. Ви знаєте, особливо з огляду на те, що він не був представлений як блок штучного інтелекту, а як ідея всієї цифрової обробки сигналу, ви знаєте, коли ви вводите щось ця оригінальна ідея як би прилипає, тож якщо ви робите, щоб щось зробити, гаразд, це нейронна річ із нейронним, нейронним, нейронним інтелектом мозку, вона ніби прилипає до Люди. Вони мають нейронні, нейронні, нейронні мітки машинного навчання ШІ для інших рішень. Отже, можливо, ми хочемо дати вам шанс пояснити еволюцію Hexagon DSP, чому ви не відійшли від цього назви, що звучать інженерно, як-от Hexagon DSP, векторні розширення тощо, які не є маркетинговими дружній. Але так, можливо, як короткий виклад того, як це було для вас на передньому краї DSP, щоб побачити, як він перейшов від початків роботи із зображеннями до абсолютно нового прискорювача тензорів».

Тревіс Ланьє: «Насправді це цікавий момент, тому що деякі з наших конкурентів насправді мають щось, що вони називають нейронним механізмом або нейронним прискорювачем — насправді це DSP, це те саме. Тому я вважаю, що назва важлива, але ви торкнулися важливого моменту, і, чесно кажучи, коли ми виклали це там, це було для створення зображень, ми випадково підтримали 8 біт. І я пам’ятаю, як ми виступали на Hot Chips, і Піт Ворден з Google ніби відстежив нас і запитав: «Гей, ви, хлопці, підтримуєте 8 біт, так?» Так, ми робимо. І ось звідти ми негайно вийшли і сказали: «Гей, у нас усі [ці] проекти реалізуються. Саме тоді ми пішли і перенесли TensorFlow на Hexagon, тому що це ніби, привіт, у нас є такий векторний процесор з підтримкою 8 біт, щоб зробити це, і це було на нашому Hexagon DSP. Якби мені довелося повторювати все заново, я б, мабуть, назвав його Hexagon Neural Signal Processor. І ми все ще маємо інший DSP, у нас є скалярні DSP, і це DSP у прямому сенсі. І тоді ми називаємо цей вид векторного DSP. Можливо, ми повинні перейменувати його, можливо, ми повинні назвати це нейронний сигнальний процесор, тому що ми, мабуть, не віддаємо собі такої заслуги, як для цього, тому що, як я вже сказав, деякі люди просто мають векторні DSP і вони називають це як завгодно, і вони не розкрили нічого Це є. Я відповів на твоє запитання?"

Огляд Hexagon 690. Джерело: Qualcomm.

Маріо Серраферо: «Так, мабуть, це так».

Тревіс Ланьє: Яке було друге запитання?

Маріо Серраферо: «Просто те, як ви бачили цей розвиток внутрішньо. Як це було: досвід, труднощі, виклики, все, про що ви хочете нам розповісти? Як [ви] бачили еволюцію від початку обробки зображень до тензорного прискорювача?"

Тревіс Ланьє: «Мене трохи засмучує, тому що я здригаюся від того, що деякі представники преси піднімають руку й кажуть: «Qualcomm, чого ти так відстаєш! Чому ви не зробили... Коли ви збираєтеся отримати схожий на спеціальний процесор нейронних сигналів?» і я просто хочу, як стукати собі по голові. Мені здавалося, що ми були першими, хто мав векторний процесор! Але, незважаючи на це, ми редагуємо це, і, ймовірно, буде більше речей, коли ми дізнаємося більше про ШІ. Отже, ми додали цю іншу річ, і так, ця є — вона виконує лише ШІ, вона не виконує обробку зображень як частину комплексу шестикутників, тому ви пропонуєте… оскільки ми все ще називаємо його Hexagon DSP, ми називаємо весь комплекс процесором Hexagon [щоб] спробувати отримати зафіксовану назву для всього шестикутника зараз. Ми додали речі, які насправді [є] більш прямими обчисленнями, я б не сказав, прямими обчисленнями, як це має це автоматичне керування тим, як ви створюєте цю карту вищого порядку того, де ви множите матриці».

Маріо Серраферо: «Мені насправді досить важко охопити тензори. У будь-якому випадку вони так само ніби обертаються навколо себе».

Тревіс Ланьє: «Так, я думав, що я відвідував курси лінійної алгебри в коледжі. Я зробив це як чоловік: «Сподіваюся, мені ніколи більше не доведеться цього робити!» І вони повернулися з помстою. Мабуть, я сказав: «О, чувак, диференціальні рівняння та лінійна алгебра повернулися з помстою!»

Маріо Серраферо: "Я відчуваю, що багато моїх колег не наздогнали цього. Вони все ще думають, що в NPU є якийсь загадковий аспект, коли це просто купа множення матриць, скалярних добутків, функцій нелінійності, згорток [і] так далі. І я особисто не думаю, що така назва механізму нейронної обробки допомагає, але в цьому-то й річ, чи не так? Яка частина цього не розширена, заплутана, начебто основна математика перелопатена, згідно з угодами про найменування, і що, можливо, можна зробити? Не знаю, чи думав ти про це. [Що] можна зробити, щоб поінформувати людей про те, як це працює? Як це не просто так, чому, наприклад, чому DSP може робити те ж саме, що й інші нові механізми нейронної обробки? Я маю на увазі, що це просто математика, але, здається, користувачі, читачі, деякі журналісти цього не розуміють. Що можна — я не кажу, що це відповідальність Qualcomm — але що, на вашу думку, можна було б зробити інакше? Ймовірно, це моя відповідальність».

Тревіс Ланьє: «Чесно кажучи, я починаю здаватися. Можливо, нам просто потрібно назвати речі «нейронними». Ми щойно говорили про те, як лінійна алгебра та диференціальні рівняння закрутили нам голову, коли ми почали розглядати їх тому, коли ви починаєте намагатися пояснити це людям, як коли ви починаєте робити регресійний аналіз, ви дивитеся на рівняння і таке інше, голови людей вибухнути. Ви можете навчити більшість людей основам програмування, але коли ви почнете вчити їх, як працюють рівняння зворотного поширення, вони подивляться на це, і їхні голови вибухнуть. Так, веселі речі. Вони не хочуть бачити часткові похідні..."

Маріо Серраферо: «Ланцюжки часткових похідних, не через скаляри, а через вектори, включаючи нелінійні функції».

Тревіс Ланьє: «Удачі вам! Так, це важко, і я не знаю, чи більшість людей хочуть про це знати. Але я намагаюся: я додаю дрібницю на кшталт: «Гей, все, що ми тут робимо, — це векторна математика. У нас є векторний процесор». І я думаю, що люди дивляться на це і кажуть: «Добре, але мені справді потрібна нейронна система прискорювач». «Тензор» все ще є математичним, але я думаю, що люди можуть більше асоціювати його з ШІ обробки».

Маріо Серраферо: «Може бути як подолання розриву, семантичного розриву».

Тревіс Ланьє: «Зрештою, я думаю, що все звелося до того, що нам, ймовірно, просто потрібно придумати іншу назву».


Усю графіку в цій статті взято з презентації Тревіса Ланьє на Snapdragon Tech Summit. Ви можете переглянути слайди презентації тут.