Какво може да означава подобреният AI за следващия чип Tensor

Напоследък AI е в основата на много функции, неразделна част от потребителското изживяване, като много компании се стремят да използват силата на AI във всяка нова функция в процес на разработка. От по-добро разпознаване на реч до коригиране на замъглени снимки и всичко между тях, много от функциите, които приемаме за даденост в днешно време, са изградени около AI. Въпреки това, нито една от тези компании не може да разчита повече на мощта на AI, отколкото Google. Въпреки че мнозина ще посочат вътрешните Tensor SoC на Google като първия индикатор за нарастващата зависимост на Google от AI, в реалност, тя датира много назад преди създаването на Tensor SoC. И с това, че Google обяви намеренията си да разчита в голяма степен на AI при тазгодишния Google I/O, тази интеграция ще става все по-важна.

Околна среда: крайната цел на Google

Още през 2019 г. старшият вицепрезидент на Google за устройства и услуги, Рик Остерло, за първи път разпространи термина „околен компютър“ пред обществеността в

Събитие, създадено от Google ‘19. За голямо недоумение на публиката, Остерлох дефинира околните изчисления като концепцията крайният потребител да е в центъра на системата, а не техните телефони или други устройства, които притежават. „Помощта е навсякъде, където я поискате, и е течна“, каза той. „Технологията просто избледнява на заден план, когато нямате нужда от нея.“

По същество целта на Google е да разработи система, която лесно и безпроблемно обработва заявките на потребителя възможно най-ефективно с минимално натрапване. Мислете за него като за Джарвис на Железния човек, с изключение на това, че се грижи за нормални потребители, вместо за супергерой милиардер. По същия начин, гласов асистент – Google Assistant, в нашия случай – ще бъде в центъра на тази амбициозна визия. В този момент на мнозина ще бъде простено да тълкуват така нареченото околно изчисление на Google като поставяне на Google Assistant във всяко устройство и това да се случи.

Дори преди да дебютира своя Tensor SoC, Google инвестира сериозно в AI, за да подобри потребителското изживяване.

Бързо превъртане напред към Google I/O 2022, а околните изчисления отново бяха, като Остерло повтори, че „В свят с множество устройства хората не искат да прекарват живота си в суетене с технология." Докато основната бележка продължи, той подчерта как усилията на Google с нейните устройства Pixel са изградени с мисъл за околните изчисления. Крайъгълен камък на визията на Google за околните изчисления е, разбира се, Tensor SoC. Въпреки че може да не се похвали с най-високите конски сили, най-голямата му сила е неговият TPU, който е на Google интегрирана машина за машинно обучение, която използва експертния опит на Google, когато става дума за AI подобрения.

По същество TPU е част от хардуер, специално проектиран да обработва масивни матрични операции, които обикновено се използват за натоварвания на невронни мрежи, които трябва да се извършват при много по-високи скорости. Тези работни натоварвания на невронни мрежи основно представляват ядрото на базираните на AI приложения. Обикновено те се обработват или от CPU, или от GPU на други чипсети. Въпреки че тези процеси ще бъдат обработени без големи проблеми при нито един от тях, нито един от тях не може да се справи с тези задачи толкова бързо, колкото може TPU.

Основната причина, поради която TPU е по-бърз, е, че както CPU, така и GPU разчитат в различна степен на достъп до паметта, докато обработват такива задачи. В сравнение със скоростта на изчисление, достъпът до паметта е значително по-бавен (това се нарича von Neumann bottleneck), което може да попречи на пропускателната способност на CPU и GPU при изпълнение на тези матрици операции. Трябва да се отбележи обаче, че GPU е значително по-бърз от CPU в това отношение. Благодарение на начина, по който е проектиран TPU, не се изисква достъп до паметта по време на обработката на тези матрични операции, което води до много по-висока пропускателна способност от всяка от тях. Единственият недостатък е, че TPU е подходящ само за тази цел, което означава, че не може да замени нито CPU, нито GPU по отношение на съответните им задачи.

Като се има предвид значението на Tensor SoC, не беше чак толкова изненада да видим Pixel 6a на Google – телефонът от среден клас на Google за тази година – запазване на същия Tensor SoC на водещия си брат, дори ако това беше за сметка на нещо толкова важно като по-висока честота на опресняване екран. Ако не друго, това показва колко решаващ е Tensor SoC за крайната цел на Google. Въпреки че може да звучи по-рано като обикновена мисъл или прекалено амбициозен проект, сега звучи повече надежден от всякога, особено с генеративния AI и двигателите за процес на естествен език (NLP), които превземат света с буря.

Google Bard: AI начело

Въпреки че сами признават, че са известни със своите авангардни изследвания на AI, не Google започна най-новата вълна от приложения, управлявани от AI. С нарастващата популярност на базираните на изкуствен интелект чатботове като ChatGPT, Google трябваше да пусне своя собствена версия. В най-невпечатляващата мода, Google най-накрая представи Bard, своя собствена представа за генеративния AI.

Подобно на ChatGPT, Bard е друг управляван от изкуствен интелект чатбот, който използва езиков модел, за да отговори на заявките на крайния потребител по естествен, разговорен начин. Там, където се различава от съперника си, е моделът, по който се обучава, което е по-драстично, отколкото повечето хора биха си помислили.

Вместо GPT на OpenAI, Bard използва родния езиков модел на Google, а именно LaMDA, който е разработен зад затворени врати. Преди Бард имахме само бегъл поглед обратно в Google I/O 2021. Разбира се, от това съобщение се очакваха големи неща и е трудно да се спори, че Google не изпълни това, което обеща. Проблемът е, че Google е не е сам в това пространство. За първи път от много години Google не е първият архитект на определена иновация.

Наистина, OpenAI завъртя топката с ChatGPT. Освен че беше пуснат първо за обществеността, ChatGPT вече претърпя някои значителни надстройки за това сравнително кратко време, включително въвеждането на Най-новият езиков модел GPT-4 на OpenAI. Още по-тревожно беше как Microsoft вдъхна нов живот на Bing, като включи тази технология. Ако поглъщането на светлината на прожекторите на AI технологията не тревожи Google достатъчно, тогава заплахата за доминиращата му позиция в пазарния дял на търсачките със сигурност ще ги накара да бъдат нащрек. Това беше очевидно от момента, в който Google набързо разкри Бард, което понякога се затрудняваше да отговори на някои основни въпроси като назоваване на месеците от годината или шеговито внушение, че услугата вече е затворена.

Трябва да се отбележи обаче, че Bard все още е в начален стадий и проблемите на растежа трябваше да се случат, особено предвид големите обещания на подобна технология. Също така трябва да се отбележи, че пресичането на линията първо не отговаря непременно на гарантиран успех. Не е като да върви гладко и за OpenAI, като ChatGPT понякога излиза извън релсите. Всъщност Google все още има златна възможност не само да настигне чатбота на OpenAI, но дори да се възстанови твърдо като този, който трябва да победи. На тазгодишния Google I/O компанията обяви много нови функции и подобрения докато рекламирайки как е да си "отговорен".

Как може Bard да се интегрира в устройства на Google?

Bard може да се възползва от много аспекти на Pixel и по-широкото изживяване на Google Android. От една страна, Bard също ще процъфтява от уникалните възможности на Tensor SoC в своите устройства Pixel.

Това не е първият път, когато виждаме Google да се ангажира с разчитащи на AI функции. Дори преди да дебютира своя Tensor SoC, Google инвестира сериозно в AI, за да подобри потребителското изживяване. Един от акцентите на устройствата Pixel, Now Playing, направи своето дебютира през 2018 г. Друг крайъгълен камък на изживяването на Pixel, брилянтната HDR+ обработка на Google, навлезе на сцената много преди Google да обмисли идеята за разработване на собствена SoC. Разбира се, По-късно Google интегрира свой собствен чип Pixel Visual Core за подпомагане на неговата сложна HDR+ последваща обработка. Алгоритмите за последваща обработка на Google обаче завъртяха главите на много технологични ентусиасти дотолкова, че някои от общностите на разработчиците на Android се интересуват само от пренасянето на приложението Gcam на Google към други устройства, значително подобряване на качеството на снимките. Дори Magic Eraser, функция, която беше пусната много по-късно, беше скоро предоставени на всички устройства Pixel и членове на Google One.

Tensor не беше в основата на тези функции, но е трудно да се спори, че тези функции не се възползват от уникалните способности на специалното TPU устройство на Tensor. Освен повишаване на производителността на съществуващите функции, това може да отвори възможност за Google за да добави още повече функции, изискващи AI, и една от тези функции може да бъде не друга, а Bard AI. Всъщност беше съобщено, че Bard AI може да дойде на Pixel устройства като изключителна функция преди потенциално да бъде пуснат на всички телефони с Android.

Може би Google все още тества водите чрез самостоятелно внедряване на Bard на Android, преди в крайна сметка да го интегрира в нещо като Google Assistant. По този начин Google може да донесе най-доброто от двата свята – усъвършенстваното изживяване на Google Assistant и възможностите на Bard като генеративна AI машина.

Като цяло Google Assistant е отлична област за интегриране на Bard. Като за начало, тъй като повечето телефони с Android вече идват с предварително инсталиран Google Assistant, такъв ход бързо ще увеличи приемането на Bard. Google Assistant също ще стане значително по-умен и по-полезен, благодарение на способността на Bard да извежда по-сложни отговори. Тъй като Bard е свързан с Google Assistant, това също може да улесни интегрирането му с всяко друго смарт устройство, което поддържа Google Assistant. По този начин не само телефоните ви ще станат по-умни, но и всичките ви смарт устройства. Любопитно е обаче, че Google дори не споменава Assistant на I/O.

Въпреки това, ако Google свърже Bard и Google Assistant заедно, това може да повиши производителността на Bard само чрез използване на потенциала на Tensor. Ако Google можеше да обучи своя TPU да използва LaMDA (или PaLM 2), на неговите устройства, това може да бъде голяма промяна в играта. Това не само ще наклони везните в полза на неговите Pixel устройства, но също така може да предизвика голяма промяна във фокуса при проектирането на предстоящите SoCs, допълнително размивайки непрекъснато нарастващия акцент върху производителността на суровия CPU и GPU, като същевременно подчертава значението на наличието на способен, специален TPU.

Като се има предвид колко разгорещена е конкуренцията, на практика няма място Google да бъде твърде предпазлив, за да опита.

Разбира се, обвързването на Bard с Google Assistant ще създаде собствени предизвикателства, върху които Google трябва да работи. Например Google със сигурност ще трябва да работи за намаляване на възможността от дезинформация практически до нула. Ако не направи това, Google може да рискува да подкопае надеждността на Google Assistant, може би най-голямата му сила в пространството на виртуалните асистенти. Справедливо е да се каже, че залозите са невероятно високи. Като се има предвид как Google е пред всички в това отношение обаче, да не се ангажираме с този план би било твърде добра възможност за губене.

Можете да видите, че Google вече има голяма основа, върху която да работи. Google Assistant се доставя с почти всеки телефон с Android и се поддържа от много смарт устройства на пазара. Google вече има свой собствен чипсет Tensor, създаден по проект, за да се фокусира върху приложения, базирани на AI. Това са две ключови области, в които Google вече е победил Microsoft. Като се има предвид колко разгорещена е конкуренцията, на практика няма място Google да бъде твърде предпазлив, за да опита.

Microsoft има предимството засега...

Това е първият път, когато виждаме Google привидно да изостава. За компания, която винаги се е гордяла с авангардни изследвания на AI, се чувства странно да види Google да наваксва в този конкретен аспект. И от всички негови съперници Microsoft е този, който води, благодарение на интегрирането на най-новия GPT-4 езиков модел на OpenAI, който съживи Bing в процеса. И все пак все още съществува чувството за неизбежност, че Google скоро ще си върне лидерството, дори ако в момента има значителна разлика между двете компании. Ако не друго, Google все още не е извадил асото от ръкава си, докато Microsoft вече се е захванал.

Въпреки това няма да е права линия до финала. Google ще трябва първо да изчисти някои ъгли, ако реши да интегрира Bard в своите Pixel устройства. Въпреки че маршрутът на Google Assistant може да звучи като лесна победа, той все пак представлява свои собствени предизвикателства, които Google трябва да навигира. Като каза това, тъй като Google все още не е напуснал стартовата линия, състезанието на Microsoft наистина ще загуби. Сега може да изглежда така, но вероятно няма да е за дълго.

Гледайки Google I/O, изглежда, че Google, макар и в паника, все още не е готов да хвърли кърпата.