Co může znamenat vylepšená AI pro další čip Tensor

V poslední době je umělá inteligence jádrem mnoha funkcí, které jsou nedílnou součástí uživatelského zážitku, přičemž mnoho společností se snaží využít sílu umělé inteligence v jakékoli nové vyvíjené funkci. Od lepšího rozpoznávání řeči až po oprava rozmazaných fotografií a cokoli mezi tím, mnoho funkcí, které dnes považujeme za samozřejmé, bylo postaveno na AI. Žádná z těchto společností však pravděpodobně nemá tendenci se opírat o zdatnost AI více než Google. Zatímco mnozí budou poukazovat na interní Tensor SoC společnosti Google jako první indikátor rostoucí závislosti Google na AI, v ve skutečnosti jde daleko před vznikem Tensor SoC. A s tím, že Google oznámil svůj záměr silně se opřít o AI na letošní Google I/O, že integrace bude jen nabývat na významu.

Ambient Computing: Konečný cíl společnosti Google

V roce 2019 Rick Osterloh, SVP společnosti Google pro zařízení a služby, poprvé veřejnosti představil termín „ambient computing“.

Událost Made by Google ‘19. K velkému překvapení publika Osterloh definoval ambientní výpočetní techniku ​​jako koncept, kdy středem systému je koncový uživatel, nikoli jeho telefony nebo jiná zařízení, která vlastní. „Pomoc je všude, kde ji chcete, a je plynulá,“ řekl. "Technologie prostě ustoupí do pozadí, když ji nepotřebujete."

Cílem společnosti Google je v zásadě vyvinout systém, který pohotově a hladce zpracuje dotazy uživatelů co nejefektivněji s minimálním narušením. Představte si to jako Iron Man’s Jarvis, až na to, že se stará o normální uživatele namísto miliardářského superhrdiny. Stejně tak bude středem této ambiciózní vize hlasový asistent – ​​v našem případě Google Assistant. V tuto chvíli by mnohým bylo odpuštěno, že si takzvaný ambientní výpočet od Googlu vykládají jako vložení Asistenta Google do každého zařízení a volání na den.

Ještě před uvedením svého Tensor SoC společnost Google výrazně investovala do umělé inteligence, aby zlepšila uživatelský zážitek.

Rychle vpřed na Google I/O 2022a ambientní výpočetní technika byla opět jednou, přičemž Osterloh zopakoval, že „Ve světě s mnoha zařízeními lidé nechtějí strávit svůj život rozčilováním s technologií." Během hlavní přednášky zdůraznil, jak jsou snahy společnosti Google se zařízeními Pixel postaveny s ohledem na okolní výpočetní techniku. Základním kamenem vize okolního prostředí společnosti Google je samozřejmě Tensor SoC. I když se nemusí pochlubit nejvyšším výkonem, jeho největší silou je jeho TPU, který má Google integrovaný stroj pro strojové učení, který využívá odborné znalosti společnosti Google, pokud jde o umělou inteligenci vylepšení.

TPU je v podstatě kus hardwaru speciálně navržený pro zpracování masivních maticových operací, které se obvykle používají pro zátěže neuronové sítě, které mají být prováděny mnohem vyššími rychlostmi. Tyto zátěže neuronové sítě v podstatě představují jádro aplikací založených na AI. Obvykle je zpracovává buď CPU, nebo GPU na jiných čipových sadách. I když tyto procesy budou zvládnuty bez větších problémů na žádném z nich, ani jeden z nich nezvládne tyto úkoly tak rychle jako TPU.

Důvodem, proč je TPU rychlejší, je především to, že CPU i GPU spoléhají v různé míře na přístup k paměti při zpracování takových úloh. V porovnání s rychlostí výpočtu je přístup do paměti podstatně pomalejší (označuje se jako von Neumannovo úzké místo), které může bránit propustnosti CPU a GPU při provádění těchto matic operace. Nutno však podotknout, že GPU je v tomto ohledu podstatně rychlejší než CPU. Díky tomu, jak je TPU navrženo, není během zpracování těchto maticových operací vyžadován přístup do paměti, což má za následek mnohem vyšší propustnost než kterákoli z nich. Jedinou nevýhodou je, že TPU je vhodný pouze pro tento účel, což znamená, že nemůže nahradit ani CPU, ani GPU, pokud jde o jejich příslušné úkoly.

Vzhledem k významu Tensor SoC nebylo tak velkým překvapením vidět Pixel 6a od Googlu – telefon střední třídy od Googlu toho roku. – zachovat stejný Tensor SoC svého vlajkového sourozence, i když to bylo na úkor něčeho tak významného, ​​jako je vyšší obnovovací frekvence obrazovka. Pokud něco, ukazuje to, jak zásadní je Tensor SoC pro konečný cíl Google. I když to dříve mohlo znít jako pouhý dodatečný nápad nebo příliš ambiciózní projekt, nyní to zní více věrohodnější než kdy předtím, zejména díky generativním AI a procesorům přirozeného jazyka (NLP), které berou svět bouřka.

Google Bard: AI u kormidla

Navzdory tomu, že je sám o sobě známý pro svůj špičkový výzkum AI, nebyl to Google, kdo zahájil nejnovější vlnu aplikací řízených AI. S rostoucí popularitou chatbotů založených na AI, jako je ChatGPT, byl Google povinen vydat svou vlastní verzi. V nejvíce nevýrazná móda, Google konečně odhalil Bard, svůj vlastní pohled na generativní AI.

Stejně jako ChatGPT je Bard dalším chatbotem řízeným umělou inteligencí, který využívá jazykový model k tomu, aby odpovídal na dotazy koncového uživatele přirozeným konverzačním způsobem. Kde se liší od svého uchazeče, je model, na kterém je trénován, což je drastičtější, než si většina lidí myslí.

Místo OpenAI GPT využívá Bard domácí jazykový model Google, konkrétně LaMDA, který byl vyvinut za zavřenými dveřmi. Před Bardem jsme měli jen letmý pohled zpět na Google I/O 2021. Od tohoto oznámení se samozřejmě očekávaly velké věci a je těžké tvrdit, že Google nesplnil to, co slíbil. Problém je v tom, že Google je není sám v tomto prostoru. Poprvé po mnoha letech není Google prvním architektem konkrétní inovace.

Vskutku, OpenAI dostal míč do hry s ChatGPT. Kromě toho, že byl ChatGPT poprvé uvolněn pro veřejnost, prošel již během této relativně krátké doby několika významnými aktualizacemi, včetně zavedení Nejnovější jazykový model OpenAI GPT-4. Ještě znepokojivější bylo, jak Microsoft vdechl nový život Bingu začleněním této technologie. Pokud nasáknutí výsluní technologií AI nedělalo Googlu dostatečné starosti, pak ohrožení jeho dominantního postavení na tržním podílu vyhledávačů je bude mít jistě na spadnutí. To bylo zřejmé od chvíle, kdy Google narychlo sundal Bardovi zábaly, což někdy měl problém odpovědět na některé základní otázky jako pojmenování měsíců v roce nebo vtipné naznačování, že služba již byla vypnuta.

Je však třeba poznamenat, že Bard je stále v plenkách a problémy s růstem musely nastat, zvláště vzhledem k velkým příslibům takové technologie. Pozoruhodné také je, že překročení fronty jako první nemusí nutně odpovídat zaručenému úspěchu. Není to tak, že by to bylo hladké pro OpenAI, protože ChatGPT občas vyšel z kolejí. Ve skutečnosti má Google stále jedinečnou příležitost nejen dohnat chatbota OpenAI, ale dokonce se pevně vrátit k tomu, kdo má porazit. Na letošním Google I/O společnost oznámila spoustu nových funkcí a vylepšení zatímco vychvalováním toho, jak to bylo "zodpovědné".

Jak se může Bard integrovat do zařízení Google?

Bard může využívat mnoho aspektů Pixelu a širšího prostředí Google Android. Za prvé, Bard by také prosperoval z jedinečných schopností Tensor SoC uvnitř jeho zařízení Pixel.

Není to poprvé, co jsme viděli, jak se Google zavázal k funkcím závislým na AI. Ještě před uvedením svého Tensor SoC společnost Google výrazně investovala do umělé inteligence, aby zlepšila uživatelský zážitek. Jeden z vrcholů zařízení Pixel, Now Playing, dosáhl svého debut v roce 2018. Další základní kámen zážitku Pixel, skvělé zpracování HDR+ od Googlu, proniklo na scénu dlouho předtím, než Google uvažoval o myšlence vyvinout vlastní SoC. Samozřejmě, Google později integroval svůj vlastní čip Pixel Visual Core pomoci s jeho sofistikovaným post-processingem HDR+. Byly to však algoritmy následného zpracování společnosti Google, které obrátily hlavu mnoha technologických nadšenců natolik, že některé komunity vývojářů pro Android projevily zájem pouze o přenesení aplikace Gcam od Googlu na jiná zařízení, podstatné zlepšení kvality fotografie. Dokonce i Magic Eraser, funkce, která byla vydána mnohem později, byla brzy přineseno do všech zařízení Pixel a členů Google One.

Tensor nebyl základem těchto funkcí, ale je těžké tvrdit, že tyto funkce netěží z jedinečných schopností vyhrazené jednotky TPU Tensor. Kromě zvýšení výkonu stávajících funkcí by to mohlo otevřít příležitost pro Google přidat ještě více funkcí náročných na umělou inteligenci a jednou z těchto funkcí by klidně mohl být nikdo jiný než Bard AI. Ve skutečnosti to bylo hlášeno Bard AI by mohla přijít na zařízení Pixel jako exkluzivní funkce před potenciálním zavedením do všech telefonů Android.

Možná Google stále testuje vody prostřednictvím samostatné implementace Bard na Androidu, než ji nakonec integruje do něčeho jako Google Assistant. Google tak může přinést to nejlepší z obou světů – vytříbené prostředí Google Assistant a Bardovy schopnosti jako generativní AI engine.

Obecně platí, že Google Assistant je vynikající oblastí pro integraci Barda. Pro začátek, protože většina telefonů se systémem Android je již dodávána s předinstalovaným Google Assistant, takový krok rychle zvýší přijetí Barda. Asistent Google bude také podstatně chytřejší a užitečnější, a to díky Bardově schopnosti chrlit sofistikovanější odpovědi. S Bardem spojeným s Google Assistant by to mohlo také usnadnit jeho integraci s jakýmkoli jiným chytrým zařízením, které podporuje Google Assistant. Tímto způsobem budou chytřejší nejen vaše telefony, ale všechna vaše chytrá zařízení. Je však zvláštní, že Google se o Asistentovi na I/O ani jednou nezmínil.

Pokud by však Google spojil Barda a Google Assistant, mohlo by to zvýšit Bardův výkon pouze využitím potenciálu Tensor. Pokud by Google mohl trénovat své TPU k využití LaMDA (nebo PaLM 2), na jeho zařízeních by to mohlo znamenat velkou změnu hry. Nejen, že to nakloní misky vah ve prospěch zařízení Pixel, ale také by to mohlo způsobit velký posun v zaměření při navrhování nadcházejícího SoC, což dále snižuje stále rostoucí důraz na nezpracovaný výkon CPU a GPU a zároveň zdůrazňuje význam schopnosti vyhrazené TPU.

Vzhledem k tomu, jak je konkurence vyhrocená, není prakticky žádný prostor, aby byl Google příliš opatrný, aby to zkusil.

Spojení Barda s Asistentem Google samozřejmě přinese vlastní výzvy, na kterých musí Google zapracovat. Například Google bude muset jistě zapracovat na snížení možnosti dezinformací prakticky na nulu. Pokud tak neučiní, Google by mohl riskovat, že podkope spolehlivost Google Assistant, pravděpodobně jeho největší sílu v prostoru virtuálních asistentů. Je spravedlivé říci, že sázky jsou neuvěřitelně vysoké. Vzhledem k tomu, jak je Google v tomto ohledu napřed, by však nebylo odhodlání se k tomuto plánu příliš dobré promarnit.

Můžete vidět, že Google už má velký základ, na kterém může pracovat. Google Assistant se dodává téměř s každým telefonem Android a je podporován mnoha chytrými zařízeními na trhu. Google má nyní vlastní čipovou sadu Tensor navrženou tak, aby se zaměřila na aplikace založené na umělé inteligenci. To jsou dvě klíčové oblasti, kde Google již Microsoft porazil. Vzhledem k tomu, jak je konkurence vyhrocená, není prakticky žádný prostor, aby byl Google příliš opatrný, aby to zkusil.

Microsoft má zatím výhodu…

Bylo to poprvé, co jsme viděli, jak Google zdánlivě zaostává. Pro společnost, která se vždy pyšnila špičkovým výzkumem umělé inteligence, je zvláštní vidět, jak Google v tomto konkrétním aspektu dohání. A ze všech jeho konkurentů je to Microsoft, kdo má vedení díky integraci nejnovějšího jazykového modelu OpenAI GPT-4, který oživil Bing v procesu. Přesto stále existuje pocit nevyhnutelnosti, že Google brzy převezme vedení zpět, i když mezi oběma společnostmi v současnosti existuje značná propast. Pokud vůbec něco, Google ještě nevytahuje své eso z rukávu, zatímco Microsoft už vyskočil.

Do cíle to ale nebude přímá čára. Pokud se Google rozhodne integrovat Bard do svých zařízení Pixel, bude muset nejprve vyčistit některé rohy. I když cesta Google Assistant může znít jako snadná výhra, stále představuje své vlastní výzvy, které musí Google zvládnout. Vzhledem k tomu, že Google ještě neopustil startovní čáru, je to opravdu závod Microsoftu, který prohraje. Možná to tak teď vypadá, ale asi to nebude na dlouho.

Při pohledu na Google I/O se zdá, že Google, i když zpanikařil, ještě není připraven hodit ručník do ringu.