Čo môže znamenať vylepšená AI pre ďalší čip Tensor

Umelá inteligencia bola v poslednej dobe jadrom mnohých funkcií, ktoré sú neoddeliteľnou súčasťou používateľskej skúsenosti, pričom mnohé spoločnosti sa snažia využiť silu AI v akejkoľvek novej funkcii, ktorá sa vyvíja. Od lepšieho rozpoznávania reči až po oprava rozmazaných fotografií a čokoľvek medzi tým, mnohé funkcie, ktoré dnes považujeme za samozrejmosť, boli postavené na AI. Žiadna z týchto spoločností však pravdepodobne nemá tendenciu spoliehať sa na schopnosti AI viac ako Google. Zatiaľ čo mnohí budú poukazovať na interné Tensor SoC spoločnosti Google ako prvý indikátor rastúcej závislosti spoločnosti Google od AI, v v skutočnosti ide ešte pred vznikom Tensor SoC. A s tým, že Google oznámil svoj zámer výrazne sa oprieť o AI pri tohtoročného Google I/O, že integrácia bude len dôležitejšia.

Ambient Computing: Konečný cieľ spoločnosti Google

V roku 2019 Rick Osterloh, hlavný viceprezident spoločnosti Google pre zariadenia a služby, prvýkrát verejnosti predstavil termín „ambient computing“.

Udalosť Made by Google ‘19. K veľkému zmätku publika Osterloh definoval ambientné výpočty ako koncept, podľa ktorého je koncový používateľ v centre systému, nie jeho telefóny alebo iné zariadenia, ktoré vlastnia. „Pomoc je všade, kde ju chcete, a je plynulá,“ povedal. "Technológia jednoducho ustúpi do pozadia, keď ju nepotrebujete."

Cieľom spoločnosti Google je v podstate vyvinúť systém, ktorý pohotovo a bez problémov spracuje požiadavky používateľov čo najefektívnejšie s minimálnym narušením. Predstavte si to ako Iron Man's Jarvis, až na to, že sa stará o bežných používateľov namiesto miliardárskeho superhrdinu. Stredobodom tejto ambicióznej vízie bude aj hlasový asistent – ​​v našom prípade Google Assistant. V tomto bode by sa mnohým odpustilo, keby si takzvaný ambient computing spoločnosti Google vysvetľovali ako vloženie Asistenta Google do každého zariadenia a jeho volanie denne.

Ešte pred uvedením svojho Tensor SoC spoločnosť Google výrazne investovala do AI, aby zlepšila používateľskú skúsenosť.

Rýchly posun vpred na Google I/O 2022a ambient computing bol opäť raz, pričom Osterloh zopakoval, že „Vo svete viacerých zariadení ľudia nechcú tráviť svoj život trápením sa s technológiou." Počas hlavnej prednášky zdôraznil, ako sú snahy spoločnosti Google týkajúce sa zariadení Pixel postavené s ohľadom na okolité výpočty. Základným kameňom vízie spoločnosti Google v oblasti ambient computingu je, samozrejme, Tensor SoC. Aj keď sa nemusí pochváliť najvyšším výkonom, jeho najväčšou silou je jeho TPU, ktorý má Google integrovaný motor strojového učenia, ktorý využíva odborné znalosti spoločnosti Google, pokiaľ ide o AI vylepšenia.

TPU je v podstate hardvér špeciálne navrhnutý na zvládanie rozsiahlych maticových operácií, ktoré sa zvyčajne používajú na pracovné zaťaženie neurónových sietí, ktoré sa vykonáva oveľa rýchlejšími rýchlosťami. Tieto pracovné zaťaženia neurónových sietí v podstate predstavujú jadro aplikácií založených na AI. Zvyčajne ich spracováva buď CPU alebo GPU na iných čipsetoch. Aj keď sa tieto procesy spracujú bez väčších problémov na žiadnom z nich, ani jeden z nich nedokáže zvládnuť tieto úlohy tak rýchlo, ako to dokáže TPU.

Primárnym dôvodom, prečo je TPU rýchlejší, je to, že CPU aj GPU sa v rôznej miere spoliehajú na prístup k pamäti pri spracovávaní takýchto úloh. V porovnaní s rýchlosťou výpočtu je prístup do pamäte podstatne pomalší (označuje sa to ako von Neumannovo úzke miesto), ktoré môže brániť priepustnosti CPU a GPU pri vykonávaní týchto matíc operácií. Treba však poznamenať, že GPU je v tomto smere podstatne rýchlejší ako CPU. Vďaka spôsobu, akým je TPU navrhnutý, nie je počas spracovania týchto maticových operácií potrebný prístup do pamäte, čo má za následok oveľa vyššiu priepustnosť ako ktorákoľvek z nich. Jedinou nevýhodou je, že TPU je vhodný iba na tento účel, čo znamená, že nemôže nahradiť ani CPU, ani GPU, pokiaľ ide o ich príslušné úlohy.

Vzhľadom na význam Tensor SoC nebolo až takým prekvapením vidieť Pixel 6a od Googlu – telefón strednej triedy od Googlu toho roku. – zachovať rovnaký Tensor SoC svojho vlajkového súrodenca, aj keď to bolo na úkor niečoho tak významného, ​​ako je vyššia obnovovacia frekvencia obrazovke. Ak vôbec niečo, toto ukazuje, aký kľúčový je Tensor SoC pre konečný cieľ spoločnosti Google. Aj keď to predtým mohlo znieť ako obyčajný nápad alebo príliš ambiciózny projekt, teraz to znie viac dôveryhodnejšie než kedykoľvek predtým, najmä vďaka generatívnej umelej inteligencii a nástrojom na spracovanie prirodzeného jazyka (NLP), ktoré obchádzajú svet búrka.

Google Bard: AI na čele

Napriek tomu, že je sám uznávaný pre svoj špičkový výskum AI, nebol to Google, kto spustil najnovšiu vlnu aplikácií poháňaných AI. S rastúcou popularitou chatbotov založených na AI, ako je ChatGPT, bol Google povinný vydať svoju vlastnú verziu. V nanajvýš nevýrazná móda, Google konečne odhalil Bard, svoj vlastný pohľad na generatívnu AI.

Rovnako ako ChatGPT, Bard je ďalší chatbot poháňaný AI, ktorý využíva jazykový model na odpovedanie na otázky koncového používateľa prirodzeným konverzačným spôsobom. Kde sa líši od svojho konkurenta, je model, na ktorom je trénovaný, čo je drastickejšie, než si väčšina ľudí myslí.

Namiesto GPT OpenAI využíva Bard domáci jazykový model Google, konkrétne LaMDA, ktorý bol vyvinutý za zatvorenými dverami. Pred Bardom sme mali len letmý pohľad späť na Google I/O 2021. Od tohto oznámenia sa, samozrejme, očakávali veľké veci a je ťažké tvrdiť, že Google nesplnil to, čo sľúbil. Problém je v tom, že Google je nie sám v tomto priestore. Prvýkrát po mnohých rokoch nie je Google prvým architektom konkrétnej inovácie.

OpenAI skutočne rozbehla loptičku s ChatGPT. Okrem toho, že bol ChatGPT zverejnený ako prvý, prešiel už v tomto relatívne krátkom čase niekoľkými významnými vylepšeniami, vrátane zavedenia Najnovší jazykový model GPT-4 od OpenAI. Ešte znepokojujúcejšie bolo, ako Microsoft vdýchol nový život Bingu začlenením tejto technológie. Ak nasiaknutie svetiel umelej inteligencie nerobilo Googlu dostatočné starosti, ohrozenie jeho dominantného postavenia na trhu s vyhľadávacími nástrojmi ich bude mať určite na svedomí. Bolo to zrejmé od chvíle, keď Google narýchlo zložil Bardovi, ktorý niekedy mal problém odpovedať na niektoré základné otázky ako pomenovanie mesiacov v roku alebo vtipné naznačenie, že služba už bola vypnutá.

Je však potrebné poznamenať, že Bard je stále v plienkach a problémy s rastom sa museli vyskytnúť, najmä vzhľadom na veľké prísľuby takejto technológie. Pozoruhodné je aj to, že prvé prekročenie hranice nemusí nevyhnutne zodpovedať zaručenému úspechu. Nie je to tak, že by to bolo plynulé ani pre OpenAI, pričom ChatGPT občas vyšiel z koľají. V skutočnosti má Google stále jedinečnú príležitosť nielen dobehnúť chatbota OpenAI, ale dokonca sa pevne vrátiť ako ten, ktorého porazí. Na tohtoročnom Google I/O spoločnosť oznámila množstvo nových funkcií a vylepšení zatiaľ čo vychvaľovať, ako to bolo „zodpovedné“.

Ako sa môže Bard integrovať do zariadení Google?

Bard môže využívať mnohé aspekty Pixel a širšieho zážitku Google Android. Po prvé, Bard by tiež prosperoval z jedinečných schopností Tensor SoC vo svojich zariadeniach Pixel.

Nie je to prvýkrát, čo sme videli, ako sa Google zaviazal využívať funkcie závislé od AI. Ešte pred uvedením svojho Tensor SoC spoločnosť Google výrazne investovala do AI, aby zlepšila používateľskú skúsenosť. Jeden z vrcholov zariadení Pixel, Now Playing, dosiahol svoje debut v roku 2018. Ďalší základný kameň zážitku Pixel, skvelé spracovanie HDR+ od spoločnosti Google, preniklo na scénu dlho predtým, ako spoločnosť Google uvažovala o myšlienke vývoja vlastného SoC. Samozrejme, Google neskôr integroval svoj vlastný čip Pixel Visual Core na pomoc so sofistikovaným post-processingom HDR+. Boli to však algoritmy dodatočného spracovania spoločnosti Google, ktoré obrátili hlavu mnohých technologických nadšencov natoľko, že niektoré komunity vývojárov pre Android sa zaujímali iba o prenos aplikácie Gcam od spoločnosti Google na iné zariadenia, podstatné zlepšenie kvality fotografie. Dokonca aj Magic Eraser, funkcia, ktorá bola vydaná oveľa neskôr, bola čoskoro priniesol do všetkých zariadení Pixel a členov Google One.

Tensor nebol základom týchto funkcií, ale je ťažké tvrdiť, že tieto funkcie neťažia z jedinečných schopností vyhradenej jednotky TPU od spoločnosti Tensor. Okrem zvýšenia výkonu existujúcich funkcií by to mohlo otvoriť príležitosť pre Google pridať ešte viac funkcií náročných na AI a jednou z týchto funkcií by pokojne nemohol byť nikto iný ako Bard AI. V skutočnosti to bolo hlásené Bard AI by mohla prísť do zariadení Pixel ako exkluzívna funkcia pred možným zavedením do všetkých telefónov so systémom Android.

Možno, že Google stále testuje vody prostredníctvom samostatnej implementácie Bard v systéme Android, než ho nakoniec integruje do niečoho ako Google Assistant. Týmto spôsobom môže Google priniesť to najlepšie z oboch svetov – vylepšené prostredie Asistenta Google a Bardove schopnosti ako generatívneho AI motora.

Vo všeobecnosti je Asistent Google vynikajúcou oblasťou na integráciu Bard. Na začiatok, keďže väčšina telefónov s Androidom už prichádza s predinštalovaným asistentom Google, takýto krok rýchlo zvýši prijatie Barda. Asistent Google bude tiež podstatne inteligentnejší a užitočnejší, a to vďaka Bardovej schopnosti chrliť sofistikovanejšie odpovede. Keď je Bard spojený s Asistentom Google, môže to tiež uľahčiť jeho integráciu s akýmkoľvek iným inteligentným zariadením, ktoré podporuje Asistenta Google. Takto budú inteligentnejšie nielen vaše telefóny, ale aj všetky vaše inteligentné zariadenia. Je však zvláštne, že Google ani raz nespomenul asistenta na I/O.

Ak by však Google spojil Barda a Google Assistant, mohlo by to zvýšiť Bardov výkon iba využitím potenciálu Tensor. Ak by Google mohol trénovať svoje TPU na používanie LaMDA (alebo PaLM 2), na jeho zariadeniach by to mohlo znamenať veľkú zmenu hry. Nielenže to nakloní misku váh v prospech zariadení Pixel, ale môže to tiež spôsobiť veľký posun v zameraní pri navrhovaní nadchádzajúceho SoC, čo ešte viac oslabuje stále rastúci dôraz na nespracovaný výkon CPU a GPU a zároveň zdôrazňuje význam schopnosti dedikovaný TPU.

Vzhľadom na to, aká ostrá je konkurencia, nie je prakticky žiadny priestor na to, aby bol Google príliš opatrný na to, aby to vyskúšal.

Spojenie Barda s Asistentom Google samozrejme predstaví vlastné výzvy, na ktorých musí Google pracovať. Napríklad Google bude určite musieť pracovať na znížení možnosti dezinformácií prakticky na nulu. Ak tak neurobí, Google by mohol riskovať, že podkope spoľahlivosť Google Assistant, pravdepodobne jeho najväčšiu silu v priestore virtuálnych asistentov. Je spravodlivé povedať, že stávky sú neuveriteľne vysoké. Vzhľadom na to, ako je Google v tomto smere pred všetkými, by však neprijatie tohto plánu bolo príliš dobrou príležitosťou na premrhanie.

Môžete vidieť, že Google už má veľký základ, na ktorom môže pracovať. Asistent Google sa dodáva takmer s každým telefónom so systémom Android a podporuje ho množstvo inteligentných zariadení na trhu. Google má teraz svoj vlastný čipset Tensor postavený podľa návrhu, aby sa zameral na aplikácie založené na AI. Toto sú dve kľúčové oblasti, kde už Google porazil Microsoft. Vzhľadom na to, aká ostrá je konkurencia, nie je prakticky žiadny priestor na to, aby bol Google príliš opatrný na to, aby to vyskúšal.

Microsoft má zatiaľ výhodu...

Toto bolo prvýkrát, čo sme videli, ako Google zdanlivo zaostáva. Pre spoločnosť, ktorá sa vždy pýšila špičkovým výskumom AI, je zvláštne vidieť, ako Google v tomto konkrétnom aspekte dobieha. A medzi všetkými jeho konkurentmi je to Microsoft, ktorý má vedúce postavenie vďaka integrácii najnovšieho jazykového modelu OpenAI GPT-4, ktorý oživil Bing v tomto procese. Stále však existuje pocit nevyhnutnosti, že Google čoskoro prevezme späť vedúcu úlohu, aj keď medzi oboma spoločnosťami je v súčasnosti značná priepasť. Ak vôbec niečo, Google ešte nevytiahol svoje eso z rukáva, zatiaľ čo Microsoft už vyskočil.

Do cieľa to však nebude priama čiara. Google bude musieť najprv vyčistiť niektoré zákutia, ak sa rozhodne integrovať Bard do svojich zariadení Pixel. Aj keď cesta Asistenta Google môže znieť ako ľahká výhra, stále predstavuje svoje vlastné výzvy, ktoré musí spoločnosť Google zvládnuť. Napriek tomu, že Google ešte neopustil štartovaciu čiaru, je to naozaj závod Microsoftu, ktorý prehrá. Možno to tak teraz vyzerá, ale zrejme to nebude nadlho.

Pri pohľade na Google I/O sa zdá, že aj keď je Google v panike, ešte nie je pripravený hodiť uterák do ringu.