Hva forbedret AI kan bety for den neste Tensor-brikken

I det siste har AI vært kjernen i mange funksjoner som er integrert i brukeropplevelsen, med mange selskaper som ønsker å utnytte kraften til AI i enhver ny funksjon under utvikling. Fra bedre talegjenkjenning til fikse uskarpe bilder og alt i mellom, mange av funksjonene vi tar for gitt i dag ble bygget rundt AI. Imidlertid har ingen av disse selskapene uten tvil en tendens til å lene seg på dyktigheten til AI mer enn Google. Mens mange vil peke på Googles interne Tensor SoCs som den første indikatoren på Googles økende avhengighet av AI, i virkeligheten går det langt tilbake før starten av Tensor SoCs. Og med Google som kunngjør sine intensjoner om å lene seg tungt på AI på årets Google I/O, at integrering bare blir viktigere.

Ambient Computing: Googles endelige mål

Tilbake i 2019 brøt Googles SVP for enheter og tjenester, Rick Osterloh, først ut begrepet "ambient computing" for publikum på

Laget av Google '19-arrangement. Til stor forvirring for publikum definerte Osterloh ambient computing som konseptet med å ha sluttbrukeren i sentrum av systemet, ikke telefonene eller andre enheter de eier. "Hjelp er hvor som helst du vil ha den, og den er flytende," sa han. "Teknologien forsvinner bare i bakgrunnen når du ikke trenger den."

I hovedsak er Googles mål å utvikle et system som enkelt og sømløst håndterer brukerens forespørsler så effektivt som mulig med et minimum av inntrenging. Tenk på det som Iron Mans Jarvis, bortsett fra at det henvender seg til vanlige brukere i stedet for en milliardærsuperhelt. På samme måte vil en stemmeassistent – ​​Google Assistant, i vårt tilfelle – stå i sentrum for denne ambisiøse visjonen. På dette tidspunktet ville mange bli tilgitt for å tolke Googles såkalte ambient computing som å sette Google Assistant i hver enhet og kalle det en dag.

Selv før de debuterte Tensor SoC, ble Google tungt investert i AI for å forbedre brukeropplevelsen.

Spol frem til Google I/O 2022, og ambient computing var nok en gang, med Osterloh som gjentok at "I en verden med flere enheter vil folk ikke bruke livet på å mase med teknologi." Etter hvert som keynoten fortsatte, la han vekt på hvordan Googles bestrebelser med Pixel-enhetene er bygget med omgivende databehandling i tankene. En hjørnestein i Googles visjon om ambient computing er selvfølgelig Tensor SoC. Selv om den kanskje ikke har de høyeste hestekreftene, er dens største styrke dens TPU, som er Googles integrert maskinlæringsmotor som utnytter Googles ekspertise når det kommer til AI forbedringer.

I hovedsak er en TPU en maskinvare som er spesielt utviklet for å håndtere massive matriseoperasjoner, som vanligvis brukes for nevrale nettverksarbeidsbelastninger som skal utføres med mye høyere hastigheter. Disse nevrale nettverksarbeidsbelastningene representerer i utgangspunktet kjernen i AI-baserte applikasjoner. Vanligvis behandles de av enten CPU eller GPU på andre brikkesett. Selv om disse prosessene vil bli håndtert uten store problemer på noen av dem, kan ingen av dem håndtere disse oppgavene så raskt som en TPU kan.

Primært er grunnen til at en TPU er raskere at både CPU og GPU er avhengig av, i variabel grad, tilgang til minnet mens de behandler slike oppgaver. Sammenlignet med beregningshastigheten er minnetilgangen vesentlig tregere (dette kalles von Neumann flaskehals), som kan hindre gjennomstrømmingen til CPU og GPU når du utfører disse matrisene operasjoner. Det må imidlertid bemerkes at GPU-en er betydelig raskere enn CPU-en i denne forbindelse. Med tillatelse til måten en TPU er designet på, kreves det ikke minnetilgang under behandlingen av disse matriseoperasjonene, noe som resulterer i mye høyere gjennomstrømming enn noen av dem. Den eneste ulempen er at TPU-en kun passer til dette formålet, noe som betyr at den ikke kan erstatte verken CPU eller GPU med hensyn til deres respektive oppgaver.

Gitt betydningen av Tensor SoC, var det ikke så stor overraskelse å se Googles Pixel 6a - Googles mellomtonetelefon det året – beholde den samme Tensor SoCen til flaggskipets søsken, selv om det var på bekostning av noe så viktig som en høyere oppdateringsfrekvens skjerm. Hvis noe, viser dette hvor avgjørende Tensor SoC er for Googles endelige mål. Selv om det kanskje hørtes ut tidligere som en ettertanke eller et altfor ambisiøst prosjekt, høres det nå mer ut troverdig enn noen gang, spesielt med generative AI og NLP-motorer som tar verden forbi storm.

Google Bard: AI ved roret

Til tross for at de selv er kjent for sin banebrytende AI-forskning, var det ikke Google som startet den siste bølgen av AI-drevne applikasjoner. Med AI-baserte chatbots som ChatGPT stigende i popularitet, var Google nødt til å gi ut sin egen versjon. I mest uimponerende mote, Google avduket endelig Bard, sin egen versjon av generativ AI.

I likhet med ChatGPT er Bard en annen AI-drevet chatbot som bruker en språkmodell for å svare på sluttbrukerens forespørsler på en naturlig måte. Der den skiller seg fra konkurrenten er modellen den er trent på, som er mer drastisk enn de fleste kanskje tror.

I stedet for OpenAIs GPT, bruker Bard Googles hjemmelagde språkmodell, nemlig LaMDA, som er utviklet bak lukkede dører. Før Bard fikk vi bare et glimt tilbake i Google I/O 2021. Store ting ble selvfølgelig forventet fra den kunngjøringen, og det er vanskelig å argumentere for at Google ikke leverte det de lovet. Problemet er at Google er det ikke alene i dette rommet. For første gang på mange år er ikke Google den første arkitekten for en bestemt innovasjon.

Faktisk fikk OpenAI ballen til å rulle med ChatGPT. Bortsett fra å bli utgitt til offentligheten først, har ChatGPT allerede gjennomgått noen betydelige oppgraderinger på denne relativt korte tiden, inkludert introduksjonen av OpenAIs nyeste GPT-4 språkmodell. Enda mer urovekkende var hvordan Microsoft blåste nytt liv i Bing ved å inkorporere denne teknologien. Hvis det ikke bekymret Google nok å suge rampelyset til AI-teknologien, vil trusselen om dens dominerende posisjon i søkemotorens markedsandel sikkert ha dem på tærne. Dette var tydelig fra det øyeblikket Google i all hast tok innpakningen av Bard, som noen ganger slet med å svare på noen grunnleggende spørsmål som å navngi månedene i året eller spøkefullt antyde at tjenesten allerede er nedlagt.

Det må imidlertid bemerkes at Bard fortsatt er i sin spede begynnelse, og voksesmerter var nødt til å skje, spesielt gitt de store løftene om en slik teknologi. Det er også verdt å merke seg at å krysse linjen først ikke nødvendigvis samsvarer med garantert suksess. Det er ikke som om det gikk jevnt for OpenAI heller, med ChatGPT som av og til gikk av stabelen. Faktisk har Google fortsatt en gylden mulighet til ikke bare å ta igjen OpenAIs chatbot, men til og med gjeninnføre seg selv som den å slå. På årets Google I/O, selskapet annonsert massevis av nye funksjoner og forbedringer samtidig som touting hvordan det var å være "ansvarlig".

Hvordan kan Bard integreres i Google-enheter?

Bard kan dra nytte av mange aspekter av Pixel og bredere Google Android-opplevelse. For det første ville Bard også trives med de unike egenskapene til Tensor SoC inne i Pixel-enhetene sine.

Det er ikke første gang vi har sett Google forplikte seg til AI-avhengige funksjoner. Selv før de debuterte Tensor SoC, ble Google tungt investert i AI for å forbedre brukeropplevelsen. Et av høydepunktene til Pixel-enheter, Now Playing, gjorde sitt debut tilbake i 2018. En annen hjørnestein i Pixel-opplevelsen, Googles strålende HDR+-behandling, brøt inn i scenen lenge før Google tenkte på ideen om å utvikle sin egen SoC. Selvfølgelig, Google har senere integrert sin egen Pixel Visual Core-brikke for å hjelpe med den sofistikerte HDR+-etterbehandlingen. Imidlertid var det Googles etterbehandlingsalgoritmer som snudde hodet til mange teknologientusiaster, så mye at noen av Android-utviklermiljøene har bare interessert seg for å portere Googles Gcam-app til andre enheter, forbedre bildekvaliteten betraktelig. Selv Magic Eraser, en funksjon som ble utgitt mye senere, ble snart bringes til alle Pixel-enheter og Google One-medlemmer.

Tensor var ikke grunnfjellet for disse funksjonene, men det er vanskelig å argumentere for at disse funksjonene ikke drar nytte av de unike egenskapene til Tensors dedikerte TPU-enhet. I tillegg til å øke ytelsen til eksisterende funksjoner, kan dette åpne muligheten for Google å legge til enda flere AI-intensive funksjoner, og en av disse funksjonene kan godt være ingen ringere enn Bard AI. Det har faktisk blitt rapportert at Bard AI kan komme til Pixel-enheter som en eksklusiv funksjon før den potensielt blir rullet ut til alle Android-telefoner.

Kanskje Google fortsatt tester vannet via en frittstående implementering av Bard på Android før den til slutt integreres i noe som Google Assistant. På denne måten kan Google bringe det beste fra begge verdener – Google Assistants raffinerte opplevelse og Bards evner som en generativ AI-motor.

Generelt sett er Google Assistant et utmerket område for å integrere Bard. For det første, siden de fleste Android-telefoner allerede kommer med Google Assistant forhåndsinstallert, vil et slikt trekk raskt øke Bards adopsjon. Google Assistant vil også bli betydelig smartere og mer nyttig, takket være Bards evne til å gi mer sofistikerte svar. Med Bard knyttet til Google Assistant, kan dette også gjøre det lettere å integrere den med alle andre smartenheter som støtter Google Assistant. På denne måten vil ikke bare telefonene dine bli smartere, men alle smartenhetene dine. Merkelig nok nevnte Google ikke en gang Assistant ved I/O en gang.

Men skulle Google strikke Bard og Google Assistant sammen, kan dette bare øke Bards ytelse ved å utnytte Tensors potensial. Hvis Google kunne trene sin TPU til å bruke LaMDA (eller PALM 2), på enhetene sine, kan dette være en stor game-changer. Ikke bare vil dette vippe vekten til fordel for Pixel-enhetene, men det kan også indusere et stort skifte i fokus når du utformer den kommende SoCs, som ytterligere utvanner den stadig økende vekten på rå CPU- og GPU-ytelse, samtidig som det fremhever betydningen av å ha en dyktig, dedikert TPU.

Gitt hvor opphetet konkurransen er, er det praktisk talt ikke rom for Google til å være for forsiktig til å prøve det.

Å binde opp Bard med Google Assistant vil selvfølgelig by på sine egne utfordringer som Google må jobbe med. For eksempel vil Google sikkert måtte jobbe med å redusere muligheten for feilinformasjon til praktisk talt null. Hvis du ikke gjør det, kan Google risikere å undergrave Google Assistants pålitelighet, uten tvil dens største styrke i det virtuelle assistentområdet. Det er rimelig å si at innsatsen er utrolig høy. Gitt hvordan Google er foran alle i denne forbindelse, ville imidlertid det å ikke forplikte seg til den planen være en for god mulighet til å kaste bort.

Du kan se at Google allerede har et stort grunnlag å jobbe med. Google Assistant leveres med nesten alle Android-telefoner og støttes av mange smarte enheter på markedet. Google har nå sitt helt eget Tensor-brikkesett bygget av design for å fokusere på AI-baserte applikasjoner. Dette er to nøkkelområder der Google allerede har slått Microsoft. Gitt hvor opphetet konkurransen er, er det praktisk talt ikke rom for Google til å være for forsiktig til å prøve det.

Microsoft har fordelen for nå...

Dette har vært første gang vi har sett at Google tilsynelatende henger etter. For et selskap som alltid har vært stolt av banebrytende AI-forskning, føles det rart å se Google ta igjen dette aspektet. Og av alle sine utfordrere, er det Microsoft som har ledelsen, takket være integreringen av OpenAIs nyeste GPT-4-språkmodell som gjenopplivet Bing i prosessen. Likevel er det fortsatt den følelsen av uunngåelighet at Google snart vil ta tilbake ledelsen, selv om det for øyeblikket er et betydelig gap mellom begge selskapene. Hvis noe, har Google ennå ikke trukket esset ut av ermet, mens Microsoft allerede har hoppet.

Det vil imidlertid ikke være en rett linje til mål. Google må først rydde noen hjørner hvis de bestemmer seg for å integrere Bard i Pixel-enhetene sine. Selv om Google Assistant-ruten kan høres ut som en enkel seier, byr den fortsatt på sine egne utfordringer som Google må navigere. Når det er sagt, med Google som ennå ikke har forlatt startstreken, er det virkelig Microsofts løp om å tape. Det kan se slik ut nå, men det vil nok ikke være så lenge.

Når vi ser på Google I/O, ser det ut til at Google, selv om det har panikk, ikke er klar til å kaste inn håndkleet ennå.