Hvad forbedret AI kan betyde for den næste Tensor-chip

På det seneste har AI været kernen i mange funktioner, der er integreret i brugeroplevelsen, hvor mange virksomheder søger at udnytte AI-kraften i enhver ny funktion under udvikling. Fra bedre talegenkendelse til reparation af slørede billeder og alt derimellem, mange af de funktioner, vi tager for givet i dag, var bygget op omkring AI. Ingen af ​​disse virksomheder har dog en tendens til at læne sig op af AI mere end Google. Mens mange vil pege på Googles interne Tensor SoC'er som den første indikator for Googles stigende afhængighed af AI, i virkeligheden går det langt tilbage før starten af ​​Tensor SoCs. Og med Google, der annoncerer sine intentioner om at læne sig kraftigt op af AI på dette års Google I/O, at integrationen kun bliver vigtigere.

Ambient Computing: Googles ultimative mål

Tilbage i 2019 udbrød Googles SVP for enheder og tjenester, Rick Osterloh, først udtrykket "ambient computing" til offentligheden på

Lavet af Google '19 begivenhed. Til stor forvirring for publikum definerede Osterloh ambient computing som konceptet med at have slutbrugeren i centrum af systemet, ikke deres telefoner eller andre enheder, de ejer. "Hjælpen er overalt, hvor du vil have den, og den er flydende," sagde han. "Teknologien falder bare i baggrunden, når du ikke har brug for den."

Grundlæggende er Googles mål at udvikle et system, der let og problemfrit håndterer brugerens forespørgsler så effektivt som muligt med minimal indtrængen. Tænk på det som Iron Mans Jarvis, bortset fra at det henvender sig til normale brugere i stedet for en milliardærsuperhelt. Ligeledes vil en stemmeassistent – ​​Google Assistant, i vores tilfælde – være i centrum for denne ambitiøse vision. På dette tidspunkt ville mange blive tilgivet for at fortolke Googles såkaldte ambient computing som at sætte Google Assistant i hver enhed og kalde det en dag.

Allerede før debuten af ​​sin Tensor SoC, blev Google kraftigt investeret i kunstig intelligens for at forbedre brugeroplevelsen.

Spol frem til Google I/O 2022, og ambient computing var det endnu en gang, hvor Osterloh gentog, at "I en verden med flere enheder ønsker folk ikke at bruge deres liv på at bøvle med teknologi." Mens keynoten fortsatte, understregede han, hvordan Googles bestræbelser med sine Pixel-enheder er bygget med ambient computing i tankerne. En hjørnesten i Googles vision om ambient computing er selvfølgelig Tensor SoC. Selvom den måske ikke kan prale af de højeste hestekræfter, er dens største styrke dens TPU, som er Googles integreret maskinlæringsmotor, der udnytter Googles ekspertise, når det kommer til kunstig intelligens forbedringer.

Grundlæggende er en TPU et stykke hardware, der er specielt designet til at håndtere massive matrixoperationer, som typisk bruges til neurale netværksarbejdsbelastninger, der skal udføres med meget hurtigere hastigheder. Disse neurale netværksarbejdsbelastninger repræsenterer grundlæggende kernen i AI-baserede applikationer. Typisk behandles de af enten CPU'en eller GPU'en på andre chipsæt. Selvom disse processer vil blive håndteret uden større problemer på nogen af ​​dem, kan ingen af ​​dem håndtere disse opgaver så hurtigt som en TPU kan.

Primært er grunden til, at en TPU er hurtigere, at både CPU'en og GPU'en i varierende grad er afhængig af at få adgang til hukommelsen, mens de behandler sådanne opgaver. Sammenlignet med beregningshastigheden er hukommelsesadgang væsentligt langsommere (dette omtales som von Neumann flaskehals), som kan hindre gennemstrømningen af ​​CPU'en og GPU'en, når du udfører disse matrix operationer. Det skal dog bemærkes, at GPU'en er betydeligt hurtigere end CPU'en i denne henseende. På grund af den måde, en TPU er designet på, kræves der ikke hukommelsesadgang under behandlingen af ​​disse matrixoperationer, hvilket resulterer i meget højere gennemløb end nogen af ​​dem. Den eneste ulempe er, at TPU'en kun er egnet til dette formål, hvilket betyder, at den ikke kan erstatte hverken CPU'en eller GPU'en med hensyn til deres respektive opgaver.

I betragtning af betydningen af ​​Tensor SoC var det ikke så stor en overraskelse at se Googles Pixel 6a - Googles mellemklassetelefon det år – behold den samme Tensor SoC som sin flagskibssøskende, selvom det var på bekostning af noget så væsentligt som en højere opdateringshastighed skærmen. Hvis noget, viser dette, hvor afgørende Tensor SoC er for Googles ultimative mål. Selvom det kunne have lød tidligere som en ren eftertanke eller et alt for ambitiøst projekt, lyder det nu mere troværdig end nogensinde, især med generative AI og NLP-motorer (natural language process) som tager verden forbi storm.

Google Bard: AI ved roret

På trods af at være selvindrømmet kendt for sin banebrydende AI-forskning, var det ikke Google, der startede den seneste bølge af AI-drevne applikationer. Med AI-baserede chatbots som ChatGPT stigende i popularitet, var Google nødt til at frigive sin egen version. I mest uimponerende mode, Google afslørede endelig Bard, dets eget bud på generativ AI.

Ligesom ChatGPT er Bard en anden AI-drevet chatbot, der bruger en sprogmodel til at svare på slutbrugerens forespørgsler på en naturlig, samtale måde. Hvor den adskiller sig fra sin konkurrent, er den model, den er trænet på, hvilket er mere drastisk end de fleste måske tror.

I stedet for OpenAIs GPT bruger Bard Googles hjemmelavede sprogmodel, nemlig LaMDA, som er udviklet bag lukkede døre. Forud for Bard fik vi kun et glimt tilbage i Google I/O 2021. Der forventedes selvfølgelig store ting fra den meddelelse, og det er svært at argumentere for, at Google ikke leverede, hvad det lovede. Problemet er, at Google er det ikke alene i dette rum. For første gang i mange år er Google ikke den første arkitekt bag en bestemt innovation.

Faktisk fik OpenAI bolden til at rulle med ChatGPT. Udover at blive frigivet til offentligheden først, har ChatGPT allerede gennemgået nogle betydelige opgraderinger på denne relativt korte tid, herunder introduktionen af OpenAIs nyeste GPT-4 sprogmodel. Endnu mere bekymrende var, hvordan Microsoft pustede nyt liv i Bing ved at inkorporere denne teknologi. Hvis det ikke bekymrede Google nok at sætte rampelyset i AI-teknologien i blød, så vil truslen om dens dominerende position på søgemaskinens markedsandel helt sikkert have dem på tæerne. Dette var tydeligt fra det øjeblik, Google hastigt tog omslaget af Bard, som nogle gange kæmpede for at besvare nogle grundlæggende spørgsmål som at navngive årets måneder eller spøgefuldt antyde, at tjenesten allerede er lukket ned.

Det skal dog bemærkes, at Bard stadig er i sin vorden, og vokseværk var nødt til at ske, især i betragtning af de store løfter om sådan en teknologi. Det er også bemærkelsesværdigt, at det at krydse linjen først ikke nødvendigvis svarer til garanteret succes. Det er heller ikke sådan, at det gik glat for OpenAI, hvor ChatGPT af og til gik af sporet. Faktisk har Google stadig en gylden mulighed for ikke kun at indhente OpenAIs chatbot, men endda genindsætte sig selv som den, der skal slås. Ved dette års Google I/O vil virksomheden annonceret et væld af nye funktioner og forbedringer mens udråbte, hvordan det var at være "ansvarlig".

Hvordan kan Bard integreres i Google-enheder?

Bard kan drage fordel af mange aspekter af Pixel og bredere Google Android-oplevelse. For det første ville Bard også trives med de unikke muligheder i Tensor SoC inde i sine Pixel-enheder.

Det er ikke første gang, vi har set Google forpligte sig til AI-afhængige funktioner. Allerede før debuten af ​​sin Tensor SoC, blev Google kraftigt investeret i kunstig intelligens for at forbedre brugeroplevelsen. Et af højdepunkterne ved Pixel-enheder, Now Playing, blev til debut tilbage i 2018. En anden hjørnesten i Pixel-oplevelsen, Googles strålende HDR+-behandling, brød ind i scenen længe før Google overvejede ideen om at udvikle sin egen SoC. Selvfølgelig, Google integrerede senere sin egen Pixel Visual Core-chip for at hjælpe med dens sofistikerede HDR+-efterbehandling. Det var imidlertid Googles efterbehandlingsalgoritmer, der vendte hovedet på mange teknologientusiaster så meget, at nogle af Android-udviklerfællesskaberne har kun interesseret sig for at overføre Googles Gcam-app til andre enheder, forbedre billedkvaliteten væsentligt. Selv Magic Eraser, en funktion, der blev udgivet meget senere, blev snart bringes til alle Pixel-enheder og Google One-medlemmer.

Tensor var ikke grundlaget for disse funktioner, men det er svært at argumentere for, at disse funktioner ikke drager fordel af de unikke egenskaber i Tensors dedikerede TPU-enhed. Udover at øge ydeevnen af ​​eksisterende funktioner, kan dette åbne mulighed for Google at tilføje endnu flere AI-intensive funktioner, og en af ​​disse funktioner kunne godt være ingen ringere end Bard AI. Det er faktisk blevet rapporteret Bard AI kan komme til Pixel-enheder som en eksklusiv funktion før de potentielt bliver rullet ud til alle Android-telefoner.

Måske tester Google stadig vandet via en selvstændig implementering af Bard på Android, før den i sidste ende integreres i noget som Google Assistant. På denne måde kan Google bringe det bedste fra begge verdener – Google Assistants raffinerede oplevelse og Bards muligheder som en generativ AI-motor.

Generelt er Google Assistant et glimrende område til at integrere Bard. For det første, da de fleste Android-telefoner allerede kommer med Google Assistant forudinstalleret, vil et sådant skridt hurtigt øge Bards adoption. Google Assistant vil også blive væsentligt smartere og mere nyttig takket være Bards evne til at få mere sofistikerede svar frem. Med Bard bundet til Google Assistant kan dette også lette integrationen med enhver anden smartenhed, der understøtter Google Assistant. På denne måde bliver ikke kun dine telefoner smartere, men alle dine smarte enheder. Mærkeligt nok nævnte Google ikke engang Assistant ved I/O én gang.

Men skulle Google strikke Bard og Google Assistant sammen, kunne dette kun øge Bards ydeevne ved at udnytte Tensors potentiale. Hvis Google kunne træne sin TPU til at bruge LaMDA (eller PALM 2), på sine enheder, kan dette være en stor game-changer. Ikke alene vil dette vippe vægten til fordel for dets Pixel-enheder, men det kan også inducere et stort skift i fokus, når de designer den kommende SoC'er, der yderligere fortynder den stadigt voksende vægt på rå CPU- og GPU-ydeevne, mens det fremhæver betydningen af ​​at have en dygtig, dedikeret TPU.

I betragtning af hvor hård konkurrencen er, er der stort set ikke plads til, at Google skal være for forsigtig til at prøve det.

Selvfølgelig vil det at binde Bard med Google Assistant give sine egne udfordringer, som Google skal arbejde på. For eksempel vil Google helt sikkert skulle arbejde på at reducere muligheden for misinformation til praktisk talt nul. Hvis Google ikke gør det, kan Google risikere at underminere Google Assistants pålidelighed, nok dens største styrke i det virtuelle assistentrum. Det er rimeligt at sige, at indsatsen er utrolig høj. I betragtning af, hvordan Google er foran alle i denne henseende, ville det dog være en alt for god mulighed at spilde, hvis man ikke forpligter sig til den plan.

Du kan se, at Google allerede har et stort fundament at arbejde på. Google Assistant leveres med næsten alle Android-telefoner og understøttes af en masse smartenheder på markedet. Google har nu sit helt eget Tensor-chipsæt bygget af design til at fokusere på AI-baserede applikationer. Det er to nøgleområder, hvor Google allerede har slået Microsoft. I betragtning af hvor hård konkurrencen er, er der stort set ikke plads til, at Google skal være for forsigtig til at prøve det.

Microsoft har fordelen lige nu...

Det har været første gang, vi har set Google tilsyneladende halte bagud. For en virksomhed, der altid har været stolt af banebrydende AI-forskning, føles det underligt at se Google spille indhentning i dette særlige aspekt. Og af alle sine konkurrenter er det Microsoft, der har føringen, takket være dets integration af OpenAIs nyeste GPT-4 sprogmodel, der genoplivede Bing i processen. Alligevel er der stadig den følelse af uundgåelighed, at Google snart vil tage føringen tilbage, selvom der i øjeblikket er en betydelig kløft mellem begge virksomheder. Hvis der er noget, har Google endnu ikke trukket sit es ud af ærmet, hvorimod Microsoft allerede hoppede.

Det bliver dog ikke en lige linje til mål. Google bliver nødt til at rydde nogle hjørner først, hvis det beslutter sig for at integrere Bard i sine Pixel-enheder. Selvom Google Assistant-ruten kan lyde som en nem gevinst, byder den stadig på sine egne udfordringer, som Google skal navigere. Når det er sagt, med Google endnu ikke forladt startlinjen, er det virkelig Microsofts kapløb om at tabe. Det ser måske sådan ud nu, men det bliver nok ikke så længe.

Ser man på Google I/O, ser det ud til, at Google, selvom det er i panik, ikke er klar til at kaste håndklædet i ringen endnu.