Kaj lahko izboljšan AI pomeni za naslednji čip Tensor?

Umetna inteligenca je zdaj v modi, toda kakšne posledice ima lahko to na Googlov nabor čipov Tensor, osredotočen na umetno inteligenco?

V zadnjem času je umetna inteligenca v središču številnih funkcij, ki so sestavni del uporabniške izkušnje, pri čemer si številna podjetja prizadevajo izkoristiti moč umetne inteligence v kateri koli novi funkciji v razvoju. Od boljšega prepoznavanja govora do popravljanje zamegljenih fotografij in vse vmes, veliko funkcij, ki jih danes jemljemo za samoumevne, je bilo zgrajenih okoli AI. Vendar se nobeno od teh podjetij nedvomno ne zanaša bolj na zmogljivost umetne inteligence kot Google. Medtem ko bodo mnogi opozorili na Googlove lastne sisteme na osnovi Tensor SoC kot na prvi pokazatelj vse večje odvisnosti Googla od umetne inteligence, v v resnici sega daleč nazaj pred nastankom Tensor SoC. In z Googlom, ki je objavil svoje namere, da se bo močno zanašal na AI pri letošnji Google I/O, bo povezovanje le še pomembnejše.

Ambientalno računalništvo: Googlov končni cilj

Leta 2019 je Googlov višji podpredsednik za naprave in storitve, Rick Osterloh, prvič predstavil izraz »ambientalno računalništvo« v javnosti na Dogodek, ki ga je izdelal Google '19. Na veliko začudenje občinstva je Osterloh definiral ambientalno računalništvo kot koncept, po katerem je končni uporabnik v središču sistema, ne pa njihovi telefoni ali katere koli druge naprave, ki jih imajo. "Pomoč je povsod, kjer jo želite, in je tekoča," je dejal. "Tehnologija preprosto zbledi v ozadju, ko je ne potrebujete."

V bistvu je Googlov cilj razviti sistem, ki zlahka in nemoteno obravnava uporabnikove poizvedbe kar se da učinkovito z minimalnim vdorom. Zamislite si ga kot Iron Man's Jarvis, le da je namenjen običajnim uporabnikom namesto superjunaku milijarderju. Podobno bo glasovni pomočnik – Google Assistant, v našem primeru – v središču te ambiciozne vizije. Na tej točki bi bilo marsikomu odpuščeno, če bi si Googlovo tako imenovano ambientalno računalništvo razlagali tako, kot da bi Google Assistant postavili v vsako napravo in jo poklicali na dan.

Še preden je predstavil svoj Tensor SoC, je Google veliko vlagal v AI za izboljšanje uporabniške izkušnje.

Hitro previjanje naprej na Google I/O 2022, ambientalno računalništvo pa je bilo znova, pri čemer je Osterloh ponovil, da »v svetu več naprav ljudje nočejo preživeti svojega življenja, s tehnologijo." V osrednjem govoru je poudaril, kako so Googlova prizadevanja z napravami Pixel zgrajena z mislijo na ambientalno računalništvo. Temelj Googlove vizije okoljskega računalništva je seveda Tensor SoC. Čeprav se morda ne ponaša z največjo močjo, je njegova največja moč TPU, ki je Googlov integriran mehanizem za strojno učenje, ki izkorišča Googlovo strokovno znanje, ko gre za AI izboljšave.

V bistvu je TPU kos strojne opreme, posebej zasnovan za obvladovanje obsežnih matričnih operacij, ki se običajno uporabljajo za obremenitve nevronske mreže, ki se izvajajo pri veliko večjih hitrostih. Te delovne obremenitve nevronske mreže v bistvu predstavljajo jedro aplikacij, ki temeljijo na AI. Običajno jih obdeluje CPE ali GPE na drugih naborih čipov. Medtem ko bodo ti procesi obravnavani brez večjih težav na nobenem od njih, nobeden ne more obravnavati teh nalog tako hitro, kot lahko TPU.

Pixel 7a glasovno tipkanje v akciji

Glavni razlog, zakaj je TPE hitrejši, je, da se tako CPE kot GPE med obdelavo takih nalog zanašata na dostop do pomnilnika v spremenljivem obsegu. V primerjavi s hitrostjo računanja je dostop do pomnilnika bistveno počasnejši (to se imenuje von Neumannovo ozko grlo), ki lahko ovira prepustnost CPE in GPE pri izvajanju teh matričnih operacije. Vendar je treba opozoriti, da je GPE v tem pogledu precej hitrejši od CPE. Zaradi načina oblikovanja TPU med obdelavo teh matričnih operacij dostop do pomnilnika ni potreben, kar ima za posledico veliko večjo prepustnost kot katera koli od njih. Edina slaba stran je, da je TPE primeren le za ta namen, kar pomeni, da ne more nadomestiti niti CPE niti GPE glede njunih nalog.

Glede na pomen Tensor SoC ni bilo tako veliko presenečenje videti Googlov Pixel 6a – Googlov telefon srednjega razreda tistega leta – obdržati isti Tensor SoC svojega vodilnega brata, tudi če je šlo na račun nečesa tako pomembnega, kot je višja stopnja osveževanja zaslon. Če sploh kaj, to kaže, kako ključen je Tensor SoC za Googlov končni cilj. Medtem ko je prej morda zvenelo kot zgolj naknadna misel ali preveč ambiciozen projekt, zdaj zveni bolj verodostojen kot kdaj koli prej, zlasti z generativnimi AI in motorji procesov naravnega jezika (NLP), ki osvajajo svet nevihta.

Google Bard: AI na čelu

Vir: Google

Kljub temu, da je sam priznal, da je znan po svojih vrhunskih raziskavah umetne inteligence, ni bil Google tisti, ki je začel najnovejši val aplikacij, ki temeljijo na umetni inteligenci. Ker so klepetalni roboti, ki temeljijo na umetni inteligenci, kot je ChatGPT, zelo priljubljeni, je moral Google izdati svojo različico. V najbolj nevpadljiva moda, je Google končno predstavil Bard, svoj pogled na generativno umetno inteligenco.

Tako kot ChatGPT je Bard še en klepetalni robot, ki ga poganja umetna inteligenca in uporablja jezikovni model za odgovarjanje na poizvedbe končnega uporabnika na naraven pogovorni način. Kjer se razlikuje od svojega tekmeca, je model, po katerem je treniran, kar je bolj drastično, kot si večina ljudi misli.

Namesto GPT OpenAI Bard uporablja Googlov domači jezikovni model, in sicer LaMDA, ki je bil razvit za zaprtimi vrati. Pred Bardom smo imeli le bežen pogled nazaj na Google I/O 2021. Od te objave so se seveda pričakovale velike stvari in težko je trditi, da Google ni izpolnil obljubljenega. Težava je v tem, da je Google ne sam v tem prostoru. Prvič po mnogih letih Google ni prvi arhitekt določene inovacije.

Pravzaprav je OpenAI začel s ChatGPT. Poleg tega, da je bil ChatGPT prvič objavljen v javnosti, je ChatGPT v tem relativno kratkem času že doživel nekaj pomembnih nadgradenj, vključno z uvedbo OpenAI-jev najnovejši jezikovni model GPT-4. Še bolj zaskrbljujoče je bilo, kako je Microsoft Bingu vdahnil novo življenje z vključitvijo te tehnologije. Če v središču pozornosti tehnologije umetne inteligence Google ni dovolj skrbel, potem jih bo ogrožanje njegovega prevladujočega položaja na tržnem deležu iskalnikov zagotovo spravilo na prste. To je bilo očitno od trenutka, ko je Google na hitro zakril Barda, kar včasih težko odgovoril na nekaj osnovnih vprašanj na primer poimenovanje mesecev v letu ali šaljivo namigovanje, da je storitev že zaprta.

Vendar je treba opozoriti, da je Bard še vedno v povojih in da so se morale zgoditi težave pri rasti, zlasti glede na velike obljube takšne tehnologije. Omeniti velja tudi, da prvi prehod črte ne pomeni nujno zagotovljenega uspeha. Tudi za OpenAI ni šlo gladko, saj ChatGPT občasno zaide iz tira. Pravzaprav ima Google še vedno zlato priložnost, da ne le dohiti klepetalnega robota OpenAI, ampak se celo ponovno trdno uveljavi kot tisti, ki ga je treba premagati. Na letošnjem Google I/O je podjetje napovedal ogromno novih funkcij in izboljšav medtem nagovarjal, kako je biti "odgovoren".

Kako se lahko Bard integrira v Googlove naprave?

Bard lahko izkoristi številne vidike Pixel in širše izkušnje Google Android. Prvič, Bard bi prav tako uspeval z edinstvenimi zmogljivostmi Tensor SoC v svojih napravah Pixel.

Ni prvič, da smo videli, da se Google zaveže funkcijam, ki so odvisne od umetne inteligence. Še preden je predstavil svoj Tensor SoC, je Google veliko vlagal v AI za izboljšanje uporabniške izkušnje. Eden od vrhuncev naprav Pixel, Now Playing, je dosegel svoje debitiral leta 2018. Drugi temeljni kamen izkušnje Pixela, Googlova briljantna obdelava HDR+, je vdrla na sceno veliko preden je Google razmišljal o zamisli o razvoju lastnega SoC. Seveda, Google je pozneje integriral lasten čip Pixel Visual Core za pomoč pri njegovi sofisticirani naknadni obdelavi HDR+. Vendar so bili Googlovi algoritmi za naknadno obdelavo tisti, ki so mnogim tehnološkim navdušencem tako obrnili glave, da nekatere skupnosti razvijalcev za Android so se zanimale samo za prenos Googlove aplikacije Gcam na druge naprave, bistveno izboljša kakovost fotografije. Tudi Magic Eraser, funkcija, ki je bila izdana veliko pozneje, je bila kmalu na voljo vsem napravam Pixel in članom Google One.

Tensor ni bil temelj teh funkcij, vendar je težko trditi, da te funkcije nimajo koristi od edinstvenih sposobnosti Tensorjeve namenske enote TPU. Poleg povečanja učinkovitosti obstoječih funkcij bi to lahko odprlo priložnost za Google dodati še več funkcij, ki zahtevajo AI, in ena od teh funkcij bi lahko bila nihče drug kot Bard AI. Pravzaprav so poročali, da Bard AI bi lahko prišel v naprave Pixel kot ekskluzivna funkcija preden bo morda uveden na vse telefone Android.

Morda Google še vedno preizkuša vode s samostojno implementacijo Barda na Androidu, preden ga končno integrira v nekaj, kot je Google Assistant. Na ta način lahko Google prinese najboljše iz obeh svetov – izpopolnjeno izkušnjo Google Assistant in Bardove zmogljivosti kot generativnega motorja AI.

Na splošno je Google Assistant odlično področje za integracijo Barda. Za začetek, ker ima večina telefonov Android že vnaprej nameščen Google Assistant, bo taka poteza hitro povečala Bardovo sprejetje. Google Assistant bo prav tako postal bistveno pametnejši in bolj uporaben, zahvaljujoč Bardovi sposobnosti ustvarjanja bolj sofisticiranih odgovorov. Ker je Bard povezan z Google Assistantom, bi to lahko olajšalo tudi njegovo integracijo s katero koli drugo pametno napravo, ki podpira Google Assistant. Na ta način ne bodo samo vaši telefoni postali pametnejši, ampak vse vaše pametne naprave. Nenavadno pa je, da Google na I/O niti enkrat ni omenil pomočnika.

Če pa bi Google združil Bard in Google Assistant, bi to lahko samo povečalo Bardovo zmogljivost z izkoriščanjem Tensorjevega potenciala. Če bi Google lahko usposobil svoj TPU za uporabo LaMDA (oz PaLM 2), na njegovih napravah bi to lahko močno spremenilo igro. Ne samo, da bo to prevesilo tehtnico v korist njegovih naprav Pixel, ampak bi lahko povzročilo tudi velik premik v fokusu pri oblikovanju prihajajočega SoC-ji, ki še dodatno zmanjšujejo vedno večji poudarek na surovi zmogljivosti CPE in GPE, hkrati pa poudarjajo pomen zmogljivega, namenski TPU.

Glede na to, kako zagreta je konkurenca, skoraj ni prostora, da bi bil Google preveč previden, da bi poskusil.

Seveda bo povezovanje Barda z Google Assistantom predstavljalo lastne izzive, na katerih mora Google delati. Google bo na primer zagotovo moral delati na tem, da bo možnost dezinformacij zmanjšal na praktično nič. Če tega ne stori, lahko Google tvega, da bo spodkopal zanesljivost Googlovega pomočnika, ki je verjetno njegova največja prednost v prostoru virtualnega pomočnika. Pošteno je reči, da so vložki neverjetno visoki. Glede na to, da je Google v tem pogledu pred vsemi, pa bi bila neobvezanost temu načrtu predobra priložnost, da bi jo zapravili.

Vidite lahko, da ima Google že veliko osnovo za delo. Google Assistant je priložen skoraj vsakemu telefonu Android in ga podpira veliko pametnih naprav na trgu. Google ima zdaj svoj lasten nabor čipov Tensor, ki je zasnovan tako, da se osredotoča na aplikacije, ki temeljijo na AI. To sta dve ključni področji, kjer je Google že premagal Microsoft. Glede na to, kako zagreta je konkurenca, skoraj ni prostora, da bi bil Google preveč previden, da bi poskusil.

Microsoft ima trenutno prednost...

To je bilo prvič, da smo videli, da Google na videz zaostaja. Za podjetje, ki se je vedno ponašalo z vrhunskimi raziskavami umetne inteligence, se zdi nenavadno videti, da Google dohiti zaostanek v tem posebnem vidiku. In med vsemi njegovimi tekmeci je Microsoft tisti, ki vodi, zahvaljujoč integraciji najnovejšega jezikovnega modela GPT-4 OpenAI, ki je med tem oživil Bing. Še vedno pa obstaja tisti občutek neizogibnosti, da bo Google kmalu ponovno prevzel vodstvo, čeprav trenutno obstaja precejšnja vrzel med obema podjetjema. Če že, Google še ni potegnil asa iz rokava, Microsoft pa je že poskočil.

Vendar do cilja ne bo ravna črta. Google bo moral najprej očistiti nekaj vogalov, če se bo odločil integrirati Bard v svoje naprave Pixel. Čeprav se pot Google Assistant morda sliši kot lahka zmaga, še vedno predstavlja svoje izzive, ki jih mora Google obvladati. Glede na to, da Google še ni zapustil štartne črte, bo Microsoft res izgubil dirko. Morda je zdaj videti tako, a verjetno ne bo več dolgo.

Če pogledamo Google I/O, se zdi, da Google kljub paniki še ni pripravljen vreči brisače.