Google Bard je pohledem do děsivě dezinformované budoucnosti

Generativní umělé inteligence jsou v poslední době v módě, spustily je ChatGPT a následoval Microsoft Bing. Od té doby, Google zdánlivě urychlil vývoj vlastního modelu chatu s umělou inteligencí a vydal Barda omezeným způsobem, a zatím se zdá, že jde o podřadný produkt než zbytek konkurence. Bojuje se základními otázkami, využívá pochybné zdroje a obecně se jeví jako tak trochu nedodělaný produkt.

Abychom byli ke Googlu zcela spravedliví, tyto rostoucí bolesti jsou některé, kterým čelil také Bing, a Bard pouze prostě propuštěn. Kromě toho Google nepředstavil Barda jako vyhledávač, jakým Microsoft namluvil Binga. Nicméně, pokud Bard byl dost dobrý na to, aby byl vyhledávačem, myslím, že Google by jej jako vyhledávač pravděpodobně inzeroval. Google nechce zůstat pozadu, a pokud by měl proti Bingu bojovat proti vyhledávači, téměř jistě by to udělal.

Se vším, co bylo řečeno, je Bard pohledem do děsivě dezinformované budoucnosti. Už se to pokazilo při několika příležitostech, a jak se Google dohaduje o své vlastní AI, aby byla méně nevyzpytatelná, je obtížné ji vyladit, aby se stala také užitečnou. Aby byla umělá inteligence užitečná, musí být dynamická, ale tato dynamika přichází s nebezpečím širšího internetu, na který se také spoléhá.

Google Bard se snaží být vyhledávačem a nedaří se mu to

Google neustále tvrdí, že Bard není vyhledávač a je spíše „doplňkem Vyhledávání“. Zdá se, že Google chce, abyste používali Bard jako způsob, jak pomoci generovat e-maily, psát poznámky a dělat jiný tvořivý věci... a ne dostat informace.

Pokud je to tak, že Google nechce, aby byl Bard vnímán jako vyhledávač, tak proč je připojen k internetu?

Jak mnoho uživatelů (vtipně) podotklo, můžete Bardovi pokládat otázky, na které určitě potřebuje internet, a on bude hledat a snažit se vám také odpovědět. Pokud by to bylo navrženo tak, aby jednoduše pomáhalo s kreativitou, společnost by to snadno mohla udělat mnohem podobnější ChatGPT a jednoduše ať je to tak, že může odpovídat pouze na otázky o věcech, které byly trénoval na. To však není tento případ, a pokud mu položíte otázky, na které zcela nezná odpověď, podnikne několik ambiciózních pokusů o získávání zdrojů.

Uživatel se například zeptal Barda, jak dlouho bude trvat, než se Bard vypne. Odpověď pochází z vtipného komentáře Hacker News, který říká, že služba již byla vypnuta.

Bard si také povolil, pokud jde o měsíce v roce, s něčím, s čím se zdá, že má problémy, když mu dáte první dva měsíce v roce.

Mohu jen předpokládat, že k výše uvedenému došlo je, že Bard rozpoznal „uary“ konec prvních dvou měsíců (spolu s s překlepem únor) a místo toho, co měsíce v roce, následovalo vlastní rozpoznávání vzorů vlastně jsou.

Bez ohledu na to je ale jasné, že Bard tak úplně není připraven být vyhledávačem, a předpokládám, že to je přesně důvod, proč jej jako vyhledávač Google nepropagoval. Neměli byste jej používat jako vyhledávač z prostého důvodu, že v současné době se nezdá, že by jím mohl být. Může najít věci, ale nemá žádný způsob, jak ověřit jejich pravost, a pokud může získat náhodné Hacker News komentář k vypínání celé služby, je jasné, že je v tom potřeba udělat docela dost práce plocha.

Bard, ChatGPT a Bing versus budoucnost dezinformací

Dezinformace a dezinformace jsou již v moderní společnosti neuvěřitelně všudypřítomná témata a umělé inteligence ano žádný referenční rámec pro věci, které vracejí koncovému uživateli, nemůže přispět k rozšíření více než kdy jindy dezinformace. Obecná populace považuje AI za vševědoucí bytost, která je schopná porozumět celému internetu způsobem, který jej může zjednodušit pouhým uživatelům, jako jsme my. To nemůže být dále od pravdy a bude to jen horší.

Bard už byl obviněn z plagiátorství Tomův hardware, která při konfrontaci následně uživatele obvinila ze lži. Pokud si myslíte, že něco z toho zní podobně jako debakl „Byl jsem dobrý Bing 😊“, měli byste pravdu. Jedná se o stejná úskalí, se kterými jsme se již setkali u Microsoftu, a je těžké je obejít bez omezení vaší AI. také hodně. Když AI říká, že něco je lež, která lží není, přímo to přispívá k dezinformacím, i když jsou přízemní.

Bard není jedinou generativní umělou inteligencí obviněnou z šíření dezinformací, ale rozhodně je součástí aktuálně probíhajícího problému. Je téměř nemožné zajistit, aby umělá inteligence poskytovala fakta pouze koncovému uživateli, zejména pokud jde o vyhledávání nedávné informace. Na co věříte, že AI dokáže efektivně odpovědět? Pro mě je to v podstatě cokoliv, co Google Assistant umí... především přístup k již shromážděným datům. Nedává je dohromady ani nesbírá umělá inteligence pro spotřebu koncovým uživatelem; jen se čte z databáze.

Momentálně jsme na rozcestí. Na jedné straně je AI s přibývajícími dny stále výkonnější. Jazykové modely, jako jsou tyto, jsou stále oblíbenější a většina lidí teprve uvidí jejich účinnost a začne je hned používat; sakra, ChatGPT je nejrychleji rostoucí spotřebitelská aplikace vůbec z hlediska času, který potřeboval k dosažení sta milionů uživatelů. Nicméně programy jako tyto mají neuvěřitelný vliv, když je jejich obsah doslova nehlídaný a neověřený.

To neznamená, že tyto nástroje AI mohou nikdy být dobří, ale je velmi pravděpodobné, že v budoucnu budou přispívat k dezinformacím a dezinformacím, a proti tomu bude těžké bojovat. Facebooku se již podařilo přesvědčit lidi o nejrůznějších konspiračních teoriích a umělá inteligence s Google (resp. Jméno Microsoftu nebo OpenAI na něm téměř jistě přispěje k těmto konspiračním teoriím směřovat. V tuto chvíli je nejlepší radou, kterou můžeme dát s kterýmkoli z těchto nástrojů, znovu ověřit všechny informace dávají vám, a je velmi pravděpodobné, že to bude na dlouhou dobu převažující rada Přijít.