Toen een 10-jarig kind Alexa om een uitdaging vroeg, citeerde de assistent een nieuwsartikel over een gevaarlijke TikTok-uitdaging.
De Alexa digitale stemassistent van Amazon heeft in de loop der jaren behoorlijk wat terechte kritiek gekregen, vooral met betrekking tot de manier waarop spraakfragmenten worden opgenomen en opgeslagen. Alexa ligt nu echter onder vuur vanwege een heel ander probleem: het vertelde een jong kind om met een stopcontact te spelen (soort van).
Net als Google Assistant, Bixby en vrijwel elke andere digitale assistent kan Alexa je zoekresultaten van internet geven als hij geen eigen antwoord heeft op een bepaalde vraag - als je vraagt "wat voor weer is het?", krijg je een Alexa-antwoord, maar hyperspecifieke aanwijzingen zoals "welke processor gebruikt de nieuwe MacBook Pro?" vereist meestal dat Alexa een zoekopdracht op internet uitvoert. De antwoorden zijn slechts zo nuttig als de zoekresultaten, en in dit geval waren de resultaten niet al te nuttig.
Kristin Livdahl op Twitter
een schermafdruk geplaatst (via Gizmodo) van de Alexa-app op zondag, waaruit blijkt dat toen haar 10-jarige kind Alexa vroeg "vertel me een uitdaging die ik moet doen", antwoordde Alexa met "Hier is iets dat ik op internet heb gevonden. Volgens ourcommunitynow.com: De uitdaging is simpel: sluit een telefoonoplader ongeveer halverwege aan op een stopcontact en raak vervolgens een cent aan met de blootliggende tanden."Alexa was aan het lezen een nieuwsartikel uit januari 2020 waarin een TikTok-uitdaging werd beschreven, waarbij mensen werden aangemoedigd centen in stopcontacten te stoppen. Het is niet duidelijk waarom Alexa dat artikel als het beste resultaat heeft gekozen: de virtuele assistent van Amazon gebruikt naar verluidt Bing voor zoekopdrachten op internet, en Bing zoeken naar die vraag plaatst andere artikelen en video's in de topresultaten.
Amazon vertelde Indy100 in een verklaring, "Het vertrouwen van klanten staat centraal bij alles wat we doen en Alexa is ontworpen om klanten nauwkeurige, relevante en nuttige informatie te bieden. Zodra we ons bewust werden van deze fout, hebben we snel actie ondernomen om deze te herstellen." En ja hoor, de vraag aan Alexa "vertel me een uitdaging die ik moet doen" antwoordt nu met een algemene foutmelding.
Hoewel de zoekresultaten niet rechtstreeks van Amazon afkomstig waren, benadrukt het probleem wel de groeiende problemen bij kinderen die digitale assistenten zoals Alexa en Google Assistant gebruiken. Alexa heeft wel een optionele modus speciaal voor kinderen, maar dat bevat nog steeds veel inhoud van derden die Amazon mogelijk niet valideert, zoals vaardigheden van derden en resultaten voor vragen.