Amazon Alexaのウェブ検索結果は、子供にコンセントで遊ぶように指示した

10歳の子供がAlexaにチャレンジを求めたとき、アシスタントは危険なTikTokチャレンジに関するニュース記事を引用した。

Amazon のデジタル音声アシスタント Alexa には、特に音声クリップの録音と保存の方法に関して、長年にわたり正当な批判が寄せられてきました。 しかし、Alexaは現在、まったく別の問題で非難されている。それは、幼い子供に壁のコンセント(のようなもの)で遊ぶように指示したというものだ。

Google アシスタント、Bixby、その他ほぼすべてのデジタル アシスタントと同様に、Alexa は、特定の質問に対する独自の応答がない場合に、インターネットから検索結果を提供できます。 — 「天気は?」と尋ねると、Alexa が応答しますが、「新しい MacBook Pro はどのプロセッサを使用していますか?」などの非常に具体的なプロンプトが表示されます。 通常、Alexa が Web 検索を実行する必要があります。 回答は検索結果と同じくらい役に立ちますが、この場合、結果はあまり役に立ちませんでした。

クリスティン・リヴダールのTwitter スクリーンショットを投稿しました (経由 ギズモード) 日曜日にAlexaアプリから、10歳の子供がAlexaに「やるべき課題を教えて」と尋ねたとき、Alexaは「これはウェブで見つけたものです」と答えたことが示されている。 ourcommunitynow.com によると、「課題は簡単です。携帯電話の充電器を壁のコンセントに半分ほど差し込み、露出した突起に 1 セント硬貨を接触させます。」

Alexa アプリのスクリーンショット (出典: Kristin Livdahl)

アレクサが読んでいた 2020年1月のニュース記事 これは、壁のコンセントにペニー硬貨を挿入するよう人々に奨励する TikTok チャレンジについて説明したものでした。 Alexa がなぜその記事を最良の結果として選んだのかは明らかではありません。Amazon の仮想アシスタントは Web 検索に Bing を使用していると伝えられています。 Bing でその質問を検索する 他の記事やビデオを上位の結果に配置します。

アマゾンは語った インディ100声明, 「顧客の信頼は私たちが行うことすべての中心であり、Alexa は顧客に正確で関連性のある有益な情報を提供するように設計されています。 このエラーを認識するとすぐに、修正するために迅速な措置を講じました。」 案の定、Alexa に「やるべき課題を教えて」と尋ねると、一般的なエラー メッセージが返されるようになりました。

検索結果はAmazonから直接提供されたものではなかったが、この問題は、子どもたちがAlexaやGoogleアシスタントなどのデジタルアシスタントを使用することがますます困難になっていることを浮き彫りにしている。 アレクサには、 特に子供向けのオプションモード, しかし、それでも、サードパーティのスキルや質問の結果など、Amazon が検証していない可能性のあるサードパーティのコンテンツが多数含まれています。