Amazon エコーが大失態…「ニュースの声を注文と勘違い」誤発注殺到

ロボティア編集部
ロボティア編集部

アマゾン_人工知能_アレクサ_誤発注
photo by KTNV

 昨今話題になっている音声認識デバイス。一番身近なところでは、iPhoneのSiriやアンドロイドに搭載された会話認識機能が思い浮かぶ。昨年に大ヒットした、話しかけて操作するAmazonの人工知能スピーカー『エコー(Echo)』もその一つだ。エコーに話しかければ、搭載されたAI「アレクサ(Alexa)」が情報を処理。ネット検索はもちろん、天気予報を聞いたり、アラームをセットしたり、音楽を再生させたりできる。その上、「アマゾンの商品を注文する」という機能まであるから驚きだ。しかし最近では、このエコーで思わぬハプニングが起きている。

 ことの発端はアメリカのダラスに住む6歳の女の子がアマゾンエコーに「ドールハウスとクッキーを買って」とお願いしたことだ。数日後、約160ドル(約1万8千円)相当のドールハウスと2kgにもなる大量のクッキーが家へ配達されて、女の子の母親はびっくり。結果、届いた高価なドールハウスはチャリティーに寄付されることになったのだとか。

 このなんとも微笑ましい事件をアメリカメディアは朝のニュースで取り上げた。このニュースを伝える際、男性アナウンサーは「アレクサ、私にドールハウスを注文して。(Alexa order me a dollhouse)」と話した。するとその結果、なんとTVの音声を主人からの注文と勘違いしたエコーがドールハウスをアマゾンに注文し始めたというのだ。

 しかもこのエコーの誤認識によるドールハウスの注文はたった数件だけでなく、大量に殺到したという。後日、アマゾンは公式サイトで今回のトラブルで誤発注されたドールハウスはキャンセル、または払い戻しができると明らかにした。

 ちなみに、アマゾンエコーの設定で音声注文を禁止したり、決済時には認証コードを確認するように設定することができる。しかし、それを「手間」と考えて設定をおろそかにしてしまうと、このようなトラブルもあり得るということだ。



 今回はおもちゃの注文にとどまったが、今後、より高価な製品が知らないうちに注文されて、決済までされてしまったら? 例えば一日中テレビで通販ショッピングチャンネルをつけておけば、大量の誤発注が発生することは想像に難くない。

 また、決済などが勝手になされる場合、セキュリティリスクも気になるところだ。昨年、アメリカの大手企業が大規模なサイバー攻撃にあった際、その侵入口としてIoT製品が使われたのは記憶に新しい。したがって、認証コードの設定などは必至であると言える。

 今年も、音声認識機能やAI秘書サービスは主要イシューとして注目されており、国内外では様々な人工知能音声秘書機能を搭載したスマート機器が発売される。一方で今回のような問題は、他の製品で発生しないという保障はない。

 スマート機器と家の中のスマート家電が連結され、場合によっては悪用される恐れがあり、思わぬ事故につながる恐れもある。これを防止するためには製造会社の努力が必要である一方、使用者も事故が起きないようにするため細心の注意が必要である。

【関連記事】AP通信が人工知能・ワードスミスを導入、ロボット記者の登場か
【関連記事】サムスン「ギャラクシーS8」搭載予定のAIアシスタント・Bixbyとは
【関連記事】LINEなどの会話から人工知能が予定管理…AIアプリ・C.VIEW
【関連記事】EXOや少女時代の声を搭載…SMが仕掛ける次世代AI音声端末とは
【関連記事】チャイナモバイルのAI顧客対応サービス「EVA」人件費大幅削減に成功