機械に言葉をしゃべらせて会話することは人類にとって長年の夢だった。いま、インターネットの普及とAI（人工知能）の進化によって、夢の扉が開こうとしている。実現すれば、私たちはどのような未来を手にすることができるのだろうか？ 技術ジャーナリスト、ジェイムズ・ブラホスの新刊『アレクサvsシリ ボイスコンピューティングの未来』より、音声AIの功罪を含む近未来予測を3回にわけてお伝えする。前回は「音声検索」がもたらすGAFAの覇権争いを取り上げた。第2回は「プライバシー」について。（JBpress）
（※）本稿は『アレクサvsシリ ボイスコンピューティングの未来』（ジェイムズ・ブラホス著、野中香方子訳、日経BP）の一部を抜粋・再編集したものです。
注目を浴びた田舎町の事件
（前回）GAFAの未来を振り回す小悪魔！「しゃべるAI」
https://jbpress.ismedia.jp/articles/-/56767
2015年11月4日、アーカンソー州ベントン郡の自宅で、ジェームズ・ベイツは3人の友人とアメリカンフットボールの試合を見ていた。アーカンソー・レイザーバックスとミシシッピステイト・ブルドッグスの対戦だった。試合は激戦となり、4人はビールやウオッカをのどに流し込んだ。
結局、51対50でレイザーバックスは負け、友人の1人は自分の家に帰った。残った3人は、ベイツの家の大型浴槽に入って酒を飲み続けた。あとでベイツが語ったところによると、ベイツは午前1時頃に寝て、友人2人はベイツの家に泊まったそうだ。そのうちの1人がビクター・コリンズだ。
翌朝、ベイツが起きた時、家の中に2人の姿はなかった。そして裏口の扉を開いたベイツの目に飛び込んできたのは、うつ伏せの状態で大型浴槽に浮かぶコリンズの姿だった。ビクター・コリンズの死は、田舎町で起きた不幸な事件の1つにすぎず、普通なら、国際的な注目を浴びることはない。
だがこのケースは違った。捜査を担当したベントン郡の検察が、世界最強の企業であるアマゾンと戦うはめになったからだ。しかもこの一件は、音声コンピューティング時代のプライバシーに関する広範な議論を引き起こし、巨大ハイテク企業を大いに苦しめた。
カギを握る「アマゾンエコー」
いきさつは次の通りだ。ベイツはすぐ警察に通報した。駆けつけた警官は、争った形跡を発見した。浴槽のヘッドレストとノブがはずれ、割れた2本のビンと一緒に地面に転がっていた。コリンズの目の周りにはあざがあり、唇が腫れていた。浴槽の湯は血が混じって黒ずんでいた。
ベイツは、自分は何も知らないと主張したが、警官は信じなかった。2016年2月2日、彼は殺人容疑で逮捕された。
ベイツの家を調べた捜査官は、アマゾンエコーの存在に気づいた。ベイツを疑っていた彼らは、真実を明かす何かがエコーに録音されているのではないかと考えた。2015年2月、当局はアマゾンへの捜査令状を発行した。それは、「録音形式の電子データや、文書化された記録、あるいはその他のテキストレコード」を要求するものだった。
アマゾンはエコーを通じて行われた商取引の記録を提出したが、音声データは渡さなかった。アマゾンは裁判所に提出した書類でこう述べている。「米国憲法修正第1条とプライバシーとの関係が危機にさらされていることを考えれば、この令状は無効にすべきだ」。
ベイツの弁護士のキンバリー・ウェーバーは、もっと砕けた表現で主張した。「人々の生活をよりよくするはずのクリスマスプレゼントが、逆の目的で使われかねない。これでは警察国家とほとんど変わらない」
悪名高い東ドイツの国家保安省がいまも存在していたら、複数のマイクを装備し、部屋の反対則で語られた声も聞き取るアマゾンエコーを喜々として使ったことだろう。アップル、グーグル、マイクロソフトのスマートホーム製品や、携帯電話のマイクについても同じことが言える。編集者のアダム・クラーク・エステスが辛辣に言ったように、「スマートスピーカーを買うのは、金を払って、巨大ハイテク企業に自分を監視させるに等しい」。
アマゾン側の反論
こうした批判に対してアマゾンは、不当な中傷だと反論する。アマゾンエコーが常時、聞き耳を立てているのは事実だが、聞こえる音声のすべてをクラウドに送っているわけではない。ウェイクワードの「アレクサ」が聞こえた時だけ、音声をクラウドに送って分析させている。
そもそもベイツが、「アレクサ、死体をどうやって隠そう？」などと、明らかに有罪の証拠になることを言うはずがない。しかし、このデバイスが捜査員の興味を引くような何かを記録した可能性はある。たとえば誰かが、歌をかけてほしいというような無害な目的で、「アレクサ」と言ってエコーを作動させた時に、偶然言い争いの声を拾ったかもしれない。あるいは、ベイツが午前1時以降に何らかの目的でエコーを作動させていたら、ベッドで眠っていたという彼の主張は嘘だったことになる。
2016年8月、判事は、アマゾンが有力な証拠を入手した可能性があるという見方を受け入れ、アマゾンが提出を拒んだ情報に対して、2度目の捜査令状の発行を認めた。
警察とアマゾンはどちらも折れようとしなかった。意外なことに、無罪を主張していたベイツと彼の弁護士は、警察がアマゾンから情報を入手しようとしていたことに異議を唱えなかった。それを受けて、アマゾンは警察の要求に応じ、警察は仮にエコーに有罪を立証する記録が残っていたとしても、その内容を公表しないことにした。
2017年2月、検察はコリンズの死は殺人以外の説明もできるとして、ベイツの起訟を取り下げた。けれども、この事件が強烈なスポットライトを当てた監視という問題が解決したわけではなかった。
心配しないでください。
私たちはあなたを監視していません。
私たちは、あなたが話すことを24時間、記録してはいません――絶対に。
私たちが耳を傾けるのは、あなたがウェイクワードを言うかボタンを押すかして、私たちに聞きなさいと命じたときだけです。
ハイテク企業は、自社のバーチャルアシスタントやホームガジェットについて、このように主張する。ベイツの一件では、アマゾンもそう言った。これらの主張は真実らしく聞こえるし、外部からの検証も可能だ。しかし、だからと言って、プライバシーを侵すような盗聴は起きていない、起こり得ない、ということにはならない。
音声検索はクラウドに保存されている
音声デバイスに向かって話すことを、政府のスパイやハッカーがどのように傍受するかを理解するために、まずは、あなたが話したあと、あなたの言葉に起きることについて考えよう。プライバシーを重んじるアップルは、ユーザーが音声検索したクエリを、氏名やユーザーIDと切り離して保存する。
具体的には、各ユーザーに無作為に番号を振り、それをクエリにタグ付けする。そして6カ月後には、クエリとタグのつながりも消してしまう。しかし、グーグルとアマゾンは、発言者とクエリのつながりを保存している。
したがってユーザーは、グーグルやアマゾンの自分のアカウントにログインして、これまでに自分が用いたクエリを見ることができる。私はグーグルで試してみたが、これまでの自分の発言を、どれでも聞くことができた。
たとえば、2017年8月9日午前9時4分の再生アイコンをクリックすると、「鉛筆削りは、ドイツ語で何と言う？」と尋ねる自分の声が聞こえた。音声記録は消すことができるが、消すかどうかはユーザーが決める。グーグルのユーザー・ポリシーにはこうある。「グーグルホームおよびグーグルアシスタントとの会話の履歴は、あなたが消去するまで保存されます」。
これは、プライバシーを脅かす新たな問題なのだろうか。おそらく、そうではない。グーグルやその他の既存の検索エンジンは、ユーザーがタイプした検索クエリのすべてをユーザー自身が削除するまで保存している。
音声の保存も同じようなものだと言える。しかし人によっては、声を録音されると、プライバシーをより侵害されたと感じるようだ。加えて、意図しない録音という問題がある。録音の場合、配偶者や友人や子どもなど、近くで話している他の人の声が入ることが多い。文字入力ではそのようなことは起きない。
警察がローカル（その人の電話やコンピューター、スマートホームデバイスなど）に保存されている記録やデータを入手するには、捜査令状が必要だ。しかし、あなたの声がクラウドに送られたあとは、プライバシーはそれほど保護されなくなる。ニューヨークのフォーダム大学ロースクールで法律・情報政策センターのディレクターを務めるジョエル・ライデンバーグはこう述べる。
「『プライバシーに対する合理的期待』の法的基準はいまや骨抜きになっている。合衆国憲法修正第4条のもとでは、あなたの音声を聞き取ってそれを第三者に送るデバイスを導入すると、あなたはプライバシー保護の権利を放棄したことになる」。
ハッカーによる「盗聴」
グーグルの報告はそれを裏づける。2017年、米国政府の機関は7万件超のユーザー・アカウントのデータを要求したそうだ（この報告は、音声データが含まれたかどうか、含まれたとして、どのくらいの割合だったかについては述べていない）。
もし、あなたが自宅で違法なことをしていなければ、あるいは、そのような濡れ衣を着せられることを心配していなければ、政府から音声データを要求されることを恐れる必要はない。
しかし、企業があなたの記録をすべて保管している場合、より一般的な、別の危険が存在する。それはハッカーだ。あなたのユーザーIDとパスワードさえわかれば、ハッカーはあなたが自宅で密かにAIに語った言葉をすべて聞くことができる。
ハイテク企業は、不正な盗聴はしていないと主張するが、ハッカーはそのような道徳心を持ち合わせていない。企業は盗聴を防ぐために、パスワードの保護とデータの暗号化に努めているが、セキュリティー研究者によるテストと、ハッカーによる実際の侵入が、そうした対策が功を奏していないことを証明している。
「ドルフィン・アタック」で丸裸に
次に挙げるのは、単純な方法から巧妙な方法まで、音声AIのプライバシーがどのように侵害されるかという例である。
誰かがあなたの電話やそのほかの音声AIデバイスに話しかけて、それらを操ろうとする状況を想像してみよう。彼らの声をあなたが聞いたら、その陰謀は失敗するだろう。しかし、聞き取れなかったら、どうなるだろうか。
中国の浙江（せっこう）大学の研究者チームはそれを調べて、2017年に論文で発表した。彼らが考案した「ドルフィン・アタック」作戦では、ハッカーは被害者のオフィス宅に密かに設置したスピーカーを通して、デバイスに不正な命令を下す。
あるいは、ポータブルスピーカーを使って、周辺からデバイスに命令を送ることもできる。どちらの場合もポイントは、彼らの命令が人間の耳には聞こえない20キロヘルツ以上の超音波で下されることだ。研究者らは周波数を操作して、デジタルの耳にだけ聞き取れる命令を下した。
実験室で行った実験で、この科学者たちは、アマゾン、アップル、グーグル、マイクロソフト、サムスンの音声インターフェースへの攻撃を成功させた。それらの音声AIは彼らに操られるまま、悪質なウェブサイトを訪れたり、偽のテキストメッセージやメールを送ったり、スクリーンを薄暗くしたり、攻撃を隠すために音量を下げたりした。
また、電話をかけたり、ビデオ通話をしたりもした。それは、ハッカーが被害者の家やオフィスで起きていることを聞いたり見たりできることを意味した。さらに彼らはアウディSUVのナビシステムにも侵入してみせたのだった。
結局のところ、AIによる監視については少なくとも1つの結論が導かれる。それはこれらの技術を自分の生活に取り入れる場合は、注意深く調べる必要があるということだ。いつ、どのようにして、デジタルの耳が作動するかを調べ、どの音声データが保存され、どうすればそれを削除できるかを調べる。そして疑わしければ、とくに製品を開発した企業の個人情報に関する方針があいまいな場合には、プラグを抜こう。
[もっと知りたい！続けてお読みください →] アマゾン、Alexaの新機能でプライバシー重視を強調
[関連記事]
コメント