Point
イラストを身体の前にかざすことで、監視カメラの自動認識システムを欺くことができる■AIシステムイラストを「遠景」として認識することで、人も背景の一部となる

AI「人間?おらへんで」

ベルギーのルーベン・カトリック大学の研究チームは、監視カメラの自動検出システムを欺く様子を撮った動画を公開した。

その方法はなんと、身体の前に「イラスト」をかざすだけだという。まるで『攻殻機動隊』の世界だ。

動画を見てみると、イラストをかざした男性は「ヒト」としてだけでなく「モノ」としても感知されていないのが分かる。つまりAIの目には何も映ってないということらしい。まさに透明人間

研究の詳細は、4月18日付けで「arXiv」に掲載されている。

イラストで人が「背景化」してしまう

これは「攻撃ステッカー(adversarial patch)」と呼ばれる方法で、特定の画像を用いることでAIのアルゴリズムが正しく機能しなくなるもの。イラストノイズとなって自動認識システムの精度がガクッと落ちるらしい。

この動画では、AIがイラストを「遠景」として判断した結果、それを持っている人も背景の一部となったもの。よって、カメラに撮影される映像そのものには何の誤作動もない。

要するにこれはAI自体の理解力を狂わすことによって、「ヒト」を認識不能にさせたというわけである。

「光学迷彩Tシャツ」がオランダにあった

ネット上では、「この柄のTシャツが欲しい」といった声が見受けられた。しかし実は、すでにオランダには存在している。マジか。

オランダアーティストSimone C. Niquille氏が作ったTシャツは、いくつもの顔が描かれていることでカメラの顔認識システムが正しく作動しなくなるらしい。

ブリトニー・スピアーズ型/Credit:wired

Facebookの顔認識システム程度ならこれで騙せるそう。芸術家ならではの斬新な方法だ。

マイケル・ジャクソン型/Credit:wired

ここまで来てニコラス・ケイジ柄が無いのは謎である。

こうした方法は映像として記録されるので、人が見れば簡単にバレてしまうが、モノとしてのAI相手ならきわめて有効なようだ。

素晴らしい研究だが、悪用だけはやめてほしいもの…

reference: futurismwired / written & text by くらのすけ
絵をかざすだけで監視カメラに「人間」と認識されない裏技が発見される