Image: Leon NealGetty Images News/ゲッティ イメージ

イカサマは、ばれなきゃイカサマじゃない」は、ダメ。

ディープフェイクは顔認識などの技術を使い、顔と顔を入れ替える加工を動画や写真にすること。たとえば著名人の口の動きを加工し、言ってもいないことを言わせるだとか、性的な写真に有名人の顔を移植するとか、おもに悪意をもって加工された偽映像のことを指します。

ディープフェイクの技術がさらに進歩し、今後さらに本物と偽物の見分けがつかなくなったとき、収拾つかない事態になるのは火を見るよりも明らかです。

Twitterがポリシー策定に動く

そんななか先日、Twitter「改ざん、およびねつ造」された画像や動画への対策としてポリシー策定に乗り出したと発表しました。「改ざん、およびねつ造」されたメディアについて、「人々に誤解を与える、もしくは本来の意味を変える目的で、大幅に変更された、あるいは作成された写真、音声、または動画」と定義しています。

誤ったメディア拡散からユーザーを保護するため、Twitterは今後、以下アクションをするかもしれないとのこと。

・ディープフェイクの疑いがあるツイートフラグをたてる

シェアやいいねをしようとするユーザ警告を出す

・なぜそれがディープフェイクとみなされたのか根拠が確認できるようにリンクを貼る

また、「誰かの身体的安全を脅かすもの、あるいは別の深刻な害をもたらす」可能性があるツイート削除されることに。とはいえ、これらはすべて決定事項、というわけではありません。

一般ユーザーから募集「Twitterには、ディープフェイクを削除あるいはラベル付けする責任があるかどうか」

またTwitterはポリシー案を固めるため、一般ユーザーからのフィードバックを募集しています。「これなんかどう?」というアイデアのあるユーザーは、ハッシュタグ#TwitterPolicyFeedbackツイートするか、オンラインアンケートに参加できます。アンケート記入は、数分で完了します。

アンケートで問われる内容は主に2点で、1つが「Twitterには、ディープフェイクを削除あるいはラベル付けする責任があるかどうか」という点。そして、もう1つは「改ざんの恐れがあるコンテンツシェアしようとするユーザ警告を出すべきかどうか」ということ。この2点にどの程度同意(あるいは反対)するのか、評価をつけてもらいます。期限は日本時間で2019年11月28日(木)08:59まで。

現時点では、Twitterがどのようにしてディープフェイクを検出、検証するかどうかは不明だそうで、そうした作業を支援してくれるパートナーも募集中だとか。今後のスケジュールとしては、まず一般募集したフィードバックを検証し、その後に担当チームトレーニングを開始する予定です。

すでに社会問題になりつつあるディープフェイク

インターネット上のディープフェイクは、同意のないポルノが圧倒的多数ですが、改ざんされたメディア2020年アメリカ大統領選挙に悪用されれば、深刻な影響を与える恐れもあると懸念されています。 今年5月には、ナンシー・ペロシ下院議長の発言をスロー再生加工し、どもっているように見せたフェイク動画が話題になりました。というのも、トランプ大統領がこの動画をシェアしたものですから、あっという間に拡散してしまったんですね。このときの動画はディープフェイクではなく、カット編集で、わざと言葉を詰まらせるような編集をしていたのですが、かなり物議をかもしました。

あと有名なのが、FacebookのザッカーバーグCEOのディープフェイク動画。Facebookがペロシ議長の動画削除を拒否した直後の6月に出回ったものです。こうした現状をうけて、この2カ月、カリフォルニア州とテキサス州で政治目的のディープフェイクが禁止される事態になっています。

Source: Twitter, Twitter Blog