9月25日、故・安倍晋三総理大臣の「声」をシステムに学習させた上、新たに書き下ろしたテキストを学習させ再現した「AI安倍晋三」（https://aiabeshinzo.com/）というコンテンツが不特定多数に公開され、賛否両論を引き起こしているようです。
一方では、実弟である岸信夫首相補佐官がツイッターやフェイスブックでこの取り組みを紹介し、自民党議員らからも「優しさを、ありがとう」「涙が出る」など激賞があった（https://news.yahoo.co.jp/articles/decebb0c51f06f336b18d76587a05fc26ba7fd88）とのこと。
その一方、「死者への冒涜」「遺族に許可を取っているのか？」などの反対意見（https://news.yahoo.co.jp/articles/8e57586aa101302b4dd1d6b7c7758f1a5d47593c）も出ているようです。
いずれも主観に基づく意見であって、こうした技術の適用を客観的に判断する法的、倫理的な背景を欠いています。
このケース、私が本連載で断続的に取り上げ、いまひとつ日本社会にはピンと来ないらしい「AI倫理」の問題点を最も鮮明に浮き彫りにしています。
そこで専門の観点からシンプルに問題の所在を解説しておきたいと思います。
なお、合成された音声は、明らかに模造と聴き分けられ、あくまで趣味で制作した模造品とすぐに分かる水準に過ぎません。
製作者は「東京大学」のサークル名を称しているようですが、公式登録のある学生団体ではなく、本学広報も了解していないと回答して（https://www.itmedia.co.jp/news/articles/2209/26/news135.html）います。
指定国立大学法人東京大学のオフィシャルな取り組みとは一切無関係であることを、冒頭に付しておきます。当然ながら一教官である私も一切関知するものではありません。
以下では「優しさ」とか「冒涜」といった微妙に感情の入った、また白黒の結論が出ない微温な話ではなく、グローバルに問われるAI倫理の観点から客観的に検討してみましょう。
AI倫理の観点から何がダメなのか
まず最初に、この「AI安倍晋三」システムが、AI倫理以前に初歩のネットワークエチケット段階からどうダメなのか。もし私のところの学生が関係していた場合、教官として標準的に行う「指導」とは何か――をお目にかけましょう。
真偽のほどは不明ですが、東大生も混ざっているとすれば、昨今の若い先生たちがきちんと情報倫理を教え損なっていることを懸念します。
あるいは学生たちは高校以前からの我流でやっているのかもしれない。いずれにせよ「ネットワーク倫理」「AI倫理」双方の基本項目に抵触しています。
そもそもこの動画（https://www.youtube.com/watch?v=rf4USouV7jk&t=3s）は、「[AI]安倍晋三元総理大臣より最後のメッセージ」と題されて、それ以上の説明がサイトだけ見た範囲ではなされていません。
[AI]のに文字がついていますが、不慣れな人なら本人からのメッセージであると誤解する可能性がある。それを不特定多数にネットワーク公開している。
これはこの時点で異論なく脱法的な行為で、東京大学学内のサーバでこのようなことがあれば、まず間違いなく調査の対象になるネットワーク倫理に抵触する行為です。
さらにこの動画を再生してみると「皆さま、おはようございます、元内閣総理大臣の安倍晋三です。本日私の国葬が・・・」と、本人の声で、本人の名を名乗りつつ、本人が生前に発し得ないテキストを書き下ろし、それを本人の意思と無関係に音声として合成、それを不特定多数に公開している。
これはいけません。いわゆる「なりすまし」と同じことになっている。
情報というのは覆水盆に返らず、一度公開してしまったものは二度と元には戻せません。
ですから、ネットワーク倫理教育を本学では徹底していたはずなのですが、この種の教養学部必修は2006年まで4000人ほど教えた後、私自身は担当しなくなって久しいので、もしこのシステムに東大生が関わっていた場合、昨今のリテラシー教育が不徹底、不十分である可能性を考えねばならないでしょう。
「いいじゃないか。学生たちが純粋な気持ちでやったのだから・・・」というような議論は、情報倫理の社会ルールには持ち込めないのです。
というのは「純粋な気持ち」といった「内観」は、客観的に立証することができないから。
ここではあくまで、自分たち以外の第三者（しかも故人）でありかつ、著名な個人の音声データをシステムに取り込み（のちほど記すように、そこまでの範囲であれば著作権法などには触れません）、それを本人の発言であるような形で不特定多数に公開済であることが問題になります。
同じ問題をAI倫理の観点からも検討しておきます。
のちほど「著作権法30条4項」の条文を示しますが、ここではAI演算の結果出力を「人の知覚による認識」を伴う形で、不特定多数に公開するという、覆水盆に返らぬ情報行動をとっている。
明らかに自分たちに帰属しないデータを学習させたシステム出力を不特定多数のユーザーが「知覚」によって認識する形で公開している。
一般社会にはこうした逸脱行動を裁く法がまだありませんが、大学内には逸脱的な情報行動に対して、情報公開のガイドラインが定められています。
もし大学ドメインでこれらを実行していれば、厳密な調査の対象になるでしょう。
というのも実際、かつては私自身が担当学生のやらかす情報問題行動対策にかなりの時間と精力を費やさせられたからです。
経験者として証言しますが、学生の問題行動は、爾後の収拾、本当に大変なのです。
手がついていない「AI表現」の制度整備
いま上に引いた著作権法の条文全体をご紹介しましょう。
どうも日本では「AI倫理」と言ってもピンとこない人が多い。本連載でも9月第1週に「AI画伯」を巡る（https://jbpress.ismedia.jp/articles/-/71694）「表現」ならびにそれとバッティングする著作権の諸問題を取り上げましたが、あまり読まれませんでした。
そんな中で貴重なコメントをいただきました。実際、本当に立ち遅れて手つかずというべき日本のAI関連諸法なのですが、「平成30年5月の法改正で導入された新法＜著作権法30条4項＞があるではないですか？ だから手つかずではないのでは？」と。
良いポイントに触れています。
小研究室は当該法案を含む政策立案（https://www.bunka.go.jp/seisaku/chosakuken/hokaisei/h30_hokaisei/pdf/r1406693_11.pdf）に関わった国会議員もスタッフ参加して制度設計を進めていますので、こうしたご質問は大歓迎。
さっそく改正著作権法第30条の4項を確認してみましょう。
著作権法 第三十条の四（著作物に表現された思想又は感情の享受を目的としない利用）
著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない・・・
「著作物に表現された思想または感情の享受を目的としない利用」・・・どういうことなのでしょうか。続きを読んでみましょう。
一 著作物の録音、録画その他の利用に係る技術の開発又は実用化のための試験の用に供する場合
二 情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。）の用に供する場合
三 前二号に掲げる場合のほか、著作物の表現についての人の知覚による認識を伴うことなく当該著作物を電子計算機による情報処理の過程における利用その他の利用（プログラムの著作物にあつては、当該著作物の電子計算機における実行を除く。）に供する場合
「人の知覚による認識を伴うことなく当該著作物を電子計算機による情報処理」を行う場合、つまり早い話が、AIが学習するためにインプットする場合についてのみ、著作権フリーで用いることができる。
新聞や小説の文体をシステムが学習するにあたって、本来なら新聞社や作家の著作権が保護されているテキストであっても、「当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合」は、あれこれうるさいことを言わず、研究開発を推進させようではないですかという「AIへのインプット」に関する法規です。
私の連載稿で取り上げた「AI画伯」のようにAI「表現」つまり「アウトプット」に関する是非を規定するものは、いまだおよそ整備されていない。
つまり「AI安倍晋三」の「音声表現アウトプット」を巡って、確固たる是非を定める法秩序は、いまだ日本では制度化されていないのです。
だからこそ、実弟を含む立法府の成員、代議士が称賛するかと思えば、「冒涜だ」などと指摘する第三者もあり、何か問題があれば法廷の判断が仰がれることになりますが、その是非を定める法の条文はないため、意見は分かれざるを得ない。
「肖像権」はあっても「音声肖像権」はない
この制度整備未発達が、どう問題であるか、考えてみましょう。
今回の場合は、話題の元総理大臣、かつ故人なので、良くも悪しくも本人自身が異を唱えることはありません。
ただし、遺族や関係者からクレームが来る可能性は当然ながら考えられます。
そこで仮に「あなたの声」を誰かが勝手に学習して、それを用いて「こんにちは、山田X郎です・・・」などと自分自身の名を名乗り、自分が意図していない内容のセリフを読み上げ始めたとしたら・・・。
さらにそれがユーチューブなどを通じて、不特定多数に公開放送されていたとしたら、どのように思いますか？
当然、クレームする人が出て不思議ではない。今回の場合、慎重に内容を検討して「名誉棄損罪」などに問われないよう留意しているのが分かります。
では、内容が特段どうということのない穏当な内容、例えば今日の天気がどうしたとか、隣の猫がこうしたといった内容ならいいのか。
米国のドナルド・トランプ前大統領やジョー・バイデン現大統領の声と語り口で、第三者がその声の主（として社会が広く認知する人物）の了承を得ず、不特定多数にアウトプットを公開していいと言えるのか。
あるいは、新興宗教の教祖の音声を学習させ、狂信的な信者たちにあたかも教祖からのメッセージであるかのように、勝手な作文を読み上げさせて、マインドコントロールを計画、実行などするなら、どうでしょう？
前回稿の「AI画伯」については、本連載の反響はともかくとして、産経新聞は独立した記事を組んでくれ、新たにインタビューを求められました。
そこで、1990年代、インターネット草創期に現れ、犯罪と規定されるに至った「アイドル・コラージュ」通称アイコラの例を挙げました。
社会が分別を持つに至るには10年ほどの期間の間に、いくつかの刑事事犯も経験して、やっと落ち着くのではなかろうか、というのが私の観測です。
「ヴォーカロイド」ソフトウエア「初音ミク」は、ユーザが勝手にセリフを打ち込むことができるので「ちょっと卑猥な歌詞」の「作品」なども公開されているようです。
実際には「ちょっとでなく卑猥な歌詞」の「作品」も作ることはいくらでも可能ですが、それを不特定多数に対して公開放送できるかは別問題になります。
これが「私の顔」「あなたの肖像」であれば、話は簡単で、すでに「肖像権」は法によって保護されています。
しかし「声の肖像権」は、いまだその存在すら社会に認識されていない。
今回の「AI安倍晋三」動画は、肖像も用いているので、それが問題だとなれば、アウトになってしまいます。
しかし「声の肖像権」は大半の国民が何のことだか分からない。そういう意味で、今回の一件はこうした問題の所在を日本社会に知らしめる、ほとんど最初のケースとしての意味を持っているようにも思います。
同様のシステム濫用、すでに技術的にはいくらでも可能です。
すでに故人であればまだしも、存命の政治家へのネガティブ・キャンペーンを狙って、政的側が選挙前などに、特徴的な政治家の声を使って、トンデモないセリフを喋らせ、不特定多数に公開されるなどすれば・・・。
当然ながら、現行法でも刑事犯罪として取り締まられることになります。
しかし、仮にそうでない場合、例えばかつて1987年に発生した故・竹下登首相が「ほめ殺し」被害にあった「日本皇民党事件」のように「街宣車」が「AI音声」を濫用するようなことがあったなら・・・。
技術的に可能なことは、誰かがいつかやってみることになる。これは残念ながら歴史の示す現実にほかなりません。
でも、それが切実な形で表れない限り、どうもこうした「AI倫理」問題に社会の大勢が目を向けてくれることは残念ながら少ない。
この種の問題を初めて考えたのは私が大学院生で、かつ音楽の仕事を本格化させ始めた1990年、亡くなった宇宙物理のＳ.ホーキング博士（https://nordot.app/938569878378135552）の来日公演を聴いたときのことでした。衝撃を受けました。
と同時に、安田講堂でのホーキング博士の講演「音声」にミスが発生するのも見、アクシデントであれ「人口音声化」した話者の「発言」が意に反してしまうのは困りものだなと思いました。
まして、第三者が勝手に捏造したり、いかにも本人が言いそうなことを他人がプログラムしたり変造したりすることは、原則として許されません。
ということで、あらゆる技術は常に功罪がコインの両面、両刃の剣になり得ます。
今回は、非常に分かりやすい事例が、私たちの大学の名と共に流布されましたので、AI倫理の観点から、客観的に問題とされる事柄を整理しました。
ここで単に「嬉しい」とか「冒涜」とか、表層的な感情で議論するのでなく、技術の本質に根差した倫理の問いが問われるきっかけになることを、期待しています。
[もっと知りたい！続けてお読みください →] 豪雨による「磯焼け」対策に、キャベツを与えてウニを育成
[関連記事]
コメント