サービス開発には、エンジニアもビジネスの基本知識が必要

現代のエンジニアは、技術だけ知っていればいいというわけにはいかなくなっている。サービスを開発するには、ビジネスの基本知識が必要になる。アプリウェブを開発するには、デザインやUI/UXという認知心理学の基本知識も必要になる。さらに、人工知能開発では、倫理学の基本知識が必要になる。

この記事では、10の思考実験をご紹介する。興味を持たれた方は、専門書などを参考に、理解を深めていただきたいが、まずはエンジニア飲み会などの砕けた場所で、クイズゲーム感覚で話し合ってみていただきたい。

(1)トロリー問題

日本ではトロッコ問題とも言われる。自動運転車の人工知能の倫理観とともに語られることが増えているので、一度は耳にしたことがあるはずだ。

線路を走っているトロリー(路面電車)の制御が不能になった。そのままいくと、前方の線路上にいる5人の作業員が死亡することになる。しかし、途中に分岐があり、分岐を切り替えれば、トロリーは別線路に入るが、そこには1人の作業員がいて死亡することになる。あなたは分岐器のそばにいて操作ができる状態にある。「分岐器を切り替えて、1人を死亡させ、5人を助ける」か「そのままにして、5人を死亡させるか」、いずれを選ぶべきだろうか。

正解はない。なるべく多くの人命を救うことを求めるのであれば、分岐を切り替えて、1人を犠牲にすることになる。一方で、5人はトロリーの路線上にいたのだから、不運だとは思うが死亡するのは仕方がない。分岐線にいた1人は、トロリーが走行しくるはずのない場所にいたのだから、その人を犠牲にすることは酷すぎる。だから、分岐器を操作せず、5人を犠牲にするという考え方もある。

何に注目するかで、答えは違ってくる。さらに、トロリー問題のバリエーションとして、「5人が女子高生だったら」とか「残りの人生が少ない老人だったら」「犯罪者だったら」など、問題を複雑にさせることもできる。

米MIT(マサチューセッツ工科大学)は、モラルマシン(http://moralmachine.mit.edu/hl/ja)というサイトを開設している。13問のトロリー問題のバリエーションに答えると、あなたがどのようなモラル傾向を持っているかを判定してくれるというものだ。ちなみになぜか私は男性を助け、女性を犠牲にする傾向があると判定された。お遊びのサイトだが、いろいろ考えさせられる。

(2)時限爆弾問題

これもトロリー問題とよく似た実利性と道徳のコンフリクト問題だ。面白いのは、テレビドラマ「24」から生まれてきた問題だということだ。

ある都市に時限爆弾が仕掛けられ、カウントダウンが始まっている。当局は、そのとき、場所を知る関係者を拘束した。しかし、時間がない。法的手続きを無視し、拷問などの非人道的な手段をとっても、場所を聞き出すべきだろうか。

ジャック・バウアー捜査官であれば、「We have no choice」と叫んで、躊躇なくあらゆる手段を使うだろうが、現実には許されることだろうかというものだ。

(3)アインシュタインの光線

アインシュタイン16歳の時に考えていた思考実験で、これが後に特殊相対性理論の基礎となった。

それは、自分が光の速度で飛ぶことができるとして、光線を追跡すると、光はどのように観測されるかというものだ。光と同じ速度で飛んでいるのだから、光は止まって見えるのだろうか。

アインシュタインは、そんなことはありえないと直感した。地上で静止している観測者と同じように見えなければおかしいと考えた。

この矛盾を解決するために、光の速度はどの観測者からも同じに見えるという仮説を立て、実際に数式を立てて確かめようとした。すると、速さを一定にするためには、時間と距離を伸び縮みさせて帳尻を合わせるしかなく、ここから時間と距離が伸び縮みするという特殊相対性理論の世界観が生まれてくる。

それまでの古典的な物理学では、時間と距離は絶対的なもので伸び縮みするなどと考える人はいなかった。アインシュタインは、この大前提をひっくり返し、世界を再定義することに成功したのだ。

(4)テセウスの船

テセウスが乗っていた船は、何百年も使われている。そのため、あちこちが修繕されていて、その度にパーツが新しいものに置き換えられている。ギリシャの哲学者の間で、すべての部品が置き換えられたとしたら、それは同じ船と呼ぶことができるのだろうかという議論になった。さらに、交換をした古い部品だけを取っておき、その古い部品で1艘の船を組み立てたとしたら、どちらをテセウスの船と呼ぶべきだろうかという問題だ。

これはアイデンティティーがどこにあるのかという問題だ。例えば、PCはパーツを新しいものに置き換えていくことができるが、どこまで置き換えたら新しいPCと呼ぶことができるのだろうか。一般に、システムソフトウェアの多くがCPUと紐づいているために、PCのアイデンティーはCPUにあると言えそうだが、CPUを換装しても、問題なく動作するシステムソフトウェアもある。

人間は、常に古い細胞が廃棄され、新しい細胞に置き換わっている。それでもAさんは、全体の機能が停止をするまでAさんであり続ける。すでに、機能を失った臓器は人工臓器に置き換えたり、臓器移植をしたりする医療技術が進んでいる。どこまで肉体が置き換えられたら、別人になるのだろうか。

脳が人間のアイデンティーなのだろうか。脳の中に保存されている記憶情報を、人工知能に移植をしたらどうなるのだろうか。そもそも、すべてが人工物に置き換えられた人間は人間なのだろうか。人間のアイデンティーはどこにあるのだろうか。

(5)空き地の牛

これは哲学の議論から生まれたもので、少しわかりづらいかもしれない。哲学上、信じることと知っていることは区別される。プラトンのことから、知っているというにはJTBの3つの条件を満たしていなければならないと定義されている。

JTBとは、

「Justified(正当化):信じていることが事実であると言える証拠がある」

True(真):信じていること(命題)が真である(命題が真であるということで、事実かどうかではないことに注意)。」

Belief:JとTから演繹的にそのことが確かであると信じられる」

この3つの条件を満たすとき、信じていたことは「知識」になるとされている。

ところが、1963年に米国の哲学者、エドムント・ゲティアが、JTB条件を満たしても知識とは言えない反証を上げて、それ以来、「知識とは何か」という議論が続いている。

そのひとつの例が、「空き地の牛」の例だ。

ある牧場主が、牛乳をたくさん出す牛が逃げていないかどうかを心配していた。そこへ、牛乳を工場に届けてから帰ってきた部下が言った。「向こうの空き地にいました」。

牧場主はその言葉を信じたが、それでも自分の目で確かめようと思い、空き地に行くと、木々の隙間から、見慣れた白黒の牛の模様が見えたので安心をした。しばらくして、部下がその空き地に行ってみると、牛だと思った模様は、牛の模様をプリントした紙で、木々の間に吊るされていたものだった。牛はどこにもいなくなっていた。

牧場主は、最初に「牛が空き地いる」という部下の言葉を信じた。これは知識になっただろうか。

「J:牛の模様を自分の目で確かめたという証拠がある」

「T:「空き地に牛がいた」という命題の中に「空き地で牛の模様を見た」ことは含まれるので、真である。」

「B:自分の目で見た証拠と命題が真であることから、「牛が空き地にいる」ことを十分に信じることができる。」

つまり、JTBの3条件を満たしているので、これは知識だということができるが、実は牛はいなかった。古典的な定義の知識では問題が生じるということだ。

と、説明しながら、実は私はよくわかっていない。というより、哲学者全員がこの問題に頭を悩ましている。

「社長は環境を保全/破壊するという知識を持っていたか」

もうひとつ、面白い関連実験を紹介しよう。結果が好ましいか、好ましくないかで印象が違ってくるという例だ。

社員が「こういう事業を始めます。この事業は、環境を保全/破壊します」と提案した。社長は「環境などに興味はない。ただ利益だけに興味がある。すぐに始めたまえ」と言い、その事業が始まった結果、環境は保全/破壊された。

すると、環境保全の場合は、社長は知識を持っていなかったと答える傾向が高く、環境破壊の場合は知識を持っていたと答える傾向が高かった。つまり、好ましくない結果が生じた時は、実行責任者はそれを予見していたと、私たちは考えがちなのだ。

人は、自分が信じたいものしか信じない傾向

このような哲学的な問題がいまだに語られるのは、SNSなどによるデマ、フェイクニュース、暴走する世論などと関係している。人は、自分が信じたいものしか信じない傾向があり、事実と異なっていても、自分が信じたい内容であれば、あたかもそれが事実であるかのように拡散をしていく。

新しい年になり、新年会に出席しなければならないというエンジニアも多いだろう。新年会で、周りに合わせて芸能ニュースの話題にうなずくよりは、エンジニア同士で、こういう思考実験について語り合ってみていただきたい。いつもより早く酔いが回ってくることを請け合う。

エンジニアなら知っておきたい「10の思考実験」(上)--エンジニアに求められるのは技術知識だけではない