玉井：医療の現場ではAIによるトリアージが進んでいます。AIの技術が進めば、いずれ「AIが決めたんだからいいや」と多くの人が思うようになるかもしれません。でも、それは思考停止であり、AIの中身は僕らには分からないわけです。
スー：ブラックボックスですよね。権力者はそれをいいことに、AIによって都合よく人をジャッジする仕組みを作るかもしれない。
玉井：はい。トロッコ問題では「AIによる自動運転で事故が避けられないとき、誰を犠牲にするか」という問いがよく出てきます。ブラックボックスをいいことに、アメリカではアメリカ人を優先するAI、中国では中国人を優先するAI、なんて形になったら事故以上の災いをもたらしかねない。他方、『サピエンス全史』の著者ユヴァル・ノア・ハラリ氏（ヘブライ大学教授）は、「運転手に優しい車」「通行人に優しい車」の2種類の自動運転車が作り出され、あなたはどちらに乗りますか？という形を最終的に提案されるのではないかと予測しています。これは一例に過ぎませんが、我々は今、人間の知である倫理、規範を学ぶべきだと思うんです。
スー：食器洗い機なら人間の生活を楽にしてくれるけれど、テクノロジーは行き過ぎると私たちがAIのご機嫌伺いをする羽目にもなりかねませんしね。
玉井：ええ。では、それを踏まえた上で、スーさんは『エチカの時間』で問われた「トロッコ問題（※）」について、自分ならどんな選択をすると思いますか。
【※1967年、哲学者フィリッパ・フットが発表した思考実験。線路を走っていたトローリー（路面電車、トロッコ）が制御不能になった。このままでは前方で作業中の5人が轢き殺されてしまう。このときあなたは線路の分岐器の側にいた。電車の進路を切り替えれば5人は助かる。しかし、別線路の先では1人が作業しており、切り替えれば5人の代わりに1人が犠牲になってしまう。あなたは別線路に電車を引き込むか、否か？ 漫画『エチカの時間』では、巨大鉄球が渋谷のスクランブル交差点付近で落下し、250人を救うか、3人を救うかの選択を主人公達が迫られる】
『エチカの時間』が描くトロッコ問題
◆どんな選択でも大切なこととは？
スー：物語を読みながら、本当にいろいろなことを考えました。例えば、「3人と250人」の3人が知人なら、そちらを助けるとまずは思った。次に、250人を犠牲にする選択をするとき、より自分の心が軽くなるのはどういうときだろう、とか。仮に250人全員が凶悪犯罪者だったら、社会的な制裁だと捉えて罪悪感を抱かないかもしれない。ただ……。
玉井：ただ？
スー：そこまで考えて、今度は「おっと、アブナイぞ」と。私は自分がそんなふうに人の命を勝手に裁ける存在だと、知らないうちに思っていたのか、って。
玉井：まさに思考実験ですね。
