The Road not taken

レベル3

 2021年3月5日に自動運転レベル3の車が発売された.本田技研によるホンダ・レジェンドである.実走行の短評動画がYouTubeに投稿されていたが、渋滞のときに走行を補助してくれるのはありがたいだろうな、という月並みな感想と意識消失等の緊急時に車両が介入するのは有意義だろうという感想を思った.だがそれ以上は期待できないなぁという気持ちでいる.

 自動運転レベルというのは0から5までの6段階にわかれ、レベルがあがるほど自動運転の介入度が高まる.このレベルは米国自動車技術者協会SAE(Society of Automotive Engineers)やドイツ自動車工業会Verband der Automobilindustrie(VDA)によって定義される.

  レベル2までは運転者の監視が義務付けられるのに対して、レベル3以上は、条件付きで車両による監視が主体となる.つまりよそ見をしても良いことになる.国土交通省も警察も「運転の主体が車両になる」という見解になっているそうだ.部分的に運転者の責任を問わない可能性が生じることになる.

 自動運転のレベルがあがるにつれて、生じる議論の幅は広くなる.この議論はすでに出尽くしたネタになってしまうが、いまだに熟慮すべき問題であると思う.では何を熟慮すべきか.

トロッコ問題

 よく知られている倫理の問題に「トロッコ問題:Trolly Problem」がある.この問題は以下のように提起される.あなたの答えはどうだろうか.

 線路を走っていたトロッコの制御が不能になった.このままでは前方で作業中だった五人が猛スピードのトロッコに避ける間もなく轢き殺されてしまう.この時たまたまあなたは線路の分岐器のすぐ側にいた.あなたがトロッコの進路を切り替えれば五人は確実に助かる.しかしその別路線でもある人が一人で作業しており、五人の代わりにその人がトロッコに轢かれて確実に死ぬ。あなたはトロッコを別路線に引き込むべきか.
図1:トロッコ問題

  あなたなりの答えが出たとして、話を進めると次のような回答があるやもしれない.「そもそも答えなんてないだろう」「ケースバイケースなんじゃないのか」と.とはいえ自動運転のレベルを上げるためにはこのような倫理的問題に一定の回答をしなければならないと思う.すなわち、トロッコを自動運転システム搭載車両に置き換えて、あなたが乗車していると仮定すれば同じ議論になる.車両が判断を下す必要がある場合、車両はどのようなプログラムに基づいて判断を下せばよいのか.車両を製造する自動車メーカーはどのような判断機構を作るのだろうか.メルセデス・ベンツであろうと、本田技術研究所であろうと、テスラ社であろうと、プログラムを構築しないとならない.もしメーカーが本当に自動運転レベル5を目指すのであれば、だ.ちなみにレベル5は完全自動運転のことをいう.上記のトロッコ問題が現実に出現したとして、車両が「ケースバイケース」を選択することは、本当に正しいのだろうか.車両が五人を救うために無関係な一人を殺してもいいのだろうか.それともそのまま五人を殺してしまうことはブレーキの故障として仕方がないのだろうか.

 この問題はインターネットで検索すれば腐るほど、個人のブログ記事だけでなく企業や出版社などの特集ページで取り扱われている.近年痛ましい自動車事故が日本社会で注目されている.それだけ関心を持たれていることがわかるテーマだと私は感じている.

様々な見解

 この問題は、功利主義を始めとする様々な立場によって回答が異なるであろうという推定がされている.功利主義というのは利益の最大追求を取る立場であるが、ベンサムのような立場であれば五人を助ける可能性が高いだろうとされる.しかし不幸にも無関係な人が死んでしまう.

 もしリバタリアニズムの考えであれば個人の自由を至上とする立場であるから、五人殺すのも一人を殺すのもあなたの自由、しかし全てあなたの責任ですよ、という答えになる.すべての判断が個人に帰結するので、あなたの選択には合目的な説明を伴うだろう.

 もしイマヌエル・カントの立場であっても道徳律に従って、なるべく意図して人を殺さないようにする(つまり一人を犠牲にせず)としても結果多くの人が犠牲になってしまうか.

 どれもこれも正直胸糞が悪い.こういう議論は私は正直苦手なのだ.私はどちらかといえば白黒はっきりさせたい性質があるので答えがないような問題は好きではないし、どうあがいても誰かが死んでしまう展開は気分が悪い.おそらく私は感情で動く人間である.役人には向かない.

 どうにかこうにか、一定の答えがないものか、なにかこの問題や自動運転の議論についての見解・調査結果がないのだろうかと探してみると、モラルマシンという2014年のマサチューセッツ工科大学の研究者らによるデータ集計が参考になった.これは自動運転を用いた人間の道徳的な意思決定に関して、人間の視点を収集する目的で作られたプラットフォームである.ん?よくわからない、という方はぜひリンクをクリックしていただき、実際にテストを行ってみると良い.

 テスターは無作為に設定されたジレンマにおいて二択のうちどちらかを選ばなければならない.犯罪者と信号無視をしたもの、どちらを犠牲にするか、肥満の人々とこども一人、どちらを犠牲するのか、猫と老人どちらを優先するかなどという意地悪な質問が十三問ほど提示される.

 数百万人の膨大なデータが収集され、結果を三つの地域別にわけて検討された.一つは日本や中国、西アジア地域のグループ、東側.もう一つは北米やカナダ、西ヨーロッパのプロテスタント系である西側.フランスそして南米や主に旧フランス植民地の国々である南側だ.この分類ですでに研究のLimitation制約があることは明らかなのだが、回答が地域によって大きく割れたことは興味深いことであった.

図2:モラルコンパス Natureから引用

 例として日本が属する東側グループを見てみると、次のような傾向が見て取れる.一つは進路を変えない(preference for inaction)ことだ.そして歩行者を優先すること(sparing pedestrians)、動物よりも人間を優先すること(sparing humans)、さらに法律を重んじる人を守る傾向(sparing the lawful)ということになる.若者を助けようとすること(sparing the young)は優先されず、社会的地位の高い人物(higher status)や健康な人(fit)に関してはそうでない人とあまり優劣をつけない.人数(sparing more)も考慮されない傾向にある.地域の宗教や倫理観、社会の発展度合い、貧富の格差、人口比率の違いが関係しているだろうと思われる.

 全体ではどうか.研究者の一人であるIyad Rahwan氏は全体の集計を俯瞰すると、国籍や年齢宗教を問わず、多数は功利主義的な選択をするということだった.つまり、五人よりも一人が死ぬことを選んだというわけだ.そして若者を高齢者よりも優先し、動物よりも人間を優先した.社会的地位の高い人や、道路法規を遵守する人を優先する傾向も比較的見られた.その他の事例では先述の通り、地域で意見が割れた.

ではどうするのか

 こうした社会的ジレンマに対して、社会は規制を設けることで対応してきた.ルールを厳格にし、監視と規制を政府や自治体に求めることが一つの解決になりうる、とRahwan氏は述べる.被害を最小化するよう規制の強化を公安委員会や警察に求めてみてはどうか、と.これに対して人々は規制には反対だ.そんな車には乗らない、という.人々が功利主義的な考えを他の車に求めるのに対し、Rahwan氏は人々にそのような車を自分たちは欲しいと思うだろうか、という質問を続ける.すると、多くが「欲しくない」と答えたのだった.

 誰も目の前にいる五人を轢かないためにわざと進路を変えて無関係な人を一人殺してしまう車は欲しくない、あるいは五人を守るために自己を犠牲にする車は欲しくないということだ.まぁそうだろう.自分だけが報われないのはゴメンだ.とはいってもなんと身勝手な!他人には功利主義的な判断をする車に乗ることを求める一方で、自分は乗りたくないという.こんなひどい顧客がいてたまるか!と思いきや残念ながら何十億人もいるのだ.自動車メーカーはこのような無理難題に直面しているといっても過言ではない.論文によれば、この問題に対してドイツの自動車メーカー、アウディだけがモラルマシンに対し “The survey could help prompt an important discussion about these issues.”とコメントし、その他トヨタ自動車や自動運転開発企業Waymo、テクノロジー企業Uberなどは回答を避けた.メーカーの発言は慎重にならざるをえないだろう.きっと自動運転のシステムは最高機密になるのではないか.

 「某メーカーの自動運転システムは国別で異なるんですって!ある国では国民の『社会信用システム』を車両に組み込んでいて、車両のセンサーが国民のIDを認識するんです、国民の信用度の高さで救命の優先度を分けるようになっているらしいです」なんてことが広められてしまっては大スキャンダルである.それが事実であろうと嘘であろうと.

 もし、本気で自動運転レベル5を目指すのであれば、このトロッコ問題や究極の二択を迫るジレンマに対して我々は一定の答えを出さなければならないと私は思う.その鍵は乗り手の利益と公共の利益とのトレードオフであり、どこまでの条件なら我々が公正な判断だ、フェアだ、と思えるかにかかっている、という.そのとおりだと思う.折衷案というか妥協案をどのように追求するかが不可欠になってくる.そのためには我々と社会との間で、個人と公共性の両者の最大幸福について徹底的に議論しなければならない.今後少なくとも何かしら各々が意見を持っている必要があると考えている.そういう時代に来ているような気がしている.

 なにか判断を下すとき、私達は対象に対して評価を行う.自動運転を求めるということは同じようにして車両が対象に判断を下すことを求めることと同じだと思う.人が下す評価は千差万別で、ときに適切で、ときに不適切である.多様性が求められ、かつ差別に対して厳格である難しい時代において自動運転のシステムを構築することは大変な労力である.

 

 私なりの意見を述べると、自動運転はまだまだ先の技術になるのではないか.私個人は自動運転が進んだ世の中をそんなに見たいとも思わない.議論が進まない以上は人間がすべて責任を負うべきだ.それにすでにタクシーというすばらしいサービスがあるではないか.かつて地方タクシー運転手の高齢化を目の当たりにして、高齢者の恐ろしい運転に付き合わされたときはひどく閉口したものだが、目的地を告げるやいなや、複数のルートを瞬時に提案して、最速で連れて行ってくれるサービスは人間の精神がなければ到底無理だ.タクシーやバスの方がはるかに融通が効く.音声聞き取りの精度も期待できない.豪雪や豪雨、未舗装の道を走ることができるのは人間だけだろう.将来AI(人工知能)があなたの職を奪うかもしれない、と危惧されているようだが、道路交通に関する職も当面生き残る気がしている.私にとって自動化はアダプティブ・クルーズ・コントロール(ACC)やレーンキープアシストシステム(LKAS)、駐車補助程度でいい.

話はかわるが

 ここまで私は自律機能を持った機械が個人の利益と公共性を天秤にかける問題について述べた.この問題は1950年代にアイザック・アシモフが「ロボット三原則」を提唱し、漫画「鉄腕アトム」でその原則が継承されている.人間に暴力を振るわれてもやり返すことのできないアトムがその葛藤で悩む姿を思い出す.原則は以下の通りである.

第一条:ロボットは人間に危害を加えてはならない.また、その危険を看過することによって、人間に危害を及ぼしてはならない.
第二条:ロボットは人間にあたえられた命令に服従しなければならない.ただし、あたえられた命令が、第一条に反する場合は、この限りでない.
第三条:ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない.
日本アルプスにこもるロボットたち

 「青騎士」編でアトムが人間の迫害に感化されて原則を破り、人間に歯向かうシーンはなかなか痛快であった.同じような構図のゲーム作品がプレイステーション4のプラットフォームで発売されているが2018年の「Detroit: Become Human」は非常に興味深い.アンドロイドによって雇用を奪われた人間たちが怒りに身を任せてアンドロイドを集団リンチするシーンは、「鉄腕アトム」の焼き直しにも思えるし、アメリカで起きたジョージ・フロイド抗議運動も根強い黒人差別に対する怨嗟を想起させる.鉄腕アトムは高潔なロボットだった.そして彼を見守る人物も高潔であったが、私達は自律機能をもった機械に対して高潔でいられるだろうか.個人の利益と公共の利益双方を守らんとするプログラムを組まれた車両が、不幸な事故を起こしたとき、私達は冷静でいられるだろうか.その車両の判断を、その自動車メーカーの判断を、エンジニアの判断を、真摯に受け止められるだろうか.少なくとも私は期待していない.「未来の技術が楽しみだなぁ」と楽観しているだけならば自動運転は限定的にとどめてやめてしまったほうが良い.でなければいつか人間への憎しみに駆られた青騎士がとどめを刺すだろう.

 

  

 

 

 

 

 

 

投稿者:

吾郎

2020年6月にブログ開設.生き延びるための様々な問題を精神病理学に基づいて取り扱っています!ぜひぜひ気軽に遊びに来て下さいね.Our articles include essay, translation, study about literature, psychiatry(psychopathology), humanities.