人間か、システムか

Boeing vs Airbus, Human vs AI

飛行機が緊急事態に陥った瞬間、最後に判断を下すのは人間なのか、それともシステムなのか。この問いは、飛行機だけの話ではありません。あなたが毎日乗っている車にも、公共交通機関にも、すでに同じ哲学的対立が組み込まれ、無意識に命を預ける状態になっています。今回は 最終判断の所在 というお話。

ボーイングとエアバスの設計思想

現代の旅客機には「フライ・バイ・ワイヤ（Fly-by-wire）」という電子制御システムが搭載されています。パイロットの操作をコンピュータが介在して制御するしくみです。しかしその「介在の深さ」が、ボーイングとエアバスで大きく異なります。

ボーイングの設計思想は「パイロット・イン・コマンド（Pilot in Command）」です。コンピュータはあくまでも補助であり、最終判断は人間が下します。そのため、パイロットが強制的に操作すれば、システムの制限を超えることができます。

一方エアバスは「ヒューマンエラーの排除」を設計の根幹に据えています。エアバスA320は商用機として初めて「フライトエンベロープ・プロテクション」をソフトウェアに組み込みました。これは機体が安全な飛行範囲を逸脱しないよう、AIが自動的に介入する仕組みです。つまりエアバスでは、パイロットが誤った操作をしようとしても、システムがそれを上書きすることがあります。

ハドソン川の奇跡

2009年1月15日。ニューヨークのラガーディア空港発ｍUSエアウェイズ1549便が、離陸からわずか1分半後、高度約850メートルでカナダガンの群れに遭遇し、バードストライクで両エンジンが停止しました。機長 チェズレイ・サレンバーガー（Chesley Burnett “Sully” Sullenberger III、1951年1月23日 – ）は、管制塔の指示を退けました。

管制塔は近くの空港への引き返しを指示しましたが、サレンバーガー機長は、高度と速度が足りず空港までは届かないと瞬時に判断。「ハドソン川に降りる」と宣言してハドソン川への緊急着水を決断します。わずか208秒の出来事でした。乗員乗客155名、全員生還。これが「ハドソン川の奇跡」と呼ばれる事故です。

ここで一つ、よく誤解される事実があります。この機体はエアバスA320でした。「ボーイングだったから助かった」という話が流布されることがありますが、それは事実ではありません。

サレンバーガー機長はチェックリストに頼らず、エンジン停止の直後に補助動力装置（APU）を即座に起動して電源を確保しました。また、エアバスのシステムが「許容できる飛行範囲内」と判定したからこそ、機長の判断通りに着水が実行できました。つまりこの奇跡は「エアバスのAIと機長の判断が噛み合った」結果でした。機長自身も「これは奇跡ではなく、訓練の結果だ」と語っています。

自動車にも広がる「同じ対立」

この設計思想の対立は、すでに私たちの日常に降りてきています。自動運転技術を搭載した車のAIも、同じ問いを突きつけられているからです。

たとえば「緊急回避が避けられない状況で、乗員と歩行者のどちらを守るのか」という問題です。哲学の世界では「トロッコ問題」として知られる倫理的ジレンマです。自動運転車の文脈では、事前にプログラムされたアルゴリズムが瞬時に最終判断を下すことになります。

2016年、メルセデス・ベンツの自動運転技術担当者が物議を醸しました。「レベル4以上の自動運転では、乗員を守るため歩行者との衝突はやむを得ない可能性がある」と発言したのです。しかし一方で、ドイツは「人命は常に最優先」「年齢や性別による差別は許されない」という倫理ガイドラインを策定しており、単純な乗員優先を否定しています。

また日本では「乗客より歩行者の命を優先すべき」とする傾向が強いとされています。さらにトヨタの自動運転開発を担うウーブン・コアも「倫理課題を解決するためのプロセスが必要だ」と公言しており、答えはまだ出ていません。したがって、この問いは技術の問題ではなく、社会が何を優先するかという価値観の問題なのです。

最終判断を誰に委ねるか

「人間の判断力と経験を信頼する」か、「人間のミスを排除するためにシステムに委ねる」か——どちらが正解かは、一概には言えません。

ボーイング方式は、サレンバーガー機長のような傑出した判断力が「システムを超えた結果」を生む可能性を持っています。しかしエアバス方式は、疲労や錯覚といった人間の限界から生まれるヒューマンエラーを防ぐ力を持っています。

つまり問われているのは「AIと人間のどちらが賢いか」ではありません。「どんな失敗を許容するか」という設計哲学の違いなのです。これはWeb制作の現場でも同じではないでしょうか。チェックリストを徹底してミスを減らすか、経験と直感を持つ人間の最終判断を優先するか。どちらにも、守るものと失うものがあります。

ちなみに…

ちなみに、MIT研究者らが世界233カ国・400万人以上を対象に行った「モラル・マシン実験」という大規模調査があります。自動運転車が避けられない事故に直面した際に誰を優先すべきかを問うもので、国や文化によって答えが大きく異なることが明らかになりました。また、日本・中国・韓国などの東アジア圏では「歩行者優先」の傾向が強く、一方で一部の国では「乗員優先」の傾向が見られたという結果も出ています。

「AIに倫理を教える」という行為は、つまり「その社会が何を正義とするかを決める」行為でもあります。コードの1行1行に、設計者の哲学が刻まれているのです。人類はこの先、最終判断を誰が——あるいは何が——下すのでしょうか。

パイロットか、システムか

というお話でした。

～ 本文で参考にした書籍をご紹介 ～

（参考・出展）

• 機長、究極の決断 (静山社文庫)

• 自動運転事故の責任は誰にあるのか: 新技術をめぐる過失割合の検証

• ハドソン川の奇跡 [DVD]