「トロッコ問題」を聞いたことがあるだろうか? トロッコが制御不能となり、何もしないと作業員5人に突っ込んで死亡させてしまう。ポイントを切り替えると作業員1人死亡で済む。あなたはポイントを切り替えるべきか、という倫理の問題だ。
▼5人の命と1人の命に差があるのか。5人が死刑囚で1人が善人の場合はどうか。5人が老人で1人が赤ん坊の場合、5人が身内で1人が見知らぬ外国人の場合、5人が貧乏人で1人が金持ちの場合などケースバイケースで、かつそれぞれ明確な答えがない厄介な問題だ。
▼この極めて人間的な問題に、今AIが直面している。自動車の自動運転での事故回避をAIにどう判断させるべきなのかという問題だ。5人乗り自動車と、1人のバイクのいずれかに突っ込んでしまう場合、どちらにハンドルを切るべきか。数の問題だけなら、バイクに突っ込むほうにハンドルを切るだろう。
▼では、5人の老人と1人の若者の場合、5人の死刑囚を乗せた自動車と1人の一般市民の場合も同様でいいのか。同様でないのなら、AIに何を根拠として、どう判断させるのか。その判断の責任は誰が負うのか。
▼物件内見の自動運転の自動車が事故を起こしたら、責任はどうなるのか。技術の進歩は、切実な現実問題としての倫理を人間に突き付ける。DX化の進展で問われるのは、それを使う我々自身だ。
