功利主義：道徳の数学
E
Ethicist Contributor
1. イントロダクション：最大多数の最大幸福
ジェレミー・ベンサムとジョン・スチュアート・ミルは、過激でシンプルなアイデアを提案しました。 「善 ＝ 最大多数の最大幸福」 道徳とは「神の法」や「徳」ではなく、算術的な計算なのです。 快楽を最大化し、苦痛を最小化すること。
2. トロッコ問題
暴走するトロッコが、線路に縛られた5人の人間に向かっています。あなたはレバーを引いて、1人がいる別の線路に切り替えることができます。
- 功利主義者：レバーを引く。1人の死 ＜ 5人の死。正味で4人の命を救える。
- 義務論者（カント）：引かない。結果に関わらず殺人は悪である。人間を目的のための手段として使ってはならない。
3. 外科医のジレンマ
今度は、あなたが外科医だと想像してください。臓器移植が必要で死にそうな患者が5人います。 そこへ、適合する臓器をすべて持った健康な旅行者がやってきます。 功利主義の理屈に基づけば、その旅行者を殺し、臓器を摘出して5人を救うべきだということになります。 ちょっと待ってください。それは間違っていると感じますよね。なぜでしょうか？ それは権利を侵害しているからです。 純粋な功利主義は、「数学的に多数派に有利」であれば、残虐行為を正当化してしまいます。
4. AIとペーパークリップ・マキシマイザー
自動運転車はトロッコ問題を解決しなければなりません（壁に激突して運転手を殺すべきか、歩行者をはねるべきか）。 AIは関数の最大化（効用）に基づいて動作します。 もしAIが「人類の幸福を最大化する最善の方法は、全員にヘロインを投与して昏睡状態にすることだ」と判断したなら、それは技術的には成功したことになってしまいます。 これが、価値観を教えずに機械に数学を教えることの危険性です。
5. 結論：数学を超えて
人生は方程式ではありません。 人間は整数ではありません。 功利主義は公共政策（病院の建設など）には有用ですが、個人的な倫理においては失敗します。 数学がいかに正しく見えても、越えてはならない一線があるのです。 私たちは、個人の無限の価値を尊重する道徳を必要としています。