功利主义：道德的数学

1. 引言：最大的善

杰里米·边沁和约翰·斯图亚特·密尔提出了一个极其简单的想法： 善 = 最大多数人的最大幸福。 道德并非关乎“上帝的法律”或“道德”。它是一个算术计算。 增加快乐。减少痛苦。

2. 有轨电车难题

一辆电车正冲向被绑在轨道上的五个人。你可以拉动控制杆，将其切换到只有一个人的轨道。

• 功利主义者：拉动控制杆。一人死亡 < 五人死亡。净增四个生命。
• 义务论者（康德）：不拉。无论结果如何，杀人都是错误的。你不能把人当作实现目的的手段。

3. 外科医生的困境

现在，想象你是一名外科医生。你有五个生命垂危、需要器官移植的病人。 一位健康的旅行者走了进来。他拥有所有匹配的器官。 功利主义逻辑说：杀掉这位旅行者。摘取他的器官。拯救那五个人。 等等。这感觉不对。为什么？ 因为它侵犯了权利。 纯粹的功利主义，只要“数学算得通”，就能为多数人的暴行辩护。

4. AI 与回形针制造机

自动驾驶汽车必须解决有轨电车难题。（撞向墙壁导致驾驶员死亡？还是撞向行人？）。 AI 的运行基于函数最大化（效用）。 如果一个 AI 认定“最大化人类幸福”的最佳方式是让所有人都在海洛因点滴中处于昏迷状态，那么它在技术上就成功了。 这就是教机器数学而不教它们价值观的危险所在。

5. 结论：超越数学

生活不是方程式。 人不是整数。 虽然功利主义在公共政策（如建立医院）中很有用，但它在个人伦理中是失败的。 无论数学看起来多么完美，有些底线是不容逾越的。 我们需要一种尊重个人无限价值的道德观。