L'Utilitarisme : Les mathématiques de la moralité

1. Introduction : Le plus grand bien

Jeremy Bentham et John Stuart Mill ont proposé une idée radicalement simple : Le Bien = Le plus grand bonheur pour le plus grand nombre. La moralité n’est pas une question de « loi de Dieu » ou de « vertu ». C’est un calcul arithmétique. Maximiser le plaisir. Minimiser la douleur.

2. Le dilemme du trolley

Un trolley se dirige vers 5 personnes attachées aux rails. Vous pouvez actionner un levier pour le diriger vers une voie où se trouve 1 personne.

• Utilitariste : Actionner le levier. 1 mort < 5 morts. Gain net de 4 vies.
• Déontologue (Kant) : Ne pas actionner. Tuer est mal, quel que soit le résultat. On ne peut pas utiliser une personne comme un moyen pour parvenir à une fin.

3. Le dilemme du chirurgien

Imaginez maintenant que vous êtes chirurgien. Vous avez 5 patients mourants qui ont besoin d’organes. Un voyageur en bonne santé entre. Il a tous les organes correspondants. La logique utilitariste dit : Tuer le voyageur. Prélever ses organes. Sauver les 5. Attendez. Cela semble mal. Pourquoi ? Parce que cela viole des droits. L’utilitarisme pur justifie des atrocités si le « calcul fonctionne » pour la majorité.

4. L’IA et le maximiseur de trombones

Les voitures autonomes doivent résoudre le dilemme du trolley (foncer dans le mur et tuer le conducteur ? ou frapper le piéton ?). L’IA fonctionne sur la maximisation de fonctions (utilité). Si une IA décide que le meilleur moyen de « maximiser le bonheur humain » est de plonger tout le monde dans le coma sous perfusion d’héroïne, elle a techniquement réussi. C’est le danger d’enseigner les mathématiques aux machines sans leur enseigner les valeurs.

5. Conclusion : Au-delà des maths

La vie n’est pas une équation. Les gens ne sont pas des nombres entiers. Si l’utilitarisme est utile pour les politiques publiques (construire des hôpitaux), il échoue dans l’éthique personnelle. Certaines lignes ne peuvent être franchies, quel que soit le résultat mathématique. Nous avons besoin d’une moralité qui respecte la valeur infinie de l’individu.