Il y a d’abord une théorie de l’action individuelle. Celle-ci est décrite comme mue par la recherche du plus grand bonheur, ou encore la maximisation du plaisir. Il y a chez Bentham un certain nombre de termes qui sont employés de manière plus ou moins directement équivalente (et qui seront ensuite distingués) : utilité, bien-être, bonheur, plaisir.

À partir de là se construit une autre perspective, qui certes s’appuie sur la première : il s’agit de rechercher les conditions de la maximisation de l’utilité globale de la société à travers une législation appropriée.

Ces deux aspects (la logique individuelle de l’action interprétée en termes de recherche du plus grand avantage, d’un côté, et la maximisation globale de l’utilité, de l’autre) sont distincts et ont donné lieu à deux traditions de pensée et à des domaines de recherche relativement hétérogènes, même si leur problématique, reposant sur la définition de l’utilité, les relie inévitablement.

Dans les pays anglo-saxons, la notion d’utilitarisme renvoie d’abord à ces procédures de maximisation de l’utilité collective à partir de la définition des utilités individuelles [1]. Cela donne lieu à deux séries de problèmes classiques. Il s’agit d’abord de déterminer ce que sont les utilités individuelles, pour poser ensuite la question de leur comparabilité et de leur agrégation. Le problème de la comparabilité des utilités suscite deux options fondamentales. Les utilités peuvent en effet être dites cardinales ou ordinales ; dans ce dernier cas, elles dépendent uniquement de la mise en ordre des préférences des acteurs. Par exemple, dans les problèmes liés à l’évaluation des politiques de santé, se pose le problème de savoir si on a une mesure objective de l’utilité des soins apportés aux différents patients, ou s’il faut s’appuyer sur des évaluations subjectives de ces soins [2]. À partir de là, et quelle que soit l’option retenue, on peut envisager les modalités de leur agrégation qui donne lieu à des difficultés considérables et en quelque sorte infinies. En effet, même si l’on a surmonté les problèmes de comparabilité, il faut introduire des normes de référence à partir desquelles on considérera qu’il y a maximisation : en effet, pour un niveau donné d’utilité, plusieurs répartitions entre individus sont possibles. On peut ainsi raisonner en termes d’utilité de politiques de redistribution : à partir de quel moment augmente-t-on l’utilité globale ou l’utilité de certains individus en procédant à un transfert de ressources [3] ? Cela pose alors le célèbre problème du sacrifice qui peut intervenir sous certaines conditions pour augmenter l’utilité globale. On peut d’ailleurs noter à ce sujet que, contrairement à certaines idées reçues, la tradition utilitariste s’est beaucoup intéressée aux droits fondamentaux et à leur garantie, comme le montre en particulier l’exemple de Mill [4].

Au contraire, dans la tradition française des sciences sociales, la notion d’utilitarisme (notamment d’ailleurs lorsqu’elle est avant tout critiquée) renvoie à quelque chose d’assez différent : est réputée utilitariste une théorie qui, s’appuyant sur un modèle « économique » de comportement, décrit l’acteur comme étant motivé exclusivement par la satisfaction de ses « intérêts » considérés comme « égoïstes ». On voit que l’on peut rapprocher les deux points de vue qui tous deux se réfèrent à l’utilité [5] : mais les difficultés spécifiques et les ambitions des deux types d’analyse divergent assez largement.

Dans le cadre de cet article, où il est évidemment impossible de décrire aussi bien l’histoire que l’actualité de ces mouvements utilitaristes, je m’intéresserai au sens « français » de la notion d’utilitarisme. Ce sens est cependant massivement présent dans les sciences sociales des pays anglo-saxons, mais sous un autre nom : on y parle alors de modèle du choix rationnel (MCR) ou de Rational Choice Theory. Le but des théories s’appuyant sur ce modèle n’est alors pas directement normatif : il ne s’agit pas, dans la continuité de Bentham, d’étudier les conditions d’une maximisation de l’utilité publique. Le but est davantage explicatif : il s’agit, par la construction de modèles, de rendre compte d’un certain nombre de phénomènes sociaux, par exemple l’émergence des normes. Il existe, au milieu d’une littérature très nombreuse [6], deux œuvres à mon sens emblématiques de cette application du modèle économique à la réalité sociale, même si, dans le détail, leurs démarches varient de manière significative. L’une relève de la volonté d’utiliser directement les modèles économiques pour rendre compte de certains phénomènes sociaux. Il s’agit de l’œuvre de Gary Becker [7], qui va interpréter par exemple les choix constitutifs de la vie familiale en termes économiques. L’autre relève d’un effort d’adaptation sociologique de ce modèle économique en vue d’expliquer les phénomènes fondamentaux de la vie sociale : il s’agit de l’œuvre monumentale de J. Coleman [8].

Dans les faits, Durkheim, comme Mauss à sa suite, sont amenés à se référer fréquemment à une notion commune d’utilité tout en la contestant par ailleurs : car s’ils définissent d’un côté la perception de l’utilité comme dépendant de normes sociales, ils tendent aussi à mettre en avant la société comme hétérogène à des calculs d’utilité, ce qui signifie qu’il y a bien quelque chose comme une utilité. Je reviendrai sur ce point complexe et essentiel : l’utilité peut être perçue comme déterminée socialement, et variable en fonction des groupes, ou, au contraire, comme une sorte d’invariant relevant d’intérêts fondamentaux de l’espèce humaine.

Au contraire de la tradition durkheimienne, la tradition économique, dans sa partie « dominante », et une partie de l’analyse sociologique ont accepté le modèle de l’acteur agissant en fonction de ses intérêts. Il y a là toutefois une ambiguïté fondamentale [10]. Quels sont en effet les intérêts des acteurs et quelle est leur utilité ?

Il y a fondamentalement deux réponses possibles à cette question, ce qui permet, paradoxalement, de retrouver la dualité de l’usage présent dans la tradition durkheimienne.

La première est de considérer que les acteurs ont, de manière typique, certains intérêts dits « égoïstes ». Quels sont ceux-ci ? Il y a généralement trois candidats, présents de manière ancienne dans la littérature philosophique, pour décrire ces motivations : la recherche de la richesse, du pouvoir et du prestige. Rousseau parlait à leur propos d’inégalité morale qui « consiste dans les différents Privilèges, dont quelques-uns jouissent, au préjudice des autres, comme d’être plus riches, plus honorés, plus Puissants qu’eux, ou même de s’en faire obéir » [11]. Ces trois finalités possibles sont égoïstes dans la mesure où elles peuvent donner lieu directement à des conflits de réalisation, chacun voulant faire prévaloir son intérêt contre celui d’un partenaire de l’interaction. On se situe là implicitement (comme en témoigne la citation de Rousseau) dans le cadre d’un jeu à somme nulle : le bien que j’aurai, quelqu’un d’autre ne l’aura pas.

Du point de vue de l’évidence empirique, il y a alors deux phénomènes massifs, mais concurrents. On est confronté d’abord au fait que, dans certaines situations, les acteurs se comportent de manière très majoritairement « égoïste » : qui d’entre nous, lorsqu’il achète un billet d’avion, est prêt à préférer les intérêts de la compagnie aérienne aux siens propres ? Mais, en même temps, il existe clairement des comportements qui semblent obéir à une pure logique d’aide à autrui, sans que l’on voie très bien quel est l’avantage en retour qui est visé. Il est vrai que, souvent, cette aide peut donner lieu à un « prestige », lequel peut donc entrer à nouveau dans les soucis égoïstes de l’acteur (le prestige étant un bien rare). Toutefois cette introduction du prestige comme motif égoïste des activités altruistes est elle-même problématique : si un individu a le choix, par exemple, entre un bénéfice dérivé d’un gain immédiat et un bénéfice tiré d’un don pourvoyeur de prestige, quel doit être sa décision en termes d’égoïsme, les deux choix ayant par ailleurs des conséquences très différentes dans l’interaction ? Par ailleurs, le prestige obéit lui-même à des normes variées qui peuvent favoriser ou non un comportement égoïste.

Toutefois, d’une manière générale, les préférences des individus n’étant pas toujours les mêmes, on ne saurait dire qu’ils ont toujours les mêmes intérêts. Ces intérêts sont, de surcroît, souvent liés à des « valeurs » et constitués par elles : on se bat pour la possession de Jérusalem, qui représente ainsi un enjeu stratégique. Mais cela dérive évidemment de considérations symboliques liées à des valeurs attachées à cette ville. Les valeurs peuvent ainsi très bien relever d’intérêts, à partir du moment où le conflit qui les oppose conduit à une opposition des actions.

On a alors une autre solution pour définir les intérêts des acteurs. Il ne s’agit plus de s’appuyer sur des motifs typiques, mais de dériver les intérêts de leurs préférences. La fonction d’utilité correspond à une mise en ordre des préférences individuelles. Mais dès lors, si l’on accepte cela, et cette caractérisation formelle de l’utilité, celle-ci peut très bien inclure des préférences altruistes, inspirées notamment par des normes sociales.

Autrement dit, on est face à un dilemme : soit l’on définit les intérêts de manière étroite et précise, et on court le risque de n’être pas fidèle à ce que sont vraiment les intérêts des acteurs ; soit, au contraire, on définit les intérêts de manière large par référence aux préférences multiples des acteurs, et on risque alors de dissoudre cette notion d’intérêt dans les normes sociales elles-mêmes.

Dans la tradition des sciences sociales, l’introduction du thème de la rationalité relève d’un héritage humien, repris et développé d’abord par Pareto et Weber (sans que ceux-ci se réfèrent directement à Hume). La rationalité intervient dans le choix des moyens adéquats permettant d’atteindre certaines fins. La rationalité est une capacité de décision, limitée dans ses résultats, puisque les préférences des acteurs (correspondant aux « passions » de Hume) ne relèvent pas de son domaine de compétence.

À partir de là, la théorie se développe dans deux directions, une direction officielle et une direction officieuse.

La direction officielle correspond à la partie théorique la plus formalisée de l’analyse économique. Elle associe la rationalité à la transitivité des préférences :

On voit que cette théorie officielle est étroitement liée à une définition formelle de l’utilité, qui, à travers les préférences individuelles, peut de fait intégrer quelque chose comme des normes sociales si celles-ci s’exercent sur les préférences des acteurs. La rationalité est, dans cette perspective, liée à la seule transitivité des choix, et donc à la cohérence entre ceux-ci. La rationalité est associée à une maximisation de l’utilité, mais elle signifie seulement la possibilité d’une cohérence sous-jacente à cette maximisation. Il est alors absurde de critiquer l’ « utilitarisme » d’une telle démarche au nom par exemple de valeurs sociales, puisque les valeurs peuvent très bien appartenir à ce registre de l’utilité et être intégrées à la structure des préférences.

Pourtant, il y a une direction officieuse constitutive de la pratique effective des sciences sociales appliquant le MCR. Il ne s’agit plus ici de considérer que les acteurs ont des préférences arbitraires, mais de désigner au contraire que certaines préférences sont typiques, qu’à partir d’elles il est possible de rendre compte de nombre de phénomènes sociaux, et qu’enfin le choix de ces intérêts revêt un caractère de rationalité. En fait, généralement, ce mot de « rationalité » n’est pas trop investi de caractère explicitement et directement normatif, il renvoie seulement à une modélisation où l’on met ensemble aussi bien les intérêts supposés être typiques des acteurs que les moyens de les satisfaire, sans prendre en compte de manière détaillée l’héritage humien invitant à une division des statuts des fins et des moyens en termes de rationalité. Mais, lorsque l’on maintient le thème de la rationalité dans ce type de configuration, on s’éloigne nécessairement d’une notion de rationalité associée à la seule cohérence. Inévitablement alors, ce modèle acquiert une forte normativité, puisque l’acteur est jugé rationnel dans la mesure où il fait certains choix (plutôt que d’autres) en faveur de son intérêt jugé caractéristique. Wolfelsperger écrit ainsi, pour définir le cadre de l’analyse économique :

Il me semble que ce passage est fort instructif. Il indique la nécessité, pour l’économiste, d’introduire des hypothèses de comportement des acteurs supplémentaires par rapport à la seule transitivité des préférences. Quel doit être alors le statut de ces hypothèses de comportement ? Faut-il les intégrer à une hypothèse de rationalité ou non ? On est là partagé entre deux tentations : d’un côté, dans les termes classiques de Hume, cela ne devrait pas être légitime puisque ces comportements typiques relèvent du choix des « fins ». Mais, de l’autre, il apparaît que ce comportement obéit à des « raisons » qui n’ont pas un caractère aléatoire, et que l’on est tout de même tenté d’associer à un critère de rationalité synonyme, dans les faits, de norme de décision à validité interpersonnelle.

Les difficultés sont augmentées dans la mesure où, dans certains cas, il n’est pas évident de savoir où est localisée exactement l’idée de rationalité. Si l’on prend l’exemple du fameux paradoxe du vote, où le fait d’aller voter dans une élection de grande dimension est présenté comme contraire à un comportement rationnel, car le but du vote n’est pas obtenu par la démarche de celui-ci, quelle est l’idée de rationalité sous-jacente qui est ici mobilisée ? Faut-il y introduire des considérations de coût et d’avantage ? On peut lire la situation, en effet, de deux points de vue relativement distincts. D’un côté, on sait que le vote individuel n’obtient pas le résultat visé, puisqu’une voix ne fait pas de différence. On en déduit alors que le calcul coût/avantage doit déconseiller une telle démarche puisqu’il est coûteux d’aller voter et que le vote n’apporte aucun bénéfice. Pourtant, les deux interprétations ne sont pas congruentes. En effet, si l’on retient le seul aspect de l’efficacité, qui est un problème réel, il n’a pas à être traduit nécessairement en un rapport coût/avantage puisqu’on ne peut exclure que le plaisir d’aller voter soit au bout du compte supérieur au coût, lors même que le résultat visé ne serait pas obtenu.

On peut essayer d’abord, au regard de phénomènes sociaux particuliers, de préciser ce qui relève directement d’une analyse coût/avantage de ce qui s’en distingue. Prenons l’exemple de la peine de mort. Ses défenseurs peuvent obéir à trois types de motifs, auxquels auront à répondre ses détracteurs sur le terrain même de ces motifs. La défense de la peine de mort peut être entreprise par des acteurs, soit 1 / au nom de sentiments de vengeance considérés comme inévitables ; 2 / soit au nom d’arguments moraux basés sur une notion de réciprocité : s’il a tué on le tuera ; soit, enfin, 3 / sur une appréciation du caractère dissuasif de cette sanction, destinée à imposer des pénalités très fortes à ceux qui ne respecteraient pas certaines règles. On voit, dans cet exemple, que le troisième registre peut relever spécifiquement d’une analyse en termes de coût et d’avantage par rapport aux deux autres ; aussi bien du point de vue du promoteur de la sanction que du point de vue de son destinataire éventuel qui est supposé être capable de faire un tel rapport coût/avantage. Certes, aussi bien les « sentiments » (de vengeance ou de compassion) que les arguments moraux (incitant à la réciprocité du meurtre ou, au contraire, à la nécessité du respect de la vie) peuvent, formellement, être intégrés à une fonction d’utilité individuelle caractérisant les préférences d’une personne donnée. Toutefois, on voit bien qu’il y a quelque chose comme une relation spécifique entre les coûts et les avantages qui est relativement distincte de ces deux dimensions (sentiments et valeurs morales) et qui peut donner lieu à une argumentation appropriée : on peut ainsi indiquer que la peine de mort n’est pas, statistiquement, efficace, en termes de prévention des crimes de sang. Dès lors, comme on constate l’existence de ceux-ci, il s’agit alors d’interpréter leur existence : les meurtriers font-ils un mauvais calcul coût/avantage, ou ont-ils une autre représentation des coûts et des avantages, ou obéissent-ils enfin à d’autres considérations que le coût et l’avantage, qui pourraient ressortir à des croyances ?

Autrement dit, il convient d’essayer, lorsque l’on parle de phénomènes sociaux particuliers, de préciser ce qui ressortit exactement à une relation de coût et d’avantage de ce qui n’en relève pas, pour tenter de comprendre ensuite à quel type de motifs les acteurs obéissent effectivement, par-delà une généralisation de la notion de coût et d’avantage qui pourrait conduire à y introduire n’importe quelle variable, et être ainsi à la limite tautologique. Une fois que l’on a localisé des coûts et avantages spécifiques, pour une catégorie d’acteurs, par rapport à d’autres dimensions possibles de l’action, on pourra modéliser les conséquences d’un tel comportement dirigé uniquement par un calcul coût/avantage.

Un des résultats les plus célèbres et les plus importants de ce type d’analyse tient à l’émergence des normes dites de « dilemme du prisonnier » [16]. Ce qui importe à l’analyste dans ce cas, c’est de montrer le type de conditions restrictif à partir desquelles une telle émergence des normes se produit. Le modèle est puissant, mais ses conditions sont particulières.

La mise en évidence d’un tel modèle ne signifie pas pour autant que, lorsque certains acteurs adoptent de telles normes, si d’autres justifications de celles-ci sont possibles en droit, ils respectent ces normes précisément et uniquement pour des motifs relevant des coûts et des avantages : par exemple, alors même qu’il semble évident que la peine de mort n’est pas efficace d’un point de vue dissuasif, on peut très bien être opposé à celle-ci pour d’autres motifs que cet échec dissuasif. Si les conditions restrictives présupposées par les modèles d’émergence des normes en termes de coût et d’avantage ne sont pas réunies, et qu’il y a néanmoins respect de normes, il faudra alors essayer de comprendre pourquoi et au nom de quoi celles-ci sont mises en place.

Ces coûts et ces avantages peuvent avoir alors deux statuts distincts. Ils peuvent d’un certain côté, comme on le disait précédemment, dépendre, dans leur constitution propre, de normes antécédentes : par exemple, un peuple se bat pour l’augmentation de son territoire à partir même de la croyance qu’il est un peuple défini potentiellement en conflit avec ses voisins. De même, des familles peuvent estimer qu’il est de leur intérêt d’avoir des garçons plutôt que des filles à partir de l’existence d’une norme favorisant la naissance de garçons.

Au contraire, on peut intégrer sous cette notion de coûts et d’avantages des préférences tendanciellement typiques et qui ont un caractère transculturel. Peut-on en définir le registre avec précision ? Dans certains cas, cela est assez évident. Par exemple, si les individus s’engagent dans un jeu de hasard, dont la finalité même est le gain, on pourra comparer différents jeux dans les termes de leur caractère plus ou moins avantageux (mais on ne pourra pas exclure que les acteurs veuillent jouer des jeux qui soient où il y ait de faibles chances de gain). Au contraire, il y a des motifs que l’on tend à inclure dans le registre des coûts et des avantages typiques qui ont un statut beaucoup moins clair : peut-on parler d’une préférence typique pour un revenu plus élevé, toutes choses égales par ailleurs (ce qui impose déjà une clause fortement restrictive) ? Certes, on est tenté de le faire : mais on n’a pas ici la clarté d’un cas comme celui d’un jeu où les coûts et les avantages sont déduits de la définition même du jeu.

On doit alors reconsidérer la notion de rationalité. La rationalité intervient dans un calcul coût/avantage à partir du moment où, le but étant la maximisation de l’avantage, une solution maximisatrice peut être mise en évidence qu’il est rationnel de sélectionner : critère de meilleur choix d’un point de vue interpersonnel. Mais, à partir de là, il est erroné (que ce soit pour célébrer cela, pour le dénoncer) de réduire les potentialités de l’idée de rationalité à ce type de sélection. La notion de rationalité a des vastes possibilités qui peuvent conduire à des critères de choix plus sophistiqués. Si, par exemple, on est contre la peine de mort pour des motifs autres que le caractère peu dissuasif, en moyenne, de celle-ci, il est absurde de considérer que l’on doit alors être considéré comme irrationnel : soit parce que l’on aurait une préférence arbitraire, soit parce que l’on aurait intériorisé une norme sociale. Il me paraît important au contraire, dans l’analyse des sciences sociales, de renouveler la notion de rationalité, afin de trouver des critères qui permettent de rendre compte des « bonnes raisons », suivant l’expression de R. Boudon [17], de faire certains choix normatifs, bonnes raisons qui ne relèvent ni d’un calcul coût/avantage dans un sens spécifié de manière précise, ni d’une intériorisation de normes sociales préalables [18]. Ces bonnes raisons interviennent dans le cadre de la constitution de croyances. Celles-ci conduisent, en amont, à favoriser quelquefois le choix de son intérêt ou, au contraire, à le limiter. Il y a là un vaste programme qui n’est plus celui de cet article. Il consiste toutefois à souligner que la rationalité instrumentale n’est qu’une application locale d’une notion de rationalité plus englobante, et il s’agit alors de préciser les conditions d’intervention de cette notion de rationalité [19].