2005
Revue d’économie du développement
Évaluer l’impact des programmes d’aide au développement : le rôle des évaluations par assignation aléatoire. Commentaires
Elisabeth Sadoulet
Université de Californie à Berkeley
Je voudrais d’abord féliciter Esther pour cette excellente revue de l’état des connaissances sur les méthodes d’analyse d’impact des projets et programmes de développement. Cette revue bénéficie de l’expérience considérable qu’Esther a du sujet ainsi que des contributions à la fois méthodologiques et pratiques qu’elle a faites à l’analyse d’impact. Les commentaires qu’elle propose sur l’avantage de l’évaluation par assignation aléatoire, mais aussi sur les difficultés de sa mise en Å“uvre, et les recommandations qu’elle fait sur différentes façons de dépasser ces difficultés sont très importants pour le progrès de l’analyse d’impact.
Je vais limiter mes commentaires à six observations complémentaires à la présentation d’Esther. Elles découlent des expériences que j’ai eues avec les analyses d’impact de programmes tels que Progresa et la Stratégie de Micro-Régions au Mexique, Bolsa Escola au Brésil, des projets de micro-finance au Guatemala, et des programmes de soutien aux organisations de producteurs au Burkina Faso et au Sénégal. Ces commentaires concernent les aspects suivants :
- Le besoin de transformer l’analyse d’impact d’un bien public international en un bien partiellement privé afin de justifier la prise en charge au moins partielle du coût de l’évaluation par le projet.
- Le besoin d’être clair sur les objectifs servant de référence pour l’évaluation, en particulier quand le programme est participatif et que les priorités procèdent donc d’un choix endogène des participants.
- Le besoin d’étendre les dimensions expérimentales du projet, et de procéder de façon séquentielle selon une logique Bayesienne pour répondre à une gamme de questions utiles à l’amélioration du projet.
- Le rôle important de la calibration de modèles structurels avec des expériences pilotes afin d’explorer par simulation l’impact d’instruments et le rôle de différents contextes qui ne pourraient être analysés par l’expérimentation.
- Le potentiel important et sous-utilisé de données administratives pour l’évaluation aussi bien prospective que rétrospective de programmes.
- Le besoin de considérer l’économie politique de la mise en Å“uvre des programmes comme un aspect fondamental de leur succès.
1. Passer d’un bien public international à un bien privé avec des externalités positives
Tant qu’elle restera un bien public international, l’analyse d’impact de projets sera toujours très sous-financée, malgré les exhortations des universitaires et des planificateurs sociaux à l’échelle mondiale faisant valoir les importants bénéfices de ces études. La raison principale est la logique implacable du passager clandestin en ce qui concerne l’offre de biens publics. Cela se voit dans les propres pratiques de la Banque mondiale. De grand projets comme le soutien à la réforme agraire par des subventions aux transactions de marché au Brésil (Credito Fundiario) qui a absorbé 2 à 3 milliards de dollars, ou les programmes de développement communautaires (Community Driven Development ou CDD) qui absorbent à l’heure actuelle un quart des déboursements de la Banque mondiale, restent sans évaluation fiable.
L’autre raison pour laquelle les évaluations d’impact sont considérées comme des biens publics internationaux est que leurs résultats arrivent en général trop tard pour être utiles aux projets eux-mêmes. Il n’est pas surprenant que les responsables de projets n’expriment aucun intérêt à payer le coût des évaluations s’ils n’en bénéficient pas. Il en est de même des membres du gouvernement dont le temps politique est plus court que le temps nécessaire aux évaluateurs pour fournir des résultats.
Deux changements sont donc nécessaires à l’incorporation dans les projets des bénéfices de l’évaluation, et à la création de ce fait d’incitations pour que les projets financent au moins une partie des coûts de leur évaluation.
1.1. Fournir des résultats en temps réel par rapport au dénouement du projet
L’évaluation doit être organisée pour que des résultats à court terme soient disponibles et transmis aux responsables de projet alors que le projet est encore en activité. Cela demande d’être vigilant, comme le remarque Esther, à ne pas confondre résultats à court terme et résultats à long terme. Dans certains cas mêmes, des résultats à court terme peuvent être obtenus au détriment de résultats à long terme. On peut cependant souvent définir des indicateurs d’impact à court terme utiles à l’amélioration d’un projet. C’est probablement plus facile pour des projets bien circonscrits, comme les projets de soutien scolaire, que pour des projets plus amples, comme ceux dont le but est de réduire la pauvreté ou la dégradation de l’environnement.
1.2. Insérer l’évaluation dans un système de gestion par les résultats
L’évaluation d’impact peut être conçue avec un double objectif :
- Celui de rendre des comptes aux bailleurs de fonds. C’est l’objectif le plus courant des évaluations. Pour remplir cet objectif, l’évaluation doit être faite par des auditeurs externes et toutes les informations utilisées doivent être vérifiables par des tierces parties.
- Celui de contribuer à un processus d’apprentissage et d’amélioration du projet. Pour cela, l’évaluation doit faire partie d’un système participatif qui implique les membres de l’organisation pour l’obtention d’information sur les indicateurs de succès et d’échecs, et pour l’internalisation des résultats d’impact dans le fonctionnement et les pratiques de l’organisation.
Ces deux objectifs de l’évaluation ne sont pas incompatibles, mais ils sont rarement mis en pratique de façon conjointe. Pour ce faire, il faut pouvoir impliquer dans l’évaluation à la fois les auditeurs externes et le personnel du programme, et s’assurer que l’objectif de mesure d’impact pour les bailleurs de fonds n’est pas perverti par l’objectif de gestion pour le programme lui-même. Le succès de cette méthodologie d’évaluation conjointe permettrait de faire bénéficier l’organisation des résultats de l’évaluation, et donc d’inclure dans le budget du programme une partie des coûts de cette analyse.
2. Définir les objectifs des programmes comme critères d’évaluation
Les programmes participatifs ont potentiellement beaucoup d’avantages. Ils permettent l’accès à l’information locale et la mobilisation du capital social. Ils se donnent souvent comme objectif additionnel l’amélioration de la capacité de gestion des participants eux-mêmes par l’expérience participative. Les exemples bien connus de cette approche sont les projets de développement communautaires (CDD) et les approches participatives au niveau du village. Dans ces cas, la délégation aux agents du choix des objectifs des projets fait partie de l’approche elle-même.
Quels objectifs peut-on utiliser comme référence pour l’évaluation de tels programmes : ceux des bailleurs de fonds, ou ceux choisis par les membres de la communauté ? Laisser les membres de la communauté définir leurs propres objectifs et ensuite utiliser ces mêmes objectifs pour une évaluation de performance crée un dilemme, du fait que différentes communautés se choisissent des objectifs inégalement difficiles à atteindre. Mais le pire demeure le cas où l’évaluateur externe définit ex post des critères d’évaluation qui ne correspondent pas à ceux des participants au programme.
On rencontre aussi cette difficulté lors de l’évaluation de programmes aux objectifs multiples. Même pour l’évaluation de quelque chose d’aussi simple qu’un programme de transferts monétaires conditionnels, comme Progresa, certains évaluateurs retiennent un objectif de revenu (effet sur la réduction de la pauvreté) alors que d’autres interprétant le programme comme une subvention aux prix d’une activité particulière (par le biais de la conditionnalité), retiennent comme critère principal l’augmentation de cette activité (augmentation de l’éducation, dans le cas de Progresa).
3. L’élargissement des dimensions de l’évaluation
L’expérimentation dans des programmes avec assignation aléatoire tels que Progresa est en général trop étroite : elle concerne uniquement les effets de la participation/non-participation, et non des conditions de la participation. Il existe cependant des aspects importants de ces programmes sur lesquels il serait utile d’expérimenter, comme par exemple le niveau optimum du transfert pour maximiser le taux de participation des populations ciblées, le choix des ménages éligibles, le ciblage au niveau des individus ou des communautés, le genre de celui qui reçoit les transferts, la présence de programmes complémentaires pour maximiser les effets multiplicateurs des transferts, etc.
Comme on manque en général de degrés de liberté pour expérimenter de façon simultanée dans des dimensions multiples, il est nécessaire de procéder de façon séquentielle en suivant une approche Bayesienne, s’inspirant des méthodes utilisées par les entreprises pharmaceutiques pour la validation de nouveaux médicaments : poser une question, organiser une expérience pour y répondre, et passer à la question suivante dès qu’une réponse statistiquement valable est donnée à la première question. Il est fort probable qu’il ne soit pas nécessaire de soutenir des transferts conditionnels d’un montant donné pendant trois ans pour mesurer leur impact sur l’inscription à l’école. Dans le cas de Progresa, par exemple, il aurait dû être presque immédiatement évident que des transferts n’étaient pas nécessaires pour augmenter la participation à l’école primaire. Par contre, expérimenter avec différentes règles de ciblage (par exemple cibler les enfants les plus à risque de ne pas aller à l’école, en particulier ceux qui habitent loin d’une école secondaire) et avec la calibration des transferts pour l’ajuster à la condition particulière de différentes catégories d’enfants de façon à maximiser l’impact peut avoir des effets d’efficience très élevés, comme nous l’avons montré dans le cas de Progresa. Certains de ces effets peuvent être dérivés ex post sur la base d’aspects particuliers de la mise en pratique des programmes (comme par exemple l’existence d’un plafond aux transferts de Progresa qui résulte en des paiements inégaux entre enfants bénéficiaires), mais en général un plan expérimental bien fait est nécessaire pour faire cette analyse.
4. La calibration de modèles structurels
Même si l’on élargit l’éventail des questions posées par l’expérimentation et si l’on organise une analyse séquentielle pour y répondre de la façon la plus économique, il y a trop de dimensions à considérer pour pouvoir répondre à toutes de façon expérimentale. La construction de modèles structurels qui reproduisent les changements de comportement en réponse aux transferts selon la spécificité des contextes (y compris la présence de programmes complémentaires) reste une méthode en grande mesure sous-utilisée. Ces modèles devraient être calibrés sur la base d’expériences pilotes construites spécifiquement dans ce but. Ces modèles sont la seule façon de saisir les multiples dimensions de l’hétérogénéité ainsi que de capter les effets de long terme et d’équilibre général.
Un exemple d’application de cette approche est la construction d’un modèle structurel qui représente les décisions des ménages en réponse à Progresa pour explorer l’impact sur la scolarité de programmes complémentaires, tels que des programmes d’assistance aux enfants sans soutien à la maison et d’information sur les opportunités d’emploi offertes par l’éducation. Ces interventions complémentaires ne font pas partie du dessein expérimental de Progresa, et leur impact sur les décisions de scolarité ne pourrait donc pas être déduit de l’estimation de modèles en forme réduite.
5. L’utilisation de données administratives
La collecte de données reste une entreprise très coûteuse et exigeante en temps, ce qui limite le nombre, l’amplitude et l’utilité des évaluations d’impact. Dans bon nombre de situations, il existe cependant des données recueillies par le programme lui-même, en particulier s’il utilise une approche à la gestion par les résultats. Nous travaillons de cette façon avec plusieurs entreprises commerciales de micro-finance au Guatemala, utilisant leurs données administratives comme base pour l’évaluation de l’impact des réformes qu’elles ont introduites, comme par exemple l’utilisation de fichiers positifs (credit bureau) pour sélectionner leurs clients. On peut négocier avec les institutions avec lesquelles on travaille une modification de l’information qu’elles gardent sur leurs anciens clients ou sur les clients dont les demandes de crédit ont été refusées, et la collecte de variables exogènes additionnelles à celles qu’elles recueillent pour caractériser leurs clients. Des arrangements mutuellement bénéfiques peuvent être définis avec les institutions qui participent, en particulier si l’on peut leur donner des résultats en temps réel qui leur servent à renforcer leurs systèmes de gestion par les résultats. Ces données administratives peuvent être massives et donner aux chercheurs une dimension temporelle qui ne pourrait jamais être obtenue par des données d’enquête. Les bailleurs de fonds sont en bonne position pour négocier avec les institutions bénéficiaires la sauvegarde et l’accès aux données administratives. Des données administratives massives sont aussi disponibles au niveau des gouvernements locaux qui doivent satisfaire des exigences de transparence auprès du gouvernement national. Le Brésil offre un bon exemple de cette situation, avec les données administratives municipales disponibles sur l’internet.
6. Prendre en compte l’conomie politique de la mise en Å“uvre des projets
Bon nombre de projets sont mis en Å“uvre de façon décentralisée au niveau de gouvernements locaux ou à travers la participation active des bénéficiaires. Cela est dû au fait que l’information privée est en grande partie publique au niveau local, que le capital social peut être mobilisé pour l’exécution de projets, et que la responsabilité des élus locaux vis-à-vis de leurs électeurs peut en principe être plus réelle que celle de leurs homologues du gouvernement central. Il serait cependant naïf d’évaluer l’impact de projets sans prendre en compte les mécanismes d’économie politique qui en déterminent les résultats. Cela requiert une bonne connaissance des institutions locales et des rouages politiques locaux, des mécanismes de prise de décisions, de l’exercice de jeux d’influence, et du rôle que le clientélisme et les achats de votes jouent dans l’appropriation des rentes créées par les projets. Il faut recueillir des données pour cela au niveau institutionnel auquel se prennent les décisions (municipalités, conseils locaux, groupes d’intérêt). Au Brésil, Boisa Escola/Bolsa Familia délègue aux municipalités et à leurs conseils locaux la sélection des bénéficiaires. L’impact de ces programmes est donc façonné par les mécanismes de l’économie politique locale, ce qui conduit à des résultats hétérogènes selon les jeux d’influence locaux. Avec 5 300 municipalités engagées dans ce jeu, cela nous offre un laboratoire d’une très grande richesse pour observer les mécanismes de l’économie politique des projets en action. La compréhension de leur rôle est donc un élément incontournable de l’analyse d’impact des projets de développement.