Informations sociales
CNAF

I.S.B.N.sans
186 pages

p. 140 à 149
doi: INSO.150.0140

Veille sur la revue
Veille sur l'auteur
Vous consultez

Partie 3 : Les niveaux territoriaux de l'évaluation

n° 150 2008/6

2008 Informations sociales Partie 3 : Les niveaux territoriaux de l’évaluation

L’organisation de l’évaluation dans les collectivités locales

Magali Bencivenga Responsable du pôle évaluation au conseil général des Bouches-du-Rhône, elle a co-écrit, avec Christophe Ruprich-Robert, Évaluation des politiques publiques : nouveau guide pratique, publié en 2002 aux éditions Lettre du cadre territorial, et, avec Vincent Potier, Évaluation des politiques locales, publié en 2005 aux éditions Le Moniteur.
Quel est concrètement l’impact du développement de la démarche évaluative pour les collectivités locales ? Elle a, sans conteste, transformé les modes de gestion et de pilotage d’une action publique qui se modernise et contraint les collectivités territoriales à s’ouvrir sur l’extérieur.
Quel est concrètement l’impact du développement de la démarche évaluative pour les collectivités locales ? Elle a, sans conteste, transformé les modes de gestion et de pilotage d’une action publique qui se modernise. Elle contraint les collectivités territoriales à s’ouvrir sur l’extérieur, qu’il s’agisse de mieux connaître les cultures d’autres institutions ou d’être au plus près des besoins des citoyens. Cette posture nouvelle participe d’une construction du savoir par l’action.
L’évaluation des politiques publiques, en France, illustre parfaitement la métaphore du verre à moitié plein et du verre à moitié vide. Du côté du verre à moitié vide, on regrette, pêle-mêle, que seules 57 % des collectivités interrogées affirment réaliser des évaluations (SFE/Spirit, 2007) ; que la démarche n’en finisse plus de chercher à s’enraciner dans le terreau national et que les experts, chercheurs et évaluateurs ne cessent de débattre sur les délimitations, positives ou négatives, de la notion. Du côté du verre à moitié plein, en revanche et en désordre, on se réjouit de la permanence de la thématique de l’évaluation dans le discours relatif à la modernisation de la gestion publique, signe d’une mutation profonde dans l’appréhension de l’action publique ; on se félicite que les collectivités locales soient de plus en plus nombreuses à créer des services, des directions et des missions en charge de l’évaluation, et on estime que toute évaluation réalisée, aussi non académique soit-elle, pourvu qu’elle respecte quelques règles fondamentales, est une avancée vers la construction novatrice d’un « savoir pour l’action » (Lièvre, 2002, p. 13).
N’en déplaisent aux orthodoxes de l’évaluation, il me semble qu’il faut défendre l’idée que, plus qu’une méthode, l’évaluation est une certaine posture, un certain regard porté sur l’action publique. Un regard qui scrute tout à la fois les objectifs, les réponses, les besoins et les acteurs d’une politique et d’un territoire et qui s’inscrit dans une temporalité particulière, ne serait-ce que par la durée des missions. La posture évaluative est ainsi plutôt novatrice dans les cadres traditionnels de la « pensée logique » de l’administration locale : elle est à part.
Plus qu’un effet de mode, comme pourrait le suggérer – à tort ou à raison – l’actualité récente (avec la révision générale des politiques publiques, par exemple) ou plus ancienne (avec la Loi organique relative aux lois de finances, dite Lolf, du 1er août 2001), la démarche évaluative atteste d’une transformation dans les modes de gestion et de pilotage des collectivités locales. Aussi, pour ancrer durablement la démarche, il importe de mettre en place un dispositif souple et adapté aux contraintes locales qui sache fuir le dogmatisme et user de pragmatisme.
 
Un outil de modernisation de la gestion publique locale
 
 
• Du système de pilotage au système de pilotage stratégique
Dans un environnement de plus en plus incertain et dans un contexte de raréfaction des ressources, il apparaît impératif pour les collectivités locales de disposer d’un système de pilotage stratégique global et performant.
L’objectif d’un système de pilotage est de fiabiliser les informations et de veiller à l’application des objectifs des élus et de la direction générale. Le système participe aussi au développement d’une culture de gestion et de management commune à l’ensemble des services et des directions. Son existence contribue à diminuer les zones de risque de toute nature qui pèsent sur la gestion locale, qu’il s’agisse du risque financier (maîtrise des équilibres et des coûts), du risque juridique (légalité des actes, respect des formes), du risque externe (étude financière, juridique et sociale des satellites), du risque managérial (motivation des agents) ou du risque politique (respect des engagements et écoute sociale).
Traditionnellement, ce sont d’abord les logiques de contrôle interne et externe qui guident l’élaboration des outils mis en place et la culture de gestion diffusée dans les collectivités. La première s’articule autour de la normalisation des procédures de gestion et de la construction d’indicateurs de type opérationnel et s’attache à veiller au respect de la régularité. La seconde se concentre sur l’étude des relations (juridiques, financières…) entre l’institution et les organismes partenaires.
De nombreux éléments incitent aujourd’hui à l’enrichissement des systèmes existants pour qu’ils deviennent de véritables outils de pilotage stratégique au service des décideurs. L’évaluation des politiques publiques, par les fonctions qu’elle remplit, s’intègre dans cette démarche de modernisation.
Parmi les éléments qui poussent au développement de nouvelles formes de pilotage et en exceptant les évolutions de la réglementation, on peut citer : la diversification des missions dévolues aux collectivités locales, sous l’action conjuguée des effets de l’acte II de la décentralisation et de l’évolution des besoins sociaux dans un contexte de raréfaction des ressources. Ensuite, une attention toujours plus vive est portée, par les citoyens, à la qualité du service rendu. S’ajoute le leitmotiv de la transparence, de la concertation et de la participation, dans le cadre de la modernisation des services publics et de la réforme de l’État. Il se traduit, par exemple, par la revendication d’une plus grande participation des citoyens à la définition des choix publics et par le développement de formes plus ouvertes et contradictoires de décision.
L’action publique locale se trouve ainsi transformée, sous l’effet cumulé de l’introduction de la logique de projet (avec la détermination d’objectifs et de moyens pour les atteindre), du développement des partenariats et de la dynamique des territoires. Selon Hubert Hubrecht et Sylvain Mage (2003), la conception moderne de l’action publique locale induit de nouveaux modes de contrôle fondés non plus seulement sur la légalité mais aussi sur la pertinence, l’efficience ou l’efficacité des actions.
Le système de pilotage modernisé doit alors se structurer autour des thématiques de gestion (contrôle de l’activité, du coût, du respect des règles juridiques et comptables…), d’organisation (détection des dysfonctionnements de type organisationnel ou procédural), de prévention des risques (externes ou internes) et d’aide à la décision stratégique (segmentation stratégique en politiques publiques, définition et contrôle des objectifs…). Ainsi, l’évaluation menée dans le respect de la transparence, du pluralisme, de la rigueur et de l’indépendance est susceptible de constituer un des outils essentiels de la modernisation de la gestion locale. Elle satisfait aux attentes exprimées en la matière et peut être considérée comme faisant partie intégrante d’un système de pilotage devenu « stratégique », qui repose sur la complémentarité entre les référentiels et les outils issus de diverses démarches (analyse organisationnelle, audit, démarche qualité…).
• Une démarche au service de la stratégie locale
Inspirée des définitions normatives, et successives, de l’évaluation (notamment le décret du 18 novembre 1998 abrogeant celui du 22 janvier 1990, la circulaire du 28 novembre 1998 relative à l’évaluation des politiques publiques ou les définitions de la Commission européenne), une des définitions opérationnelles présente la démarche comme un examen objectif et systématique de la manière dont les actions mises en Å“uvre par l’organisation répondent aux besoins sociaux et respectent les lois et réglementations, dont les ressources sont acquises, conservées et utilisées, et dont les objectifs sont atteints ou, éventuellement, méritent d’être modifiés. Ladite démarche offre aux dirigeants la possibilité de réfléchir sur les politiques déployées, de connaître le ressenti des bénéficiaires sur celles-ci et les besoins des citoyens.
À chacune des attentes exprimées par un système de pilotage ambitieux peut répondre une des fonctions de l’évaluation. Cette dernière recoupe les préoccupations éco- nomiques, politiques, managériales et sociales qui sous-tendent la modernisation du système.
En premier lieu, elle « donne de la valeur », produit du sens et des connaissances concernant l’objet évalué, dans une temporalité déliée des contraintes de l’urgence du quotidien. Selon le rapport parlementaire du 27 janvier 1999 sur l’efficacité de la dépense publique et le contrôle parlementaire, elle vise à « énoncer, sur une politique ou un programme spécifique, un jugement basé sur une information rigoureusement collectée et débouchant sur une réelle connaissance d’un phénomène ». Elle rend compte, et, si elle n’est pas réduite à un simple alibi pour les décideurs, elle peut constituer, dans le contexte actuel tendant à décrédibiliser les fondements traditionnels de l’action administrative, un instrument de légitimation de l’action publique. Elle contribue aussi à diminuer l’asymétrie informationnelle (Bordone, 2002) entre acteurs d’une même politique publique et revêt une dimension de dialogue, de négociation et d’apprentissage.
Ensuite, elle aide la prise de décisions. Ex ante, elle permet d’identifier les problèmes et les cibles. In itinere, elle s’évertue à apprécier les choix opérés. Ex post, elle éclaire les choix faits et à venir.
Enfin, en encourageant la collectivité à être critique vis-à-vis de son action, elle crée les conditions d’une plus grande capacité d’anticipation et de prévention, limitant les risques de situations difficiles, et sert la réflexion stratégique locale.
 
Fuir le dogmatisme et user de pragmatisme
 
 
Une fois réfléchie, la démarche évaluative doit être intégrée à la culture locale. Ce qui repose non seulement sur une volonté et un engagement forts de la part de l’équipe dirigeante mais aussi sur la capacité de la collectivité à imaginer un mode d’intervention adapté à sa propre organisation et à son environnement. L’évaluation nécessite d’être « apprivoisée ». Dès lors, il s’agit moins de défendre une position dogmatique que de proposer une démarche pragmatique, c’est-à-dire progressive, souple, évolutive et systématisée. Organiser et implanter un système, certes modeste mais ambitieux et réactif, constitue un gage de succès du projet.
• Intégrer la démarche
Le dispositif d’évaluation est d’autant plus inspiré qu’il sait tirer partie des échecs – supposés ou réels – des expériences conduites au niveau national ou local et repérer les « bonnes pratiques ».
Pour organiser de façon efficace les modalités de mise en Å“uvre de la démarche au sein de la collectivité, l’une des premières tâches consiste à recenser les principaux freins en matière d’évaluation des politiques publiques, à partir d’un travail documentaire (recherche de doctrines et d’expériences d’autres collectivités ou services de l’État). Une fois reconnus, ils constituent les écueils à éviter pour anticiper les éventuelles futures difficultés. À chaque frein repéré correspondent une ou plusieurs bonnes pratiques.
Ainsi, l’une des difficultés rencontrées par l’évaluation réside dans la méconnaissance des finalités de l’exercice et dans la faible visibilité de la démarche. Les critiques émises à l’encontre de l’évaluation comme étant une sanction, ou encore la confusion et l’émoi engendrés par les notions de « performance » et de « culture du résultat » relèvent de ce cas de figure. Ce frein peut être levé, par exemple, en choisissant, dans un premier temps, de faire de l’évaluation un outil de gestion interne avant d’être un outil de débat public. Il faut aussi étayer la culture de l’évaluation, au sein de la collectivité, par des formations et par des communications avant, pendant et après la réalisation des missions.
Un autre reproche porte sur le décalage entre le temps de l’évaluation et celui de la décision. Une solution consiste à promouvoir des évaluations « sur mesure », dont le cahier des charges reformule et cible systématiquement la demande. Il est aussi nécessaire d’impliquer les élus dans le processus évaluatif et de veiller à faire partager une culture commune, qui intègre le temps de l’évaluation.
La non-exploitation des résultats constitue une critique récurrente qui peut être dissipée en utilisant l’évaluation comme un facteur d’apprentissage organisationnel. Nous devons accepter que le processus évaluatif lui-même – et les obstacles qu’il rencontre – sont parfois plus riches d’enseignements que les résultats de l’évaluation. Dans les contraintes du quotidien, rares sont les opérations qui, comme les évaluations, permettent aux acteurs d’adopter une posture réflexive.
Enfin, les élus locaux sont parfois réticents à la démarche, considérant que la seule évaluation à laquelle ils doivent se soumettre est celle du vote des citoyens. Face à cela, il faut impliquer les élus et faire preuve de pédagogie, notamment en matière de commande d’évaluation.
En outre, l’intégration de la fonction évaluative dans la gestion globale de la collectivité suppose que les acteurs soient identifiés, que le cadre d’intervention soit défini, que la démarche soit formalisée, que la culture d’évaluation soit diffusée et que les évaluations soient elles-mêmes régulièrement évaluées – ce sont les méta-évaluations. Ce qui implique de clarifier et d’afficher le rôle et le positionnement de la fonction évaluative dans l’institution, de mettre en place des mécanismes régulateurs (instances de pilotage, instances scientifiques) ainsi que de définir et de formaliser le cadre d’intervention (à travers les programmes des missions, les procédures, les mécanismes de rétroaction…).
La création d’un pôle Évaluation des politiques publiques par le conseil général des Bouches-du-Rhône, en 2005, marque l’avènement d’une réflexion mûrie pendant près de trois ans. Cet affichage témoigne d’un engagement fort et volontaire de la collectivité. Ainsi, outre les documents relatifs, par exemple, aux modalités d’implantation de la démarche, produits par ce qui deviendra le pôle d’évaluation, la collectivité a affirmé, entre autres, au cours de séminaires de cadres et de façon récurrente, le nécessité de la « mise en place d’une véritable démarche d’évaluation de [ses] politiques locales » (« Le sens de notre action », document interne, juin 2003), ou encore que « la démarche évaluative contribue à développer en interne des outils de gestion, des outils d’aide à la décision, des outils de management et de communication complémentaires à ceux mis en place par le contrôle de gestion “classique” » (Stratégies concrètes, document interne, 2003).
• Systématiser la démarche
Une fois intégrée, il convient de formaliser et de systématiser la fonction évaluative dans un document (cadre de référence, protocole…) qui donne corps à la démarche. Celui-ci peut poser les principes d’action, rappeler les objectifs du travail évaluatif et les pratiques qui favorisent les bonnes conditions de réalisation d’une mission d’évaluation et d’appropriation de la démarche. Parmi ces pratiques, on relèvera la mise en place d’un dispositif léger et adaptable aux objectifs poursuivis par la mission ainsi que la mobilisation de ressources internes et externes ; celles-ci constituent des relais opérationnels et méthodologiques précieux pour la démarche et pour les modalités de son accompagnement.
Il est intéressant que le dispositif prévoie plusieurs niveaux d’évaluation possibles en fonction de la commande et du temps de réalisation imparti (par exemple, avec ou sans préconisations), qu’il détermine la composition et le rôle des comités de pilotage et qu’il précise les modalités de définition et de passation de la commande. En outre, il peut être complété par la constitution d’une « boîte à outils », contenant, par exemple, des modèles d’enquêtes, des trames d’analyses adaptables en fonction des missions et mobilisables autant que nécessaire, des données contextuelles générales, etc.
Le pôle Évaluation a élaboré un document intitulé « Protocole d’évaluation », qui sert de cadre de référence à la démarche et présente les principes d’action (objectifs, approche, déontologie, conditions d’une bonne évaluation), le dispositif (commande, acteurs) et la procédure d’évaluation des politiques publiques.
Le dispositif d’évaluation exposé dans le protocole souhaite tenir compte à la fois du contexte favorable et des freins, en prônant une démarche qui se veut souple, légère et systématique. Ainsi, ce document précise que « l’organisation doit rester souple en fonction de l’environnement et des objectifs poursuivis. Il importe donc de faire de l’évaluation une démarche adaptable. (Cette souplesse doit permettre, par exemple, l’adaptation du cahier des charges au cours de l’évaluation.) ».
Par ailleurs, un programme de travail pluriannuel est élaboré par le pôle, puis validé par la direction générale. Il est susceptible d’être réorienté, le cas échéant, ou d’être doublé d’évaluations à la carte, en fonction des demandes ponctuelles et sous réserve de disponibilité de l’équipe (les externalisations n’étant, jusqu’à présent, envisagées que si elles sont partielles). Enfin, « l’impulsion de l’évaluation peut provenir indifféremment du président, des élus, du DGS [Directeur général des services], des DGA [Directeurs généraux adjoints] et des directions ou services en fonction de demandes ponctuelles ou du programme pluriannuel ». Mais il est prévu que son lancement relève du président du conseil général ou du directeur général des services, qui avalise l’évaluation en validant et en jugeant de l’opportunité de son lancement, au regard de la liste proposée en n-1 pour l’année n.
• Adapter la démarche
L’instauration d’un dispositif d’évaluation des évaluations contribue à garantir la qualité de ces dernières autant que la normalisation des rapports d’évaluation (standardisation) et des missions (procédure) ainsi que la mise en place de mécanismes régulateurs (comité de pilotage).
Rappelons que la qualité d’une évaluation ne saurait se réduire à celle de la méthode engagée. L’évaluation correspond à une exigence de compte rendu et de suivi. Elle est un facteur à la fois de compréhension et de progrès interne (élaboration de la stratégie) et de connaissance et de reconnaissance de l’action départementale (communication institutionnelle et information sur la gestion publique). Outil d’aide à la décision, elle doit éclairer les choix des décideurs sur la base d’une argumentation motivée. Certes, la réussite d’une évaluation implique qu’elle soit suivie d’effets. Cependant, le processus d’évaluation peut, en lui-même, être porteur de changements à venir, selon l’adage qui veut qu’évaluer une politique publique, c’est aussi se demander comment la rendre évaluable.
Ainsi, en 2008, se sont achevées les missions du premier programme d’évaluation, dont le bilan doit permettre d’adapter, en retour, non seulement le protocole pour réajuster les « bonnes pratiques » mais aussi les outils et démarches déployés, allant de la technique d’enquête jusqu’à la formalisation même du rapport.
Parmi les critères d’appréciation de la qualité d’une évaluation, on retient traditionnellement la transparence, la concertation, la généralisation, la méthode et l’utilité. La transparence s’intéresse à la documentation, aux limites et aux modalités de diffusion des résultats. La concertation s’attache au réseau d’acteurs concerné par la mission. La généralisation permet de tenir compte des variables de l’environnement susceptibles d’influer sur les résultats. Quant à la qualité méthodologique, elle est un gage d’objectivité et de fiabilité. Elle implique, entre autres, la distanciation, la neutralité, la rigueur des méthodes. Enfin, pour être utile, l’évaluation doit apporter des réponses compréhensibles pour les décideurs et mobilisables.
***
Selon Pascal Lièvre, la démarche évaluative se définit comme la construction d’« un savoir pour l’action » et « le statut de cette connaissance pose question. La science a développé une réflexion approfondie, depuis trois siècles, sur un savoir particulier que l’on peut désigner comme une connaissance pour la connaissance. Ce changement de finalité du savoir en transforme profondément la nature. On prend conscience depuis peu que l’on ne peut pas utiliser les principes de la science classique – la connaissance pour la connaissance – pour construire un savoir pour l’action. L’élaboration d’un savoir pour l’action réclame d’autres fondations » (Lièvre, 2002, p. 13). La construction du savoir pour l’action, qui donne de la valeur à l’action publique modernisée, articulée sur les concepts de politiques publiques, de régulation et de gouvernance, est une posture nouvelle.
Pour évaluer leurs politiques et véritablement enraciner leur démarche dans la culture locale, les collectivités doivent imaginer et créer des dispositifs qui permettent non seulement de mesurer et de juger mais aussi de donner de la valeur à leurs actions. Si l’évaluation exige de la rigueur dans les analyses, dans la posture des évaluateurs et dans la définition de la phase de préparation de la mission, elle pousse aussi les collectivités à inventer de nouveaux cadres, à envisager des façons de croiser les regards et les visions. Elle demande, au sein de chaque collectivité territoriale, une forte implication et un travail d’acculturation de l’ensemble des institutions pour être véritablement intégrée et systématisée au processus décisionnel, selon une chaîne décision/exécution/évaluation, sans pour autant, bien sûr, réveiller le mythe de la linéarité de la rationalité du processus décisionnel.
Elle génère un nouveau temps de l’action et un nouvel espace où se confrontent les logiques internes et externes, individuelles et collectives, privées et publiques, où pourra être réfléchie la chose publique. Et, surtout, elle ouvre les collectivités sur l’extérieur en plaçant le citoyen au cÅ“ur de l’action.
Additionnons cette posture novatrice et ouverte à l’inventivité des dispositifs, rien d’anormal à ce que la démarche soit riche et encore balbutiante. N’en jetons plus, le verre est décidément à moitié plein…
 
BIBLIOGRAPHIE
 
·  Bordone J., 2002, « L’Évaluation des politiques publiques comme réducteur de l’asymétrie informationnelle », Contribution au colloque « L’évaluation au service de la stratégie publique ? » de la Société française de l’évaluation.
·  Hubrecht H. et Mage S., 2003, « Action publique et décentralisation », La Gazette des communes, 5 mai.
·  Lièvre P., 2002, Évaluer l’action sociale, Rennes, ENSP.
·  Société française de l’évaluation (SFE)/ Science politique, relations internationales, territoires (Spirit), 2007, Enquête sur l’évaluation des politiques publiques à l’échelle des territoires, wwww. sfe. asso. fe/fe/journees/l-evaluation-a-l-echelle-territoires.htlm
© Cairn.info 2009 Vie privée | Conditions d’utilisation | Conditions générales de vente
Cairn.info | Éditeurs | Bibliothèques | Aide à la navigation | Plan du site | Raccourcis