Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014...

16
Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1 SOLEP atelier n°3 17 mars 2014 SOLEP

Transcript of Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014...

Page 1: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Atelier de l’évaluation n°3

Hébergé grâce à l’appui de l’Institut BEI

Le 17 mars 2014

1SOLEP atelier n°3 17 mars 2014

SOLEP

Page 2: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Pourquoi les ateliers?

Concepts de base

Les phases du processus d’évaluation

Apports des deux premiers ateliers

Atelier n°3

• Analyse

• Conclusions

• Recommandations

SOLEP atelier n°3 17 mars 2014 2

Plan Plan

Page 3: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Produire une évaluation crédible = construire de la confiance

Confiance plus facile si culture commune

SOLEP, EES, SFE, …: promoteurs de la culture d’évaluation

Culture commune• Langage commun => formation• Valeurs communes => standards, charte, …• Expérience commune => ateliers

Pourquoi les ateliers?

3SOLEP atelier n°3 17 mars 2014

Page 4: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Action

Jugement

Objectifs/problème

Résultats/objectifs

Résultats/coûts

Indépendance

RisquesIntrusion/subversion

Critères

Normes

Caractéristiques de l’évaluation…

SOLEP atelier n°3 17 mars 2014 4

Page 5: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Objet de l’évaluation:Les types action publique

Projet Ensemble d’interventions interdépendantes; budget et limites temporelles définis. => Un seul objet d’évaluation

Programme Ensemble cohérent d’interventions poursuivant le même objectif; budget et limites temporelles définis.=> Un ou plusieurs objets d’évaluation

PolitiqueEnsemble cohérent d’interventions poursuivant le même objectif; budget et limites temporelles non définis. => Un ou plusieurs objets d’évaluation

Intervention: investissement, règlement, réforme institutionnelle…

5SOLEP atelier n°3 17 mars 2014

Page 6: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

So

us le co

ntrôle

du

ma

ître d’o

eu

vreEfficacité

(le projet atteint)

Impact

(le projet contribue)

Pertinence

Problème / contexte

Activités

Objectifs

opérationnels

Objectif

spécifique

Objectifs

généraux

(Finalités)

Réalisations

obtenues

Résultats

Impacts

Efficience

Taux de réalisation

(le projet délivre)

So

us la resp

onsab

ilité

du m

aître d

’ouvrag

e

Moyens

6SOLEP atelier n°3 17 mars 2014

Page 7: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

? !Questions? Réactions!

SOLEP atelier n°3 17 mars 2014 7

Page 8: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Atelier 1 La commande (conception) (Atelier 1) La structuration

Atelier 2 Les constats

Atelier 3 L’analyse, les conclusions et les recommandations

Atelier 4 Evaluation et décision (qualité, utilité des évaluations)

8

Les phases de l’évaluation

SOLEP atelier n°3 17 mars 2014

Page 9: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Commande, enjeux évoqués:• Objet et champ de l’évaluation• Contexte de l’évaluation: pourquoi on évalue?• Choix de l’évaluateur• Rôle du Comité de pilotage

Structuration, enjeux évoqués:• Logique d’intervention• Formulation des QE• Concevoir des évaluations participatives?

Qu’avons-nous retenu de l’atelier 1?

9SOLEP atelier n°3 17 mars 2014

Page 10: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

A partir d’un exemple concret (BEREC)• Diversité et complémentarité des sources • Triangulation• Communication/dialogue

COPIL Parties prenantes

Qu’avons-nous retenu de l’atelier 2?

10SOLEP atelier n°3 17 mars 2014

Page 11: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

? !Questions? Réactions!

SOLEP atelier n°3 17 mars 2014 11

Autres commentaires sur ateliers 1 et 2?

Page 12: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Analyse: boule de cristal ou boîte noire?

Conclusions: Parachutage d'idées préconçues ou déductions logiques?

Recommandations: Conseils éclairés ou instructions irréalistes?

Que nous dit l’expérience?

12SOLEP atelier n°3 17 mars 2014

Analyse, conclusions et recommandations

Page 13: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Analyse en théorie

• Les constats permettent de donner des valeurs aux indicateurs pour répondre aux critères de jugement et ensuite aux questions évaluatives

• Objectif de l’analyse: répondre aux questions évaluatives sur base des constats

• Différentes méthodes (quantitatives ou non)

13

Analyse

SOLEP atelier n°3 17 mars 2014

Page 14: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Analyse en pratique :boule de cristal ou boîte noire?

• Ciblées sur les QE?

• Outils et méthodes d’analyse explicites?

• Hypothèses explicites (communauté d’objectifs, par ex…)

• Qui a participé à l’analyse (analyse ou négociation entre différentes interprétations subjectives des constats?)

• Rôle du Comité de pilotage dans le processus d’analyse?

• Déséquilibre dans l’allocation de ressources entre constats et analyse?

14

Analyse

SOLEP atelier n°3 17 mars 2014

Page 15: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Conclusions en théorie• Découlent strictement de l’analyse

• Peu nombreuses, focalisées, hiérarchisées

• Message principal de l’évaluation

Conclusions en pratique?• Découlent de l’analyse ou tombent du ciel? (fil rouge)

• Correspondent à objet et champ de l’évaluation ou partent dans tous les sens?

• Qu’est-ce qu’une bonne conclusion?

• Qui engagent-elles (enjeu de la participation)?

15

Conclusions

SOLEP atelier n°3 17 mars 2014

Page 16: Atelier de l’évaluation n°3 Hébergé grâce à l’appui de l’Institut BEI Le 17 mars 2014 1SOLEP atelier n°3 17 mars 2014 SOLEP.

Recommandations en théorie:• Découlent strictement des conclusions (fil rouge)

• Peu nombreuses, focalisées, hiérarchisées, réalistes (applicables)

• Sous-produit de l’évaluation? (à discuter)

Recommandations en pratique?• Conseils convaincants ou instructions irréalistes?

• Qu’est-ce qu’une bonne recommandation?

• Toute évaluation doit-elle contenir des recommandations?

16

Recommandations

SOLEP atelier n°3 17 mars 2014