Welche Hürden stehen der Durchführung von rigorosen Wirkungsevaluierungen (RIE) im Weg?

In einem empirischen Forschungsprojekt hat das DEval untersucht, welche Faktoren die Initiierung von RIE erschweren und welche potenziellen Lösungen zur Überwindung dieser Hürden bestehen. Für eine übersichtlichere Darstellung werden nachfolgend nur Hürden und Lösungen mit hoher Relevanz aufgeführt. Da für Schritt 5 „Intention“ keine Hürde mit hoher Relevanz identifiziert wurde, ist dieser Schritt unten nicht aufgeführt. Eine vollständige Übersicht aller Hürden und Lösungen – auch mit mittlerer und geringer Relevanz – sind in unserem Forschungsbericht zu finden. Bitte beachten Sie außerdem, dass die Bezeichnung „potentielle Maßnahme“ in unserem Bericht nachfolgend als „Lösung“ bezeichnet wird. In unserer interaktiven Abbildung sind Hürden und Lösungen entlang der fünf kritischen Schritte für die Generierung von Evidenz angeordnet:

1. Nachfrage nach Evidenz,  2. Bewusstsein und Kapazitäten für Evidenz,  3. Durchführbarkeit einer RIE,  4. Ressourcen für eine RIE,  5. Intention

 

Demand

Divergierende Interessen

Projektdurchführende, politische Entscheidungsträger*innen, Forschende und Projektpartner haben verschiedene Interessen und Erwartungen. Daraus ergeben sich unterschiedliche Motivationen für die Durchführung von RIE. Beispielsweise streben Forschende nach wissenschaftlichen Publikationen, während Projektdurchführende eher an praktischen Fragen der Projektsteuerung interessiert sind. Diese Hürde wurde vor allem durch Befragte mit Erfahrung von RIE-Durchführung genannt.

Potential solutions
Potential solution Ensure close collaboration between researchers and other stakeholders

To foster RIE initiation, it is helpful if researchers engage in close collaboration with all other stakeholders at the beginning of an RIE and, in particular, with project partners in partner countries. In this process, evaluators and researchers should present themselves as learning partners and supporters rather than auditors and “judges”. This approach can help emphasise the learning purpose of the RIE over that of accountability. Understanding stakeholder demands, and making use of and involving local capacities, can be concrete steps to generate relevant results, enhance support and build ownership for the RIE.

Potential solution Generate additional knowledge beyond the RIE

Generating additional knowledge beyond the results from the RIE can be an effective measure to foster RIE initiation. This might be descriptive information, needs assessments, cost calculations and process evaluations. First, answering these additional questions has an added value in itself. Second, the additional knowledge can be useful when interpreting the results of an RIE. Additional knowledge was either generated by additional data (often qualitative data within a mixed-methods design) or by extensive analysis of baseline and follow-up data from the RIE. This approach is increasingly followed by USAID and J-PAL as well as IPA and DIME.

Niedrige Priorisierung von RIE-Evidenz

Die Nachfrage nach (RIE-)Evidenz von verschiedenen Interessensgruppen, vor allem von Gebern (z.B. BMZ) und Partnern, ist gering (wenn auch leicht steigend). Interviews stützen diese Beobachtung, dass anderen Arten von Evidenz (z.B. aus Prozessevaluierungen oder Expert*inneneinschätzungen) oftmals eine gleichwertige oder höhere Bedeutung und Qualität zugeschrieben werden.

Keine formellen Vorgaben für RIE

Unsere Auswertungen dokumentieren fehlende formelle Vorgaben oder verfahrenstechnischen Verankerungen (beispielsweise durch Leitfäden) für die Initiierung von RIE in der EZ. Obwohl die Bundeshaushaltsordnung (BHO) hohe Anforderungen an Wirksamkeitskontrollen formuliert, geht dies nicht mit Vorgaben zu spezifischen Evaluierungsansätzen einher. Folglich wird die Durchführung von RIE aktuell nicht unter den Vorgaben zu Wirkungskontrollen gefasst.

Unklarer Nutzen von RIE

Für Mitarbeitende fehlen (berufliche) Anreize für die Durchführung von RIE. Die Umsetzung von RIE wird grundsätzlich nicht honoriert und ist mit zusätzlichem persönlichem Einsatz verbunden.

Mangelnde Klarheit über den Nutzen von rigoroser Evidenz für das Projekt, zum Beispiel für die operative Projektsteuerung, kann die Initiierung einer RIE verhindern.

Auch Unklarheit und mangelndes Bewusstsein darüber, wie einzelne RIE-Erkenntnisse auf andere Kontexte übertragen oder gebündelt werden können und wie RIE für die Politikgestaltung und -steuerung sowie zur Strategieformulierungen genutzt werden kann, sind Hürden für die Initiierung von RIE.

Demand

Awareness and Capacity

Eingeschränkte RIE-Kompetenz

Eingeschränkte Kompetenzen für RIE sind sowohl bei Projektdurchführenden als auch politischen Entscheidungsträger*innen eine wesentliche Hürde für die Initiierung einer RIE. Fehlende RIE-Kompetenz erschweren es RIE-Beauftragenden (auf Projekt- und Politikebene) zu erfassen, welche Erkenntnisse und Vorteile RIE generieren können, wie sie in Auftrag gegeben werden und wie die Qualitätssicherung erfolgt. Aufgrund begrenzter Kenntnisse über RIE werden diese zu Beginn eines Projekts oft nicht in Betracht gezogen. Diese Phase ist jedoch entscheidend, um ein fundiertes Evaluierungskonzept im Rahmen eines RIE-Ansatzes zu entwickeln.

Awareness and Capacity

Feasibility

Methodische Herausforderungen

Methodische Herausforderungen der Konzeption einer RIE zählen zu einem der wichtigsten Hürden bei der Initiierung von RIE in der EZ. Zu den Herausforderungen hinsichtlich der methodischen Durchführbarkeit gehören:
• die „Kontaminierung” der Kontrollgruppe (d.h., dass auch ein Teil der Kontrollgruppe die Intervention erhalten hat, obwohl das nicht der Fall sein sollte) und Übertragungseffekte (Spill-over-Effekte) (d.h., dass die Intervention einen mittelbaren oder unmittelbaren Einfluss auf die Kontrollgruppe hat).
• Verfügbarkeit von und Zugang zu qualitativ hochwertigen Daten,
• Mangel an “statistischer Power“ aufgrund einer geringen Anzahl von Beobachtungseinheiten („kleine oder mittelgroße Stichprobe (N)”) und
• Schwierigkeiten bei der Bildung von Interventions- und Kontrollgruppen.

Unkoordinierte zeitliche Abstimmung zwischen Projekt und RIE

Eine entscheidende Hürde für die Umsetzung von RIE ist die mangelnde Abstimmung der Zeitpläne zwischen Projekt und der RIE. RIE und Projekte haben in der Regel unterschiedliche Zeithorizonte (z.B. können RIE erst in Auftrag gegeben werden, nachdem das Projekt formell bewilligt wurde). Dies verringert die Anreize zur Durchführung von RIE erheblich, da diese nicht über die Projektlaufzeit hinaus aus Projektmitteln finanziert werden können. Zudem kann möglicherweise unklar sein, ob RIE-Ergebnisse noch für den laufenden Projektzyklus genutzt werden können.

Feasibility

Resources

Begrenzte zeitliche und finanzielle Ressourcen

Ein Mangel an Ressourcen ist eine der zentralen Hürden für die Initiierung von RIE. Zeitmangel wurde von den Befragten der Evidence Survey noch vor finanziellen Ressourcen als wichtigster Faktor genannt, der die Initiierung von RIE verhindert. Konkret genannt wurde eine hohe Arbeitsbelastung bzw. fehlende Mitarbeitende, die gezielt für RIE-Durchführung angestellt sind. Darüber hinaus sind RIE im Vergleich zu anderen Evaluierungsansätzen relativ teuer. Daher erfordern sie häufig zusätzliche Finanzierung oder eine Umschichtung von Mitteln aus geplanten Projektaktivitäten.

Resources

nach oben