eval-pris-krit.html Evalueringspriskriterier
Denne oppdateringen av
28/6-01 kan Fondets styre når som helst revidereRetningslinjer for utdeling av
Evalueringsprisen fra Fondet for Lokale helseforsøk
Prisen tildeles for metodisk kvalitet og innovasjon i en lokal evaluering. Det kan gjelde enkeltkomponenter, enkeltavsnitt eller helheten i en prosess. Sjøl om tiltak (prosjekt) og evaluering helst bør være integrert fra starten av, skilles de ennå oftest i praksis ved at det bare er en summativ evaluering (eksamen). Bl.a. for vårt formål kan man imidlertid også i integrerte opplegg skille ut evaluerings-vinklingen på opplegget. Dette er desto mer berettiget fordi full, kontinuerlig integrering av det hele er vanskelig å få helt til i praksis.
Prisen tildeles primært ut til miljøer og samarbeidsgrupper ikke til enkeltpersoner.
Det er tre slags evalueringer
som særlig kan være aktuelle:I. Et "Lokalt helseforsøk"
i spesifikk forstand (Utposten 1993, s 164) eller evt. en evaluering som kan fremme slike forsøk seinere. Det gjelder forsøksmetodisk vel overveide rangeringer av faglige tiltak (fremming, forebygging og behandling vedr helse) ved kontrollerte jamføringer der perioder (innen individ), personer eller smågrupper kan være enhetene. Det forutsettes et kommunalt rammeprosjekt (jfr III) rundt som i en enkel form gir brukere og innbyggerne styringsrett men forplikter til dialog med ekspertene.II. En delmetode
, f.eks. en ny, effektiv og klart dokumentert teknikk eller som kan forbedre ledd i prosjektevalueringer vil også kunne vurderes som kandidat til Evalueringsprisen. (Teknikker som kan brukes overfor små barn, eldre demente, hørselshemmede og andre brukere med spesielle sanseapparat kan være eksempler; det samme er eksakte utprøvinger som sammenligner/rangerer kjente teknikker ved anvendelse til bestemte kommunikasjonutfordringer.)III. En hel evaluering
av et helt tiltak (evt. større deler) vil trolig oftest være det mest aktuelleDokumenter til støtte for våre vurderinger
S4290 Fondet for Lokale helseforsøk. Kort orientering for mulige givere og søkere. Vedtekter. Folder, Oslo 1993. 2 s.
S9999 Almås R. Evaluering på norsk. Ei innføring i vurdering av prosjektarbeid og handlingsretta forsking. Universitetsforlaget, Oslo 1989. 116 s.
N36-1 Harnmeijer J. From terms of reference to participatory learning: using an evaluations creative space.PLA Notes 36 Oct 99, p3-8.
S5165 Estrella M et al. (eds). Learning from change. Issues and experiences in participatory monitoring and evaluation. London 2000, ITDG Publishing. 274pp.
S4434 Pretty J, Guijt I, Scoones I, Thomson J. Participatory learning and action . A trainers guide. IIED Participatory Methodology Series. 1995 270pp. Denne boka gir teknikk-beskrivelser som man vel må gå ut over hvis man skal bli aktuell til Evalueringsprisen på grunnlag av en ny teknikk/delmetode.
Fondet prøver å vurdere i vilken grad følgende påstander (idelle krav/hypoteser) stemmer. (Vi vil prøve å tenke på om ** det er godt belegg for at påstanden stemmer slik opplegget var eller ble justert etter hvert, eller om * påstanden vil kunne stemme hvis man justerer etter det man nå konkret kan lære av erfaringene, eller om # påstanden synes vanskelig å stemme i dette prosjekt.
Vår hypotese er at evalueringen har studert og dermed f.eks. kan sanne eller avsanne at:
1. evaluatorenes innstilling betyr at de har personlig respekt (= respekt uten fryktkomponent) for enhver bruker eller hjelper som person men ikke for enhver oppfatning disse måtte ha
2. prosjektets verdigrunnlag er det samme (om i 1. )
3. brukerne har fått styrket sin mestring (øket/blitt bevisst sine reelle handlingsrom)
4. de fleste viktige hjelpere ser tiltaket nyttig for brukerne
5. hjelpere føler at fordelene for seg oppveier tapet av makt på enkelte områder
6. det finnes et overslag over prosjektets utgifter og inntekter, samt et skjønnsmessig anslått nytte/kostnadsforhold totalt for evt. videreføring av prosjektet
7. man fikk en god utsortering og rangering av styrte og tilfeldige årsaksfaktorer partene ("stakeholders") er enige om (så ikke man ikke i fortsettelsen glemmer viktige suksess-faktorer)
8. det ble en god utsortering av ting man er uenige om og oppøvde tolereranse for hos hverandre
9. det var en god løpende oppfølging og justering av tiltaksutformingen på flere nivå (formativ evaluering, monotorering, )
10. erfaringene ble så gode at tiltaket nå fortsetter i kommunen og evt. i andre kommuner
11. treningen og eksemplene i prosjektet med å utrede, bestemme, lære, administrere, delta i møter/dialoger o.lign. påskyndet at den generelle arbeidsmåten nå sprer seg til andre felt i kommunen og evt. ennå videre
12. man i planleggingen av evalueringen hadde vurdert mange delmetoder og teknikker for å finne de mest praktiske og pålitelige (nøyaktige og presise). Blant som ble vurdert var:
a. om alle nivå i den kommunale organisasjon skulle høres med god teknikk?
b. om annen krysssjekking (triangulering) skulle gjøres ved hjelp av ulike grupper mht kjønn, alder eller andre kjennetegn (f.eks. etnisitet/utdanning/etat/fagnivå (1-3)/ )?
c. om evalueringsplanen skulle foreslå at hovedprosjektet innkludere et målestokkstiltak ?
d. evt. bruk av relevant rutinestatistikk og spørreundersøkelser ("sekundære data")
e. om man skulle bruke informant(-grupper) til å vurdere skjevheter ("bias") og utsagnskraft ved både egne primære og sekundære data ?
f. om prosjektdeltakerne skulle vurdere hvilke betingelser som må til andre steder for at tiltaket skulle bli vellykket der ?
g. om ekstern hovedevaluator skulle ha trening og ferdighet i evaluering med sterk brukermedvirkning ?
h. om assisterende evaluator (tilrettelegger/teammedlem) burde tilføre erfaring fra andre prosjekter enn hovedevaluator?
i. annet viktig med evalueringsmetodikken
13. Evalueringen inneholder et avsnitt hvor egne metode-erfaringer - f.eks. med noen av teknikkene i egen prosess blir vurdert.
Sluttord
Helhetlige beslutningsprosedyrer som omfatter deltaking, dialog og læring er det vanskelig å beskrive i detalj - sjøl for spesialister. Formuleringene ovenfor vil vi derfor forandre noe fra tid til annen. Å observere handlingsmønsteret, prosessene i praksis gir ofte et bedre totalinntrykk (jfr. narrativ beretning). Det er også totalinntrykket mht til evalueringer "på brukernes premisser" som vil være sentralt for Fondet for Lokale helseforsøk sin konklusjon. (Retningslinjene nedskrevet 28/6-01)