Training bij ISW premaster Academische Vaardigheden: Evalueren

1. Beoordelen op relevantie
2. Zoekresultaten evalueren op wetenschappelijkheid
3. Impact factor en Journal Citation Reports (video)
4. Peer review
5. Crapmap

Als je eenmaal een set aan bronnen hebt gevonden is het belangrijk om te evalueren of deze geschikt zijn. Je beoordeelt of ze voldoende aansluiten bij jouw onderwerp (inhoudelijk geschikt, relevantie) en je beoordeelt of de kwaliteit voldoende is (wetenschappelijk geschikt).

Bepaal voor je gevonden bronnen of ze relevant zijn voor je onderwerp en of ze wetenschappelijk zijn (let op, niet al je bronnen hoeven altijd wetenschappelijk te zijn, soms kan je ook gebruik maken van rapporten of documenten van overheidsinstellingen.

In dit practicum kun je ook de volgende opdrachten maken:

A. Zoek van je gevonden boek uit waar de auteurs werkzaam zijn en/of wat zij nog meer hebben geschreven.

B. Zoek van je eerstgenoteerde artikel uit of het tijdschrift waar het uitkomt peer reviewed is. Dit staat als het goed is op de site van het tijdschrift zelf, maar ook bijv. in de tijdschriftenlijst van de UB.

C. Bekijk van je laatst genoteerde artikel:

• de kwaliteit van de literatuurverwijzingen;
• of expliciet de gevolgde onderzoeksmethode en wijze van dataverzameling wordt vermeld.

D. Bekijk eens de website van het tijdschrift Child Development. Hier vind je informatie over de impact van dit tijdschrift (JIF en ranking). Bekijk dan ook de homepage van het tijdschrift Clinical Psychology Review Hier vind je naast de JIF ook andere journal metrics en ook gegevens over social media aandacht (ook wel altmetrics genoemd) van artikelen. Bekijk bijvoorbeeld eens van het artikel 'What is compassion and how can we measure it? A review of definitions and measures' wat de social media impact was op Twitter en Facebook.

De relevantie van een publicatie achterhaal je door deze vragen te stellen:

1. Biedt de bron informatie die nuttig is voor het beantwoorden van je vraag?
2. Sluit het niveau van de informatie aan bij je vraag- en doelstelling?
3. Beantwoordt de bron je gehele vraag of slechts een aspect ervan? Denk aan: periode, personen, groepen etc. 
4. Geeft de informatie een algemeen beeld? Of gaat het in op uitzonderingen of specifieke gebieden?
5. Is de (sociale / culturele  / historische) context van het onderzoeksobject hetzelfde als in jouw geval?
6. Wanneer is het stuk gepubliceerd en wanneer is het onderzoek waarover wordt geschreven uitgevoerd (actualiteit)?

Bedenk dat je slechts zelden een bron vindt die je vraagstelling geheel beantwoordt.

Wil je een full text inzien: de UBU-link geeft in het geval van digitale publicaties meestal directe toegang tot het online bezit van de bibliotheek. De UBU link werkt alleen als je ingelogd bent met je Solis-id. 

In de speciale LibGuide Evalueren vind je meer informatie

Bij het bepalen van de kwaliteit en wetenschappelijkheid van bronnen kun je uitgaan van drie soorten controle:

1. Controle door anderen, voorafgaand aan publicatie
   • redactie: redacties van wetenschappelijke tijdschriften zijn strenger dan die van niet-wetenschappelijke tijdschriften
   • uitgever: sommige uitgevers geven alleen wetenschappelijke boeken uit
   • peer review: de meeste wetenschappelijke tijdschriften en boekuitgevers vragen experts vooraf publicaties (blind of halfblind) te beoordelen
   • zoekmachine/online bibliografie: sommige zoekmachines nemen alleen artikelen uit hoogwaardige, peer reviewed, tijdschriften op (Scopus en Web of Science bv.)
   • financier: sommige tijdschriften vereisen dat bij onderzoek wordt aangeduid wie het gefinancierd heeft (bv. bij artikelen over tests van nieuwe medicijnen)
2. Controle door anderen, achteraf
   • besprekingen (bij boeken): hoe zijn de recensies over het boek?
   • citaties (vooral bij artikelen:): wordt het stuk vaak geciteerd (rekening houdend met de publicatiedatum) en vooral: wat wordt er over gezegd?
3. Controle door jezelf
   • aanduiding van auteur en datering van de tekst (vooral bij webpagina's)
   • affiliatie van de auteur: de werkkring geeft soms wat extra zekerheid over wetenschappelijk niveau, bijvoorbeeld als de auteur bij een universiteit werkt
   • gebruik van bronnen uitgegeven door wetenschappelijke uitgevers
   • aanduiding doelgroep (vooral bij websites en rapporten)
   • aanwezigheid van expliciete vraagstellingen en conclusies
   • aanwezigheid van een verantwoording van de gebruikte methode: hoe heeft men het onderzoek aangepakt, waar komen gegevens vandaan?
   • aanwezigheid voldoende en hoogwaardige literatuurverwijzingen of noten: op welke inzichten baseert men zich?
   • het niveau van het taalgebruik

De CRAPMAP bestaat uit een lijst met vragen die je helpt te beoordelen of de (online) informatie die je hebt gevonden betrouwbaar en bruikbaar is. Afhankelijk van je situatie zijn items uit de lijst meer of minder van belang. Blijf altijd zelf goed opletten, deze checklist is maar een hulpmiddel en is niet altijd afdoende.

Currency
Het tijdsbestek van de informatie.

 Wanneer werd de informatie gepubliceerd of gepost?
 Is de informatie herzien of geactualiseerd? Of is het artikel na publicatie weer teruggetrokken (retracted)?
  Heb je actuele informatie nodig over je onderwerp, of zijn oudere bronnen ook toereikend?

Relevance
Het belang van de informatie in relatie tot wat je nodig hebt.

  Is de informatie gerelateerd aan je onderwerp of geeft de informatie antwoord op je vraag?
  Wie is het beoogde publiek?
 Is de informatie op een passend niveau (niet te simpel of niet te hoog gegrepen)?
 Heb je naar meerdere bronnen gekeken voor je hebt besloten welke je gaat gebruiken?
  Heb je een goed gevoel bij het citeren van deze bron in je onderzoekspaper?

Accuracy
De betrouwbaarheid, het waarheidsgehalte en de juistheid van de content.

 Waar komt de informatie vandaan?
 Wordt de informatie ondersteund door bewijs?
 Is de informatie door anderen bekeken of gecheckt?
 Kun je de informatie verifiëren in een andere bron of vanuit persoonlijke kennis?
 Lijkt de taal of de toon onbevooroordeeld en zakelijk?
 Zie je fouten in spelling, grammatica of zie je typefouten?

Publication
De informatiebron.

 Wie is de auteur/uitgever/tijdschrift/sponsor?
 Hebben de auteurs goede referenties of aan welke organisatie zijn zij verbonden?
 Is de auteur gekwalificeerd om over een onderwerp te schrijven?
 Is de uitgever/het tijdschrift wetenschappelijk? Hebben ze een goede naam?
 Staat er contactinformatie, zoals een uitgever of een emailadres?

Metrics*
De impact die een bron heeft op het wetenschappelijk gebied.

 Kun je metrics voor de bron vinden?
 Wordt de bron geciteerd in huidig onderzoek?

Altmetrics*
De impact die een bron over het algemeen heeft.

 Kun je altmetrics vinden voor de bron?
 Is jouw onderzoek beïnvloed door hoe goed de bron ontvangen is?
 Wat vertelt de publieke ontvangst van een bron jou?

 * Voor informatie over metrics en altmetrics zie onze LibGuide Research Impact & visibility: traditional and altmetrics

Purpose
De reden voor het bestaan van de informatie.

 Wat is het doel van de informatie? Is het om te informeren, te onderwijzen, te verkopen, te vermaken of te overtuigen?
 Maken de auteurs/sponsoren hun intenties of doel duidelijk?
 Bestaat de informatie uit feiten, meningen of propaganda?
 Lijkt het gezichtspunt objectief en onpartijdig?
 is er sprake van politieke, ideologische, culturele, religieuze, institutionele, financiële of persoonlijke bias?

Deze checklist is gebaseerd op de CRA(A)P test, ontwikkeld door de bibliotheek van California State University, Chico.

Lees in de volgende stap de informatie over plagiaat, citeren en parafraseren

Peerreview (Engels:peer review, ook wel aangeduid als collegiale toetsing of onderlinge toetsing) is een methode om de kwaliteit van (geschreven) werk te verbeteren, verifiëren of controleren door het werk te onderwerpen aan de kritische blik van een aantal gelijken (Engels: peers), meestal vakgenoten of collega's van de auteur.

(bron: Wikipedia) 

Hoe peer review werkt wordt heel helder uitgelegd door onze collega's uit Groningen.

Of bekijk onderstaande video:

Library NCSU. This video is published under a Creative Commons 3.0 BY-NC-SA US license

Journal metrics worden gebruikt om de impact en kwaliteit van tijdschriften te beoordelen. Er zijn meerdere journal metrics, de journal impact factor is er één van.

Het filmpje geeft onder andere informatie over de berekening van de impact factor en het vinden van impact factors in de Journal Citation Reports. Een Impact Factor is een cijfer dat op zichzelf niet veel zegt. Je moet tijdschriften en hun impact factors altijd bekijken in de context van vergelijkbare tijdschriften (rank).