Training bij ISW premaster Academische Vaardigheden: Evalueren

Bepaal voor je gevonden bronnen of ze relevant zijn voor je onderwerp en of ze wetenschappelijk/betrouwbaar zijn (let op, niet al je bronnen hoeven altijd wetenschappelijk te zijn, soms kan je ook gebruik maken van rapporten of documenten van overheidsinstellingen.

Hoe ga je nu bepalen of een artikel geschikt is voor jou om te gebruiken.

• Begin bij het abstract en eventueel de aanwezige keywords. Hieruit kan je vaak al afleiden of het artikel relevant is voor jou. Wat zijn de belangrijke concepten en/of theorieen van het artikel en sluiten deze aan bij jouw onderzoeksvraag/-onderwerp? Raakt het artikel alleen zijdelings aan jouw onderwerp of is het echt de kern? En heeft het een vergelijkbare context (bijv. doelgroep, land)?
• Kom je er niet uit met het abstract, of is die er niet, open dan de full text. Is het artikel in een voor jou onleesbare taal of is er geen full text beschikbaar? Dan valt deze bron meteen af. Kan je het artikel wel lezen, begin dan met de introductie en bekijk de kopjes en eerste zinnen van de alinea's en lees de conclusies of het slot. Op basis daarvan kan je al vrij snel een goede indruk van de inhoud van een artikel krijgen.
• Herken je in het artikel de volgende elementen: een probleem- of vraagstelling, gebruikte (wetenschappelijke) methode, bevindingen of resultaten, discussie, belangrijkste conclusies/argumenten en verwijzingen naar wetenschappelijke literatuur (in de literatuurlijst of notes)? 
• Kijk ook buiten het artikel. Is het in een wetenschappelijk peer-reviewed tijdschrift verschenen?  Of komt het uit een wetenschappelijke bundel? Bekijk eens waar de auteurs werkzaam zijn. Is de auteur een journalist of een wetenschapper en verbonden aan een wetenschappelijke instelling? Wat heeft de auteur nog meer gepubliceerd?

Door een artikel op deze manier te scannen/skimmen kun je vrij snel een indruk krijgen van de bruikbaarheid van het artikel. 

Wil je meer weten over relevantie en wetenschappelijke betrouwbaarheid? Bekijk dan de boxen hieronder en onze libguide over het evalueren van bronnen.

Peerreview (Engels:peer review, ook wel aangeduid als collegiale toetsing of onderlinge toetsing) is een methode om de kwaliteit van (geschreven) werk te verbeteren, verifiëren of controleren door het werk te onderwerpen aan de kritische blik van een aantal gelijken (Engels: peers), meestal vakgenoten of collega's van de auteur.

(bron: Wikipedia) 

Hoe peerreview werkt wordt heel helder uitgelegd door onze collega's uit Groningen.

Of bekijk onderstaande video:

Library NCSU. This video is published under a Creative Commons 3.0 BY-NC-SA US license

Of een artikel peer-reviewed is kan je vaak niet zien in het artikel zelf. Maar hoe kom je er dan wel achter?
Maak dan gebruik van onderstaande tips:

1. Als je geluk hebt staat er in het artikel: 'published in a peer reviewed section of the journal' of iets vergelijkbaars. In dat geval heb je je antwoord snel gevonden.
2. Ga na of het tijdschrift een peerreview procedure heeft. Dit wordt vaak vermeld op de homepage van het tijdschrift zelf, soms onder het kopje 'instructies voor auteurs' of 'instructies voor reviewers'. Voor een snelle check kun je ook in Google zoeken op de titel van het tijdschrift in combinatie met woorden als peer review of refereed, maar als je op deze manier niets vindt wil dat nog niet zeggen dat het tijdschrift geen peerreview hanteert.
3. Een artikel kan in een peer-reviewed tijdschrift staan, maar toch zelf niet peer-reviewed zijn. Denk dan bijvoorbeeld aan boekbesprekingen, gevalsbeschrijvingen of editorials. Als je twijfelt of een artikel wel geschikt is check dan ook of de rubriek/sectie van het tijdschrift waarin het artikel gepubliceerd is wel een peer-reviewed sectie is (kijk in de 'about' sectie van het tijdschrift).
4. Sommige databases hanteren een strenge selectie en nemen alleen peer-reviewed tijdschriften op, zoals Scopus, Web of Science en veel vakspecifieke databases (denk aan PsycInfo of PubMed). In sommige databases bestaat ook de mogelijkheid om te filteren op peer-reviewed artikelen. Daarmee filter je dan ook o.a. boeken of hoofdstukken uit boeken weg.

De relevantie van een publicatie achterhaal je door deze vragen te stellen:

1. Biedt de bron informatie die nuttig is voor het beantwoorden van je vraag?
2. Sluit het niveau van de informatie aan bij je vraag- en doelstelling?
3. Beantwoordt de bron je gehele vraag of slechts een aspect ervan? Denk aan: periode, personen, groepen etc. 
4. Geeft de informatie een algemeen beeld? Of gaat het in op uitzonderingen of specifieke gebieden?
5. Is de (sociale / culturele  / historische) context van het onderzoeksobject hetzelfde als in jouw geval?
6. Wanneer is het stuk gepubliceerd en wanneer is het onderzoek waarover wordt geschreven uitgevoerd (actualiteit)?

Bedenk dat je slechts zelden een bron vindt die je vraagstelling geheel beantwoordt.

Wil je een full text inzien: de UBU-link geeft in het geval van digitale publicaties meestal directe toegang tot het online bezit van de bibliotheek. De UBU link werkt alleen als je ingelogd bent met je Solis-id. 

In de speciale LibGuide Evalueren vind je meer informatie

Bij het bepalen van de kwaliteit en wetenschappelijkheid van bronnen kun je uitgaan van drie soorten controle:

1. Controle door anderen, voorafgaand aan publicatie
   • redactie: redacties van wetenschappelijke tijdschriften zijn strenger dan die van niet-wetenschappelijke tijdschriften
   • uitgever: sommige uitgevers geven alleen wetenschappelijke boeken uit
   • peerreview: de meeste wetenschappelijke tijdschriften en boekuitgevers vragen experts vooraf publicaties (blind of halfblind) te beoordelen
   • zoekmachine/online bibliografie: sommige zoekmachines nemen alleen artikelen uit hoogwaardige, peer reviewed, tijdschriften op (Scopus en Web of Science bv.)
   • financier: sommige tijdschriften vereisen dat bij onderzoek wordt aangeduid wie het gefinancierd heeft (bv. bij artikelen over tests van nieuwe medicijnen)
2. Controle door anderen, achteraf
   • besprekingen (bij boeken): hoe zijn de recensies over het boek?
   • citaties (vooral bij artikelen:): wordt het stuk vaak geciteerd (rekening houdend met de publicatiedatum) en vooral: wat wordt erover gezegd?
3. Controle door jezelf
   • aanduiding van auteur en datering van de tekst (vooral bij webpagina's)
   • affiliatie van de auteur: de werkkring geeft soms wat extra zekerheid over wetenschappelijk niveau, bijvoorbeeld als de auteur bij een universiteit werkt
   • gebruik van bronnen uitgegeven door wetenschappelijke uitgevers
   • aanduiding doelgroep (vooral bij websites en rapporten)
   • aanwezigheid van expliciete vraagstellingen en conclusies
   • aanwezigheid van een verantwoording van de gebruikte methode: hoe heeft men het onderzoek aangepakt, waar komen gegevens vandaan?
   • aanwezigheid voldoende en hoogwaardige literatuurverwijzingen of noten: op welke inzichten baseert men zich?
   • het niveau van het taalgebruik

De CRAPMAP bestaat uit een lijst met vragen die je helpt te beoordelen of de (online) informatie die je hebt gevonden betrouwbaar en bruikbaar is. Afhankelijk van je situatie zijn items uit de lijst meer of minder van belang. Blijf altijd zelf goed opletten, deze checklist is maar een hulpmiddel en is niet altijd afdoende.

Currency
Het tijdsbestek van de informatie.

 Wanneer werd de informatie gepubliceerd of gepost?
 Is de informatie herzien of geactualiseerd? Of is het artikel na publicatie weer teruggetrokken (retracted)?
  Heb je actuele informatie nodig over je onderwerp, of zijn oudere bronnen ook toereikend?

Relevance
Het belang van de informatie in relatie tot wat je nodig hebt.

  Is de informatie gerelateerd aan je onderwerp of geeft de informatie antwoord op je vraag?
  Wie is het beoogde publiek?
 Is de informatie op een passend niveau (niet te simpel of niet te hoog gegrepen)?
 Heb je naar meerdere bronnen gekeken voor je hebt besloten welke je gaat gebruiken?
  Heb je een goed gevoel bij het citeren van deze bron in je onderzoekspaper?

Accuracy
De betrouwbaarheid, het waarheidsgehalte en de juistheid van de content.

 Waar komt de informatie vandaan?
 Wordt de informatie ondersteund door bewijs?
 Is de informatie door anderen bekeken of gecheckt?
 Kun je de informatie verifiëren in een andere bron of vanuit persoonlijke kennis?
 Lijkt de taal of de toon onbevooroordeeld en zakelijk?
 Zie je fouten in spelling, grammatica of zie je typefouten?

Publication
De informatiebron.

 Wie is de auteur/uitgever/tijdschrift/sponsor?
 Hebben de auteurs goede referenties of aan welke organisatie zijn zij verbonden?
 Is de auteur gekwalificeerd om over een onderwerp te schrijven?
 Is de uitgever/het tijdschrift wetenschappelijk? Hebben ze een goede naam?
 Staat er contactinformatie, zoals een uitgever of een emailadres?

Metrics*
De impact die een bron heeft op het wetenschappelijk gebied.

 Kun je metrics voor de bron vinden?
 Wordt de bron geciteerd in huidig onderzoek?

Altmetrics*
De impact die een bron over het algemeen heeft.

 Kun je altmetrics vinden voor de bron?
 Is jouw onderzoek beïnvloed door hoe goed de bron ontvangen is?
 Wat vertelt de publieke ontvangst van een bron jou?

 * Voor informatie over metrics en altmetrics zie onze LibGuide Research Impact & visibility: traditional and altmetrics

Purpose
De reden voor het bestaan van de informatie.

 Wat is het doel van de informatie? Is het om te informeren, te onderwijzen, te verkopen, te vermaken of te overtuigen?
 Maken de auteurs/sponsoren hun intenties of doel duidelijk?
 Bestaat de informatie uit feiten, meningen of propaganda?
 Lijkt het gezichtspunt objectief en onpartijdig?
 is er sprake van politieke, ideologische, culturele, religieuze, institutionele, financiële of persoonlijke bias?

Deze checklist is gebaseerd op de CRA(A)P test, ontwikkeld door de bibliotheek van California State University, Chico.

Journal metrics worden gebruikt om de impact en kwaliteit van tijdschriften te beoordelen. Er zijn meerdere journal metrics, de journal impact factor is er één van.

Het filmpje geeft onder andere informatie over de berekening van de impact factor en het vinden van impact factors in de Journal Citation Reports. Een Impact Factor is een cijfer dat op zichzelf niet veel zegt. Je moet tijdschriften en hun impact factors altijd bekijken in de context van vergelijkbare tijdschriften (rank).