Kansainvälisiä suosituksia

Tähän alkuun johdantoa kv-suosituksiin

DORA-julistus

Suosituskokoelma tieteellisen tutkimustoiminnan arvioinnin laadun parantamiseen

Taustaa

DORA sai alkunsa joulukuussa 2012 amerikkalaisen solubiologian yhdistyksen (The American Society for Cell Biology, ASCB) vuosikokouksessa San Franciscossa (Kalifornia). Tuolloin joukko tiedelehtien toimittajia ja kustantajia tarttui tarpeeseen kehittää rahoittajien, akateemisten instituutioiden ja muiden osapuolten tapoja arvioida tieteellisen tutkimustoiminnan tuotoksia. Ryhmä kehitti joukon suosituksia, joka nimettiin DORA-julistukseksi eli San Francisco Declaration on Research Assessment. 

Suosituksiin sisältyy useita yhteisiä teemoja:

• tarve välttää rahoitus-, nimitys- ja ylennyspäätöksissä artikkeleiden julkaisukanavaan pohjautuvan metriikan, kuten vaikuttavuuskertoimen (Journal Impact Factor), käyttöä
• tarve arvioida tutkimusta ennemmin sen omiin ansioihin perustuen kuin sen perusteella, missä lehdessä se on julkaistu; ja
• tarve hyödyntää verkkojulkaisemisen tarjoamia mahdollisuuksia (kuten väljentää tarpeettomia artikkelien sana-, kuva- ja viittausmäärien rajoituksia, sekä tutkia uusia merkittävyyden ja vaikuttavuuden indikaattoreita).

DORA-julistuksen allekirjoittajat lupautuvat tukemaan tutkimuksen arvioinnin käytäntöjen omaksumista.

(Suoraa lainausta DORA-sivuilta - editoidaan tästä meidän tarpeisiin sopiva kokonaisuus:

Tieteellisen tutkimuksen tuotokset ovat moninaisia ja erilaisia. Niitä ovat uutta tietoa raportoivat tutkimusartikkelit, data, reagenssit ja ohjelmistot; immateriaaliomaisuus; sekä korkeasti koulutetut nuoret tieteentekijät. Rahoittajilla, tutkijoita palkkaavilla instituutioilla ja tutkijoilla itsellään on halu ja tarve arvioida tieteellisten tuotosten laatua ja vaikuttavuutta. Onkin välttämätöntä, että tieteellisiä tuotoksia mitataan oikein ja arvioidaan viisaasti.

Lehtien vaikuttavuuskerrointa (Journal Impact Factor) käytetään säännöllisesti ensisijaisena parametrina vertailtaessa yksilöiden ja instituutioiden tieteellisiä tuotoksia. Vaikuttavuuskerroin, kuten Thomson Reuters* sen laski, kehitettiin alun perin kirjastonhoitajia varten lehtihankintojen valinnan apuvälineeksi, ei siis yksittäisten artikkeleiden tieteellisen laadun arviointiin. Tämä on hyvä pitää mielessä, ja tärkeää on ymmärtää, että lehden vaikuttavuuskertoimella on tutkimuksen arvioinnin välineenä lukuisia puutteita. Näihin rajoituksiin kuuluu: A) viittausten jakaumat lehden artikkelien kesken ovat erittäin vääristyneitä [1-3]; B): vaikuttavuuskertoimen ominaisuudet ovat tieteenalasidonnaisia: artikkelityypit ovat hyvin erilaisia ja moninaisia, ja niihin kuuluu alkuperäisiä tutkimusartikkeleita ja katsauksia [1, 4]; C) vaikuttavuuskertoimia voidaan manipuloida (tai vehkeillä) toimitusmenettelytavoilla [5]; ja D) vaikuttavuuskertoimien laskennassa käytetty data ei ole läpinäkyvää eikä avoimesti kaikkien saatavana [4, 6, 7].

Alla on esitetty joukko suosituksia, joiden avulla tieteellisten tuotosten arvioinnin laatua voidaan parantaa. Tulevaisuudessa tutkimuksen vaikuttavuuden arvioinnissa muiden tuotosten kuin tutkimusartikkeleiden merkitys kasvaa, mutta vertaisarvioidut tieteelliset artikkelit tulevat säilymään keskeisenä tutkimustuotoksena tutkimuksen arvioinnissa. Niinpä suosituksemme keskittyy pääasiassa niihin käytäntöihin, jotka liittyvät vertaisarvioiduissa lehdissä julkaistuihin tutkimusartikkeleihin, mutta niitä voidaan ja pitäisikin käyttää myös muiden tuotosten tunnistamisessa, kuten datasettien, jotka ovat tärkeitä tutkimuksen tuotoksia. Nämä suositukset on suunnattu rahoittajille, akateemisille instituutioille, lehdille, metriikkaa harjoittaville organisaatioille sekä yksittäisille tutkijoille.

Me tunnistamme, että monet rahoittajat, instituutiot, kustantajat ja tutkijat jo edistävät tutkimuksen arvioinnin parempia käytäntöjä. Nämä askeleet ovat tärkeä alku vauhdittamaan muutosta kohti kehittyneempiä ja tarkoituksenmukaisempia tutkimuksen arvioinnin menettelytapoja, joita kaikki sidosryhmät voivat nyt yhdessä kehittää ja omaksua.

Suora lainaus loppuu)

Suositukset

Yleinen suositus

1. Älä käytä lehtiperustaista metriikkaa, kuten lehtien vaikuttavuuskertoimia, yksittäisen tutkimusartikkelin laadun mittaamisen korvikkeena arvioidaksesi yksittäisen tutkijan tieteellisiä ansioita, tai rekrytointi-, ylennys- ja rahoituspäätöksissä.

Rahoittajille

2. Määrittele avoimesti ja selkeästi kriteerit, joiden perusteella rahoituksen hakijoiden tieteellistä tuottavuutta arvioidaan, ja korosta erityisesti aloitteleville arvioijille, että kirjoituksen tieteellinen sisältö on paljon tärkeämpi kuin julkaisumetriikka tai artikkelin julkaisseen lehden maine.

3. Ota tutkimuksen arvioinnissa tutkimusjulkaisujen lisäksi huomioon kaikkien tutkimustuotosten (sisältäen datasetit ja ohjelmistot) arvo ja vaikuttavuus. Harkitse laajaa kirjoa vaikuttavuusmittareita, mukaan lukien laadulliset vaikuttavuusindikaattorit, kuten vaikutus politiikkaan ja käytäntöön.

Korkeakouluille ja tiedelaitoksille

4. Määrittele rekrytointi-, urapolku- ja ylennyspäätöksissä käytetyt kriteerit avoimesti ja selkeästi, ja korosta erityisesti aloitteleville arvioijille, että artikkelin tieteellinen sisältö on paljon tärkeämpi kuin julkaisumetriikka tai kirjoituksen julkaisseen lehden maine.

5. Ota tutkimuksen arvioinnissa tutkimusjulkaisujen lisäksi huomioon kaikkien tutkimustuotosten (sisältäen datasetit ja ohjelmistot) arvo ja vaikuttavuus. Harkitse laajaa kirjoa vaikuttavuusmittareita, mukaan lukien laadulliset vaikuttavuusindikaattorit, kuten vaikutus politiikkaan ja käytäntöön.

Kustantajille

6. Supista merkittävästi lehden vaikuttavuuskertoimen merkitystä mainontavälineenä. Ihanteellinen ratkaisu on lakata käyttämästä vaikuttavuuskerrointa tai käyttää julkaisupohjaista metriikkaa monipuolisesti (esim. 5-vuoden vaikuttavuuskerroin, EigenFactor [8], SCImago [9], h-indeksi, toimitustyö- tai julkaisukerrat jne), mikä tarjoaa monipuolisemman käsityksen lehden saavutuksista.

7. Tarjoa valikoima artikkelipohjaista metriikkaa ja rohkaise siten siirtymistä julkaisukanavaan perustuvasta metriikasta arviointiin, joka perustuu tieteellisen artikkelin sisältöön.

8. Rohkaise vastuullista tekijyyskäytäntöä ja jokaisen tekijän osallisuuden määrittelyä ja julkituomista.

9. Riippumatta siitä, ilmestyykö lehti avoimena vai tilauspohjaisena, poista kaikki lähdeluetteloiden uudelleen- ja jälleenkäyttörajoitukset ja tarjoa ne saataville Yleismaailmallisella Public Domain –lausumalla.

10. Antaaksesi kunnian tutkimustuloksia ensin raportoineille poista tai vähennä tutkimusartikkeleiden viitemäärien rajoituksia, ja kun sopivaa, niin vaadi käyttämään alkuperäislähteistöä katsausten asemasta.

Metriikkaa tuottaville organisaatioille

11. Toimi avoimesti ja läpinäkyvästi avaamalla kaikki metriikassa käytetty data ja menetelmät.

12. Avaa data sellaisella lisenssillä, joka sallii rajoituksettoman uudelleen- ja jälleenkäytön, ja kun mahdollista, niin tarjoa dataan koneellinen pääsy.

13. Tee selväksi, että metriikan epäasiallista manipulointia ei suvaita; ilmaise selkeästi mikä on epäasiallista manipulointia ja mitä menetelmiä sen estämiseksi otetaan käyttöön.

14. Kun metriikkaa käytetään, kootaan tai vertaillaan, selvitä artikkelityyppien hajonta (esim. katsaukset versus tutkimusartikkelit) tieteenalakohtaisesti.

Tutkijoille

15. Osallistuessasi rahoituksesta, rekrytoinnista, urapolusta tai ylentämisestä päättäviin elimiin, perusta arviointisi ennemmin tieteellisiin sisältöihin kuin julkaisumetriikkaan.

16. Viittaa aina kun se on tarkoituksenmukaista alkuperäiskirjallisuuteen, jossa havainnot on ensimmäiseksi raportoitu, äläkä niihin, jotka ovat viitanneet alkuperäislähteisiin. Näin annat kunnian sille, kenelle se kuuluu

17. Käytä lausunnoissasi ja suosituksissasi monipuolisesti artikkeliperustaista metriikkaa näyttönä yksittäisten julkaistujen artikkeleiden ja muiden tutkimustuotosten vaikuttavuudesta [11].

18. Haasta tutkimuksen arvioinnin käytännöt, jotka pohjautuvat asiaankuulumattomasti lehtien vaikuttavuuskertoimiin, ja edistä ja opeta parhaita käytäntöjä, jotka keskittyvät tutkimustuotosten arvoon ja vaikuttavuuteen.

Leidenin manifesti

Helsinki Initiative on Multilingualism in Scholarly Communication (Monikielisen tiedeviestinnän Helsinki-aloite)