Kirjaudu Wikiin oikeasta yläkulmasta, jos haluat kommentoida opasta.

|

Log in from the top right corner if you want to comment on the guide.

You are viewing an old version of this page. View the current version.

Compare with Current View Page History

« Previous Version 11 Next »

In recent years, both national and international recommendations have emerged on the evaluation of researcher, emphasising the priority of qualitative evaluation. In line with the principles of responsible researcher evaluation, publication metrics can only be used to support qualitative evaluation.

If indicators of publication metrics are used in the evaluation, it is important to consider the responsibility and appropriateness of the indicators, for example, through the questions presented in the chapter Indicators:

  • Do the selected indicators provide the information needed for the evaluation?
  • Does the indicator take into account the differences between fields of science?
  • Who might be discriminated against by the indicators selected?
  • Is the indicator based on data that is relevant for the subject of evaluation?

Most indicators describe one aspect of a researcher’s or research group’s publishing activities from a specific perspective. It is recommended that several different indicators are used in order to obtain a wide range of information on the publishing activities. On the other hand, the choice of each indicator used must be justified in terms of the needs of the evaluation. In addition to the results of the analysis, background information relevant to the interpretation of the indicators should also be reported.

The main metrics used to evaluate the publication activity of researchers and research groups are based on the number of publications and the number of citations they receive. Publishing activities can also be viewed from the perspective of collaboration and open access: What proportion of the researcher’s or research group’s publications are collaborative or openly available?  Altmetrics can provide information on the visibility of publications on social media and news services.


Identifying the publications of researchers and research groups 

The publication activity of a researcher or research group is examined using a publication list, if available.  Often publication lists are not available, and publications have to be located from existing databases and data sources.  When locating a researcher’s publications in databases, it is important to ensure that the search is as comprehensive as possible and does not include publications by other researchers with the same name.

The identification of researchers and publications in the database can be complicated by name ambiguities: name changes, people with the same name and different spellings of names. Researcher identifiers make it easier to identify researchers and their publications and to track the citations they receive. However, the identifier may not be present in all of the researcher’s publications, and there is always the possibility of errors in the databases: publications may have an incorrect researcher identifier attached to them.  In Finland, it is recommended to use the international ORCID iD. ORCID iD is a persistent, unique digital identifier. Learn more about researcher identification in the chapter Authorship.

The choice of database or data source must take into account the applicability of the database for the analysis in question. International databases do not include researchers’ publications comprehensively, especially in fields where publications are published in languages other than English. University research databases, on the other hand, contain a wide range of publications in different languages and of different types, but they only focus on the research carried out at a particular university.

Learn more about the citation and publication data sources in the chapters:

Number of publications

When examining the number of publications, it is important to take into account the different publishing practices of the fields of science, for example, in terms of the most commonly used publication types and co-authorship.  In the fields of science where a lot of research is carried out in groups, it may make sense to examine the group rather than the individual researcher.

In addition to the different practices between fields of science, the number of publications is influenced by the resources available, such as the number of researchers working in the research group and the funding received. The number of publications is also affected by the different career paths of researchers, such as parental leave and breaks in their research careers.

Learn more about the number of publications and responsible use of indicators in the chapter Productivity indicators.


Citations

The number of citations received by the publication shows how much it has been used in research since its publication. The citations can be thought to indicate the benefit of the research presented in the publication to the scientific community, and thus its scientific impact. When examining the number of citations, it should be noted that different fields of science have their own publication and citation practices.  The number of citations also depends on the date of publication and the data source used.

The most important sources of citation data are the multidisciplinary Web of Science (WoS), Scopus, Dimensions and Google Scholar. When examining the number of citations, it is worth looking at more than one source of data.

Values with or without self-citations can be taken into account when counting citations and indicators based on citation data. Especially for large research groups with a high output of publications, the number of internal citations can be high.

For more information on citations, see chapters the Citations and Citation impact indicators.


Impact indicators

When examining researchers and research groups, it is possible to use the indicators described in the chapter Citation impact indicators.

When using the citation impact indicators, a sufficient citation time window and a sufficiently large number of publications must be taken into account.  It is not necessarily meaningful to calculate indicators for very small numbers of publications and citations.  Indicators calculated from small numbers of publications and citations are also more sensitive to various disturbances, such as deficiencies in data coverage. The chapter Methodological points of view provides more information on the citation time window and the indicators’ susceptibility to interference.


The h-index is a very widely used and well-known indicator. The h-index aims to measure a researcher’s productivity (number of publications) and the impact of their publications (number of citations).  However, there are many issues with and limitations to its use.  Read about responsible use of the h-index and citation impact indicators in the chapters Indicators and H-index.

Tutkimusyhteistyö ja -verkostot

Yksi näkökulma tutkijan tai tutkimusryhmän julkaisutoiminnan tarkasteluun on selvittää tehtyä tutkimusyhteistyötä: miten paljon julkaisuja on tuotettu kansainvälisessä, kansallisessa tai organisaation sisäisessä yhteistyössä.  Kansainvälisen yhteistyön suhteen on huomioitava tieteenalojen väliset erot.

Tutkimusyhteistyötä voidaan tarkastella myös organisaatiotyyppien näkökulmasta. Tällöin voidaan tarkastella esimerkiksi kuinka paljon julkaisuja on tuotettu yritysten kanssa yhteistyössä.

Lue lisää yhteistyöindikaattoreista ja ja indikaattorien vastuullisesta käytöstä luvusta Yhteistyöindikaatoreita.

Lehtien arvioinnissa käytettävät indikaattorit

Julkaisufoorumi (JUFO) on tieteellisen julkaisutoiminnan laadunarviointia tukeva julkaisukanavien tasoluokitus. JUFO-luokitus on alun perin tarkoitettu yliopistojen tuottamien suurten julkaisumäärien keskimääräisen laadun arviointiin. Luokitusta ei ole tarkoitettu pienempien julkaisumäärien laadun arviointiin, eikä tutkimusryhmien tai yksittäisten tutkijoiden arviointiin tai vertailuun. Lue lisää JUFO:n käytöstä Julkaisufoorumi-luvusta.

Maailmanlaajuisesti tunnetuin lehtien arviointityökalu on lehden Impact factor (IF). Vastuullisen tutkimuksen arvioinnin mukaisesti myöskään Impact factoreita ei tule käyttää yksittäisen tutkijan tai tutkimusryhmän arvioinnissa.  Lue lisää tieteellisten lehtien arvioinnista ja lehtien arvioinnin indikaattoreista Käytetyimpiä julkaisukanavien arviointityökaluja-luvusta

Avoimuuden indikaattorit

Tutkijan tai tutkijaryhmän julkaisujen avointa saatavuutta on mahdollista tarkastella eri tiedonlähteiden avulla. Useimmat kansainväliset tietokannat sisältävät tiedon julkaisujen avoimuudesta. Tieto julkaisun avoimuudesta on usein saatavissa myös organisaatioiden omista tutkimustietojärjestelmistä. Tietokannoissa on tietoa myös julkaisuiden avoimuuden tyypistä. Tyypit voivat olla  esimerkiksi kultainen OA, pronssi OA ja vihreä OA. Eri lähteiden käyttämät avoimuuden määritelmät voivat erota toisistaan paljon.

Lue lisää julkaisujen avoimuudesta luvuista:

Julkaisujen avoin saatavuus

Avoimen julkaisemisen indikaattoreita

Top-listat

Tutkijoista on tehty myös erilaisia, useimmiten julkaisujen saamien viittausten määrään perustuvia top-listauksia. Vastuullisen julkaisumetriikan näkökulmasta tutkijalistaukset ovat ongelmallisia erityisesti siksi, että ne arvottavat tutkijoita ainoastaan julkaisujen saamien viittausten ja niistä johdettujen indikaattoreiden perusteella.

Top-listoihin päätyvät yleensä vain tuotteliaimmat ja eniten viittauksia saaneet tutkijat niiltä tieteenaloilta, joiden kattavuus Top-listan tekemiseen käytetyssä tiedonlähteessä on hyvä.  Muita tutkijalistausten ongelmia ovat tutkijan julkaisuiden luotettava tunnistaminen ja tieteenalaluokituksiin liittyvät ongelmat. Esimerkki tutkijoiden top-listasta on Highly Cited Researchers. Lista sisältää ainoastaan eri tieteenalojen eniten viitattuja tutkijoita Web of Science -tietokannan sisältämistä julkaisuista.


Lähteet

Hirsch , J.E. (2005). An index to quantify an individual’s scientific research output. Proceedings of the National Academy of Sciences 102, 16569–16572. https://doi.org/10.1073/pnas.0507655102

Tutkijoiden ja tutkimusryhmien vastuullinen analysointi

Tutkijoiden arviointia tulee tehdä vastuullisen arvioinnin periaatteiden mukaisesti. Suomessa on julkaistu kaksi kansallista suositusta arvioinnista: 

  • Tutkijanarvioinnin hyvät käytännöt. Vastuullisen tutkijanarvioinnin kansallinen suositus. Suosituksen pääperiaatteita ovat läpinäkyvyys, integriteetti, tasapuolisuus, pätevyys ja monimuotoisuus.

  • Kansallinen suositus julkaisumetriikan vastuullisesta käytöstä. Suosituksen pääperiaatteita ovat:
    1) Julkaisumetriikkaa voidaan käyttää laadullisen asiantuntija-arvioinnin tukena.
    2) Valittujen menetelmien ja mittareiden tulee soveltua arvioinnin kohteeseen ja tarkoitukseen.     
    3) Koko arviointiprosessin tulee olla mahdollisimman avoin ja läpinäkyvä: data, analyysimenetelmät ja tulokset.

Lue lisää: Suomen kansalliset suositukset.

Lisäksi useat suomalaiset yliopistot ovat sitoutuneed DORA-suositukseen, jonka keskeinen periaate on laadullisen arvioinnin ensisijaisuus  ja julkaisukanaviin pohjautuvien metriikoiden käytön välttäminen yksittäisen artikkelin laadun mittaamisen korvikkeena.

Lue lisää: Kansainvälisiä suosituksia.

  • No labels