Julkaisufoorumi ja rahoitus- ja arviointijärjestelmien muutokset Pohjoismaissa ja Euroopassa

Koristeellinen.

Julkaisufoorumi ja rahoitus- ja arviointijärjestelmien muutokset Pohjoismaissa ja Euroopassa

Yliopistojen rahoitus- ja arviointijärjestelmät ovat muutoksissa Pohjoismaissa ja laajemminkin Euroopassa. Tämä avaa Suomessa hyvän aikaikkunan kehittää myös Julkaisufoorumia ja sen tuottamaa JUFO-luokitusta, joka on ollut vuodesta 2015 lähtien sidoksissa yliopistojen rahoitusmalliin.
Janne Pölönen

Tieteen ja tutkimuksen maailmanlaajuisessa toimintaympäristössä Pohjoismaita ovat perinteisesti yhdistäneet samanlaiset arvot ja toimintakulttuuri. Tutkimuksen vapaus, eettisyys, vastuullisuus, laatu, avoimmuus, vaikuttavuus, kansainvälisyys ja monimuotoisuus luovat vahvan pohjan yhteistyölle. Jopa yliopistojen rahoitusmallit ovat samankaltaisia verrattuna moniin muihin maihin.

Nyt tilanne on muuttumassa. Tanskan opetus- ja tiedeministeriö lakkautti joulukuussa 2021 yliopistojen rahoitusmallissa julkaisuindikaattorin ja siihen liittyvän julkaisukanavien tasoluokituksen, joka oli ollut käytössä yli kymmenen vuotta. Rahoitusmallia uudistetaan myös Norjassa, missä otettiin vuonna 2005 käyttöön julkaisuindikaattori, joka toimi esikuvana myös Tanskan ja Suomen Julkaisufoorumille (JUFO).

Julkaisuindikaattorit ovat osa 2000-luvulla tapahtunutta kehitystä, jossa yliopistojen perusrahoitus on Pohjoismaissa1, kuten Euroopassa ylipäätään2, perustunut yhä enemmän koulutuksen ja tutkimuksen tuloksiin. Julkaisujen lisäksi keskeisimpiä indikaattoreita ovat suoritettujen maisterin- ja tohtorintutkintojen määrät sekä kilpailtu tutkimusrahoitus.

Suomessa yliopistojen nykyinen rahoitusmalli koostuu kymmenestä koulutuksen ja tutkimuksen indikaattorista. Tieteelliset julkaisut ovat yksi niistä. Lisäksi on strategiaperusteinen rahoitusosuus, josta sovitaan opetus- ja kulttuuriministeriön (OKM) ja kunkin korkeakoulun kesken. OKM on asettamassa työryhmän arvioimaan rahoitusmallin uudistustarpeita sopimuskaudelle 2025–2028.

Kesään 2023 mennessä OKM toteuttaa myös kansainvälisen arvioinnin, jossa selvitetään yliopistojen ja ammattikorkeakoulujen rahoitusmallien vaikuttavuutta ja lisäarvoa sekä ministeriön rahoitusohjauksen vahvuuksia ja kehittämistarpeita. Arviointikokonaisuutta täydentää myös Helsinki Graduate School of Economicsin selvitys rahoitusmallin kannustimien vaikutuksista ja ennustettavuudesta.

Julkaisujen sekä Tieteellisten seurain valtuuskunnan (TSV) toteuttaman JUFO-luokituksen roolia yliopistojen rahoitusmallissa todennäköisesti pohditaan myös pohjoismaisen kehityksen valossa3. Oman lisänsä keskusteluun tuo Euroopan komission edistämä kansainvälinen vastuullisen arvioinnin uudistus, jota koskeva sopimus valmistui heinäkuussa.

Tanska lakkautti julkaisuindikaattorinsa

Joulukuussa 2021 Tanskan opetus- ja tiedeministeriö julkaisi tiedotteen hallituspuolueiden uudesta sopimuksesta, joka koski tanskalaisten yliopistojen rahoitusmallia vuodesta 2022 alkaen4. Sopimuksessa on kaksi keskeistä uudistusta.

Ensiksi Aalborgin, Roskilden ja Etelä-Tanskan yliopistot sekä Kööpenhaminan IT-yliopisto saavat lisärahoitusta. Näiden yliopistojen katsotaan tuottavan tutkimus- ja innovaatioparametrien valossa vastinetta tutkimusrahalle ja olevan tärkeitä paikallisen liike-elämän ja kasvualojen työvoimatarpeen kannalta. Muutos myös tasaa resursseja uudempien teknillisten ja perinteisten tiedeyliopistojen välillä5.

Toinen uudistus koskee rahoitusmallin indikaattoreita. Koulutuksen, kilpaillun tutkimusrahoituksen ja tohtorintutkintojen määrien perusteella jaettavan suoritusperusteisen rahoituksen osuus kasvaa6. Kuitenkin julkaisuindikaattorin (BFI) perusteella jaettava osa rahoituksesta tullaan jakamaan yliopistojen kesken vuoden 2021 jakosuhteen mukaisesti.

Ministeriö ei enää jatka itse hallinnoimaansa julkaisujen laskentaa ja julkaisukanavien tasoluokituksen päivittämistä. Syyksi ilmoitettiin hallinnon yksinkertaistaminen ja se, että haluttiin vapauttaa työaikaa 430 tutkijalta, jotka olivat osallistuneet julkaisukanavien arviointiin 67 tieteenaloittaisessa paneelissa. BFI:lle ei esitetty korvaavaa julkaisuindikaattoria.

Norjan rahoitusmallin uudistus

Norjassa harkitaan parhaillaan laajaa uudistusta yliopistojen rahoitusmalliin7. Opetus- ja kulttuuriministeriön asettama rahoitustyöryhmä ehdotti helmikuussa julkaistussa raportissaan rahoitusmallin indikaattorien vähentämistä kahdeksasta kahteen8. Muutosten toivotaan vahvistavan Norjan korkeakoulusektorin monimuotoisuutta, yksinkertaistavan rahoitusjärjestelmää ja vähentävän byrokratiaa.

Työryhmän mukaan julkaisuindikaattorista voitaisiin luopua, koska se on tehnyt tehtävänsä ja julkaisukulttuuri on vuoden 2005 jälkeen muuttunut.

Kaikki tutkimuksen indikaattorit, mukaan lukien julkaisut ja kilpailtu tutkimusrahoitus, poistettaisiin rahoitusmallista ja jäljelle jäisivät maisterin- ja tohtorintutkinnot. Työryhmän mukaan julkaisuindikaattorista voitaisiin luopua, koska se on tehnyt tehtävänsä ja julkaisukulttuuri on vuoden 2005 jälkeen muuttunut. Uutena rahoitusperusteena käytettäisiin Suomen tapaan ministeriön ja yliopistojen keskinäisiä kehityssopimuksia.

Norjan rahoitustyöryhmä kuitenkin pitää tärkeänä, että Norjan tieteellisestä julkaisutoiminnasta saadaan jatkossakin kokonaiskuva, joka perustuu vahvaan ja kattavaan kansalliseen julkaisuaineistoon. Näin ollen ministeriön tulisi jatkaa rahoitusmallin uudistuksesta huolimatta yliopistojen tieteellisten julkaisujen raportointivaatimuksia ja varmistaa tietopohjan laatu julkaisukanavien arvioinnin perusteella.

Rahoitustyöryhmän näkemyksen mukaan luotettavasti vertaisarvioitujen julkaisukanavien (taso 1) tunnistaminen ja erottaminen saalistajalehdistä sekä vertaisarvioimattomista kanavista (taso 0) on tärkeää, vaikka julkaisuindikaattori poistetaan rahoitusmallista. Eri alojen johtaville julkaisukanaville tarkoitetun tasoluokan 2 merkitys saattaisi kuitenkin jäädä entistä vähäisemmäksi.

Julkaisukanavaluokitusten käyttö Ruotsissa ja Islannissa

Ruotsissa yliopistojen tulosperusteisen rahoitusmallin julkaisuindikaattori perustuu yksinomaan Web of Science -tietokannan julkaisu- ja viittaustietoihin9, jotka kattavat puutteellisesti etenkin humanististen ja yhteiskuntatieteellisten alojen julkaisutoimintaa.

Moni ruotsalainen yliopisto käyttääkin Norjan julkaisukanavien tasoluokitukseen ja omaan julkaisuaineistoon perustuvaa julkaisuindikaattoria sisäisissä rahoitusjärjestelmissä ja arvioinneissa10. Tämä ei kuitenkaan vaikuta yliopistojen perusrahoitukseen.

Vetenskapsrådet on myös toteuttanut kansallisen julkaisukanavaluettelon (Svenska listan)11, jonka tavoitteena on varmentaa kansallisesti kattavan Swepub-julkaisutietokannan sisältö julkaisutoiminnan analyysejä varten. Svenska listan on luettelo kriteerit täyttävistä vertaisarvioiduista kanavista (vertaa taso 1) ilman laatuerotteluja (vertaa tasot 2 ja 3). Se hyödyntää tietolähteenä Norjan, Suomen ja Tanskan asiantuntija-arviointiin perustuvia julkaisukanavien luokituksia.

Islannin yliopiston tiede- ja innovaatio-osasto vastaa maan julkisten yliopistojen arviointijärjestelmästä12. Joulukuussa 2021 se julkaisi uuden arviointijärjestelmän, joka perustuu vuodesta 2022 alkaen yliopistojen tutkijoiden tutkimus-, koulutus- ja muun toiminnan pisteytettyihin suoritteisiin.

Tieteellisten lehtiartikkelien pisteytyksessä Islannin uusi arviointijärjestelmä hyödyntää lehtien vaikuttavuuskertoimia, JUFO-luokkia ja Norjan luokitusta. Tieteellisten kirjojen ja kirja-artikkelien pisteytys perustuu kirjakustantajien JUFO-luokitukseen. Tuotosten mekaanista pisteytystä voidaan poikkeustapauksissa täydentää asiantuntijoiden suorittamalla arvioinnilla.

Julkaisufoorumi Suomen rahoitusmallissa

Tieteellisiä julkaisuja on käytetty yliopistojen rahoituksen määrällisenä indikaattorina vuodesta 2007 alkaen, jolloin niiden osuus oli vain 0,3 prosenttia perusrahoituksesta. Julkaisufoorumin perustamisen myötä tutkimuksen painoarvoa yliopistojen rahoitusmallissa on voitu lisätä siten, että julkaisutoimintaa ei arvioida ja kannusteta yksinomaan julkaisujen määrän perusteella13.

Yliopistojen rehtorineuvoston (UNIFI) työryhmä, joka pohti laadunarvioinnin kehittämistä, julkaisi vuonna 2010 raportin14. Sen mukaan JUFOlla oli kaksi keskeistä etua verrattuna kansainvälisiin WoS ja Scopus -viittaustietokantoihin: julkaisutoiminnalla on laajempi kattavuus, ja ”tiedeyhteisö itse määrittää, mikä on hyvää tutkimusta ja minkälaiset kriteerit ovat voimassa sen arvioimiseksi”.

Kattavan kansallisen julkaisuaineistoon ja JUFO-luokitukseen perustuvalla julkaisuindikaattorilla on vuodesta 2015 alkaen jaettu 13 prosenttia yliopistojen perusrahoituksesta – vuodesta 2021 alkaen 14 prosenttia15.

Vertaisarvioituja julkaisuja painotetaan julkaisutyypin, julkaisukanavan JUFO-luokan (1=perus; 2=johtava; 3=top; 0=muut) ja avoimen saatavuuden perusteella. Muista Pohjoismaista poiketen indikaattori sisältää myös ammatilliset ja yleistajuiset julkaisut.

Laatunäkökohdan huomiointi on toiminut sikäli, että suomalaisten yliopistojen julkaisutoiminta on suuntautunut tasoluokan 0 kanavista tasoluokan 1 ja erityisesti tasoluokkien 2 ja 3 kanaviin16. Yliopistojen opetus- ja tutkimushenkilöstön määrällinen julkaisutuottavuus näyttäisi myös vähentyneen sen jälkeen, kun JUFO-luokitus lisättiin rahoitusmalliin vuonna 201517.

Julkaisutoiminnan siirtyminen korkeamman JUFO-tason kanaville ei ole tapahtunut ammatillisen ja yleistajuisen tai suomenkielisen julkaisutoiminnan kustannuksella18. Voidaan todeta, että JUFO-luokitus ei myöskään ole estänyt avoimen saatavuuden myönteistä kehitystä19.

Vuonna 2016 avoimesti saatavilla oli 30 prosenttia julkaisuista, kun vuonna 2021 vastaava määrä oli lähes 80 prosenttia. Kehitystä vauhdittavat avointen julkaisujen painotus yliopistojen rahoitusmallissa ja FinELibin avoimen julkaisemisen etuudet.

Eurooppalainen vastuullisen arvioinnin uudistus

Keskustelua Julkaisufoorumista ja sen käytöstä suuntaa myös Euroopan unionin edistämä vastuullisen arvioinnin uudistus20.

Uudistuksen tavoite on, että organisaatio- ja yksilötason arvioinneissa ja kannustimissa huomioidaan entistä monipuolisemmin akateemista työtä, tuotoksia ja avointa tiedettä. Uudistus pyrkii poistamaan julkaisu- ja julkaisukanavakohtaisen metriikan – erityisesti Journal Impact Factorin (JIF) ja H-indeksin – käyttöä tutkijan, tutkimuksen ja tutkimusorganisaatioiden arvioinnissa ja rahoituksessa21.

Suomessa vastuullisen arvioinnin edistämisessä ollaan pitkällä etumatkalla.

Yli 350 organisaatiota yli 40 maasta osallistui heinäkuussa 2022 European University Associationin ja Science Europen johdolla julkaistun vastuullisen arvioinnin uudistamista koskevan sopimuksen viimeistelyyn22. Suomesta mukana olivat TSV, Suomen Akatemia ja kahdeksan yliopistoa. Sopimuksen allekirjoittavat organisaatiot sitoutuvat edistämään uudistusta osana kansainvälistä vastuullisen arvioinnin yhteenliittymää23.

Suomessa vastuullisen arvioinnin edistämisessä ollaan pitkällä etumatkalla. Sopimuksen tavoitteet ovat hyvin linjassa Tutkijanarvioinnin hyvät käytännöt -suosituksen kanssa24, jonka suomalainen tiede- ja tutkimusyhteisö julkaisi vuonna 2020 TSV:n johdolla.

TSV:n asettama laajapohjainen vastuullisen tutkijanarvioinnin ohjausryhmä arvioi suosituksen päivitystarpeet sekä seuraa ja edistää sen toimeenpanoa25. Suomen Akatemia ja UNIFI ovat sitoutuneet kansalliseen suositukseen26, 27.

TSV tulee allekirjoittamaan kansainvälisen vastuullisen arvioinnin sopimuksen syyskuussa 2022. Allekirjoittaneiden organisaatioiden tulee laatia toimintasuunnitelma omien arviointikäytänteidensä tarkistamiseksi vuoden 2023 loppuun mennessä ja toteuttaa muutoksia vuoteen 2027 mennessä. Tämä on hyvä aikaikkuna myös JUFO-luokituksen ja Julkaisufoorumin kehittämiselle.

Julkaisufoorumilla on heikkouksia ja vahvuuksia

Ehkä kiistanalaisin JUFO-luokituksen ominaisuus on tasoluokkien lukumäärä ja koko. Tänä vuonna tasojen 2 ja 3 osuutta julkaisukanavista laajennetaan28. Silti on syytä arvioida kriittisesti eri käyttäjäryhmien kanssa 4-portaisen (0, 1, 2, 3) tasoluokituksen tarkoituksenmukaisuutta.

Vuonna 2021 valmistui JUFOn itsearviointi vuosien 2010–2020 toiminnasta29. Itsearvioinnin panelistikyselyyn vastasi 170 eri alojen asiantuntijaa. Heistä 94 prosenttia piti tasojen 0 ja 1 välistä erottelua tärkeänä tai erittäin tärkeänä. Tasojen 1 ja 2 erottelun suhteen osuus oli 74 prosenttia ja tasojen 2 ja 3 osalta 35 prosenttia.

Vaikka pohjoismaiset julkaisukanavaluokitukset ovat huomattavasti inklusiivisempia kuin JIF:iin perustuvat lehtirankigit30, JUFO-luokituksen käytön keskeisin haaste on sen perustuminen julkaisukanavaan. Luokitusta ei ole tarkoitettu DORA-julistuksen vastaisesti yksittäisen julkaisun tai tutkijan arviointiin, mutta se on yhtä altis väärinkäytölle kuin JIF31.

Onkin harkittava entistä huolellisemmin, mihin ja miten JUFOn tuottamaa arviointitietoa käytetään vastuullisesti. JUFO-luokituksen käyttöohjeen päivittäminen ja noudattaminen ovat osa vastuullisen arvioinnin uudistusta32.

Korkeamman JUFO-luokan lehdissä julkaistu suomalainen tutkimus on kokonaisuutena keskimäärin huomattavasti viitatumpaa kuin alemman tasoluokan lehdissä julkaistu tutkimus.

Julkaisukanavien arviointiin liittyvä työmäärä oli yksi seikka, millä perusteltiin Tanskassa julkaisuindikaattorin lakkauttamista. Myös JUFOn itsearvioinnissa kiinnitettiin huomiota 23 paneelissa toimivan noin 250 asiantuntijan työmäärään. Todettiin, että JUFO-luokitus on rahoitusmallin tarpeisiin erittäin kustannustehokas laatuindikaattori33. Jatkossa panelistien työmäärää kevennetään siirtämällä JUFOn sihteeristön tehtäväksi työtä, joka liittyy tasoluokan 1 muodollisten kriteerien tarkistamiseen.

Asiantuntija-arviointiin perustuvan luokituksen riippumattomuutta on myös kyseenalaistettu34, ja tutkijat ja eri alojen edustajat voivat olla erimielisiä yksittäisten kanavien tasoluokista.

Kokonaisuutena asiantuntijapaneelien työhön voidaan kuitenkin luottaa suurten julkaisumäärien laadun mittarina33. JUFO-luokituksen tuottamat tulokset ovat yhdenmukaisia suhteessa kansainvälisen viittausanalyysin ja Suomen Akatemian kansainvälisten asiantuntija-arviointien kanssa.

Korkeamman JUFO-luokan lehdissä julkaistu suomalainen tutkimus on kokonaisuutena keskimäärin huomattavasti viitatumpaa kuin alemman tasoluokan lehdissä julkaistu tutkimus29. Suomalaisten yliopistojen Suomen Akatemian rahoituksella tuottamasta tutkimuksesta julkaistiin vuosina 2015–2018 JUFO-tason 2–3 kanavissa huomattavasti suurempi osuus (45 prosenttia) kuin yliopistoissa keskimäärin (32 prosenttia)34.

Tietoa julkaisukanavien laadusta ja avoimuudesta tarvitaan jatkossakin

Tieto siitä, missä lehdissä ja kustantajilla tutkimusta julkaistaan, on olennainen osa kansallisen tason kokonaiskuvaa tieteellisestä toiminnasta. Tämä tieto on tärkeää siihen katsomatta, käytetäänkö JUFO-luokitusta tavalla tai toisella yliopistojen rahoitusmallissa vai ei. Julkaisukanavien arviointi myös varmistaa kansallisten julkaisuaineistojen laatua11. On tärkeää turvata julkaisutiedonkeruuseen ja Julkaisufoorumin toimintaan perustuvan kattavan tietopohjan jatkuvuus.

Julkaisufoorumi edistää ja tekee näkyväksi suomalaisen tutkimuksen laatua ja vaikuttavuutta. Rahoitusmallin ohella JUFO-luokituksen tuottamaa tietopohjaa on hyödynnetty useissa yliopistojen omissa tutkimuksen arvioinneissa35, 29 ja sisäisissä rahoitusmalleissa36. Suomen Akatemian Tieteen tila 2022 -tilastoissa JUFO 2–3-tasojen osuutta julkaisuista on hyödynnetty, kun on tarkasteltu yliopistojen ja ammattikorkeakoulujen julkaisutoimintaa37.

Tutkimustietovarannon näkökulmasta JUFO-portaali muodostaa tärkeän kansallisen tietolähteen julkaisukanavien laadusta ja avoimuudesta. Sinne on rekisteröity tiedot yli 35 000 julkaisukanavasta, jotka on arvioitu ja luokiteltu Julkaisufoorumissa. Kanavien laatua ja avointa saatavuutta koskeva monipuolinen tietopohja auttaa tutkijoita löytämään ja hyödyntämään luotettavia avoimen julkaisemisen mahdollisuuksia38.

Tieteellisten julkaisukanavien laadunarviointi ei ole menettämässä merkitystään.

Julkaisufoorumin toiminnan kehittämisessä tulee huomioida, kuinka julkaisukanavien asiantuntija-arviointiin perustettu järjestelmä voi parhaalla tavalla tukea vastuullisen arvioinnin tavoitteita.

Uudistuksen keskeisiä tavoitteita on tiedeyhteisölähtöisen laadullisen arvioinnin lisääminen kaikilla tasoilla yliopistojen arvioinneista yksittäisten tutkijoiden arviointiin22. Tiedeyhteisön edustajista koostuvien asiantuntijapaneeleiden toimintamallia on mahdollista hyödyntää kansallisella tasolla monimuotoisten tuotosten ja aktiviteettien39 sekä erilaisten kokonaisuuksien arviointiin.

Kuten Norjan rahoitustyöryhmä toteaa8, myöskään tieteellisten julkaisukanavien laadunarviointi ei ole menettämässä merkitystään. On arvioitu, että maailmassa julkaistaan yli 70 000 tieteellistä julkaisusarjaa, ja julkaisukanavien lukumäärä ja laatuvaihtelu kasvaa40.

Myös avoimen tieteen aikakaudella tarvitaan foorumi, jossa erityisesti tutkijat tieteenalojensa parhaiden käytänteiden asiantuntijoina voivat arvioida julkaisukanavien laatua ja keskustella kriittisesti julkaisutoiminnan muutoksista.

Janne Pölönen on Julkaisufoorumin pääsihteeri.

Loppuviitteet

1
Pinheiro R., Geschwind L., Foss Hansen H. & Pulkkinen K. (2019). Reforms, Organizational Change and Performance in Higher Education : A Comparative Account from the Nordic Countries. Cham: PalgraveMacmillan. http://dx.doi.org/10.1007/978-3-030-11738-2_2
2
Sivertsen, G. (2017). Unique, but still best practice? The Research Excellence Framework (REF) from an international perspective. Palgrave Communications, 3, 17078. https://doi.org/10.1057/palcomms.2017.78
3
Niinimäki S. (2022). 20 vuotta avointa tiedettä, mitä sitten? Tietolinja. https://urn.fi/URN:NBN:fi-fe2022061546937
4
Uddannelses- og Forskningsministeriet (2022). Ny aftale styrker universiteternes forskningsindsats med millioner. https://ufm.dk/aktuelt/pressemeddelelser/2021/ny-aftale-styrker-universiteternes-forskningsindsats-med-millioner
5
Baggersgaard, C. (2021). “Unge” universiteter får flere basismidler – opgør om ulige fordeling udsat. Forskerforum – DM. https://www.forskerforum.dk/magasinet/2021/348/unge-universiteter-faar-flere-basismidler-opgoer-om-ulige-fordeling-udsat
6
Frandsen, S. (2021). Her er aftalen om universiteternes forskningsmidler. Science Report. https://sciencereport.dk/politik/her-er-aftalen-om-universiteternes-pengekasser/
7
Kunnskapsdepartementet (2022). Ekspertutvalg vil kutte kraftig i tellekantene. https://www.regjeringen.no/no/aktuelt/ekspertutvalg-vil-kutte-kraftig-i-tellekantene/id2904389/
8
Kunnskapsdepartementet (2022). Finansiering av universiteter og høyskoler. Rapport til Kunnskapsdepartementet 17. mars 2022 fra et utvalg nedsatt 9. september 2021. https://www.regjeringen.no/contentassets/6c4c7be66d5c4a028d86686d701a3a96/ f-4475-finansiering-av-universiteter-og-hoyskoler.pdf
9
Vetenskapsrådet (2022). Bibliometri – ett mått på forskningens kvalitet. https://www.vr.se/analys/sa-arbetar-vi-med-analys/bibliometri.html
10
Hammarfelt, B. (2018). Taking Comfort in Points: The Appeal of the Norwegian Model in Sweden. Journal of Data and Information Science, 3/4, 85–95. https://doi.org/10.2478/jdis-2018-0023
11
Vetenskapsrådet (2022). Svenska listan – ett register över sakkunniggranskade publiceringskanaler i Swepub. https://www.vr.se/uppdrag/oppen-vetenskap/svenska-listan---sakkunniggranskade-kanaler-i-swepub.html
12
University of Iceland, Division of Science and Innovation (2021). Evaluation System for Public Higher Education Institutions. https://www.hi.is/sites/default/files/brynjadis/evaluation_system_for_publichighereducationinstitutions-2022.pdf
13
Pölönen, J. (2018). Applications of, and Experiences with, the Norwegian Model in Finland. Journal of Data and Information Science, 3/4: 31–44. https://doi.org/10.2478/jdis-2018-0019
14
UNIFI (2010). Julkaisujen laadunarvioinnin kehittäminen: Suomen yliopistojen rehtorien neuvoston työryhmän ehdotus. https://docplayer.fi/35759372-Julkaisujen-laadunarvioinnin-kehitta-minen-suomen-yliopistojen-rehtorien-neuvoston-tyoryhman-ehdotus.html
15
OKM (2018). Luovuutta, dynamiikkaa ja toimintamahdollisuuksia: ehdotus ammattikorkeakoulujen ja yliopistojen rahoitusmalleiksi vuodesta 2021 alkaen. Opetus- ja kulttuuriministeriön julkaisuja 2018:35. https://julkaisut.valtioneuvosto.fi/bitstream/handle/10024/161252/okm35.pdf?sequence=1&isAllowed=y
16
Seuri, A. ja Vartiainen, H. (2018). Yliopistojen rahoitus, kannustimet ja rakennekehitys. Talouspolitikan arviointineuvoston taustaraportti. https://www.talouspolitiikanarviointineuvosto.fi/wordpress/wp-content/uploads/2018/01/Seuri_Vartiainen_2018-1.pdf
17
Laura Himanen & Hanna-Mari Puuska (2022). Does monitoring performance act as an incentive for improving research performance? National and organizational level analysis of Finnish universities. Research Evaluation, 31/2, 236–248. https://doi.org/10.1093/reseval/rvac004
18
Puuska, H.-M. & Pölönen, J. (2021). Tieteellisen julkaisemisen monimuotoisuus ja tutkimuksen vastuullinen arviointi. Tiedepolitiikka, 46. https://journal.fi/tiedepolitiikka/article/view/107765 (preprint)
19
Ilva J (2022). Avointen tiedejulkaisujen osuus jatkoi kasvuaan vuonna 2021. Tietolinja, 2022(1). https://urn.fi/URN:NBN:fi-fe2022061546941
20
Council of the European Union (2022). Outcome of proceedings 10126/22. https://www.consilium.europa.eu/media/56958/st10126-en22.pdf
21
European Commission, Directorate-General for Research and Innovation (2021). Towards a reform of the research assessment system: scoping report. https://data.europa.eu/doi/10.2777/707440
22
Agreement on Reforming Research Assessment. https://research-and-innovation.ec.europa.eu/system/files/2022-07/rra-agreement-2022.pdf
23
European Commission (2022). Reforming research assessment: The Agreement is now final. https://research-and-innovation.ec.europa.eu/news/all-research-and-innovation-news/reforming-research-assessment-agreement-now-final-2022-07-20_en
24
Vastuullisen tutkijanarvioinnin työryhmä (2020). Tutkijanarvioinnin hyvät käytännöt. Vastuullisen tutkijanarvioinnin kansallinen suositus. Vastuullisen tieteen julkaisusarja 5. https://doi.org/10.23847/isbn.9789525995268
25
Vastuullinen tiede (2022). Vastuullinen tutkijanarviointi. https://vastuullinentiede.fi/fi/vastuullinen-tiede/vastuullinen-tutkijanarviointi
26
Suomen Akatemia (2022). Vastuullinen tutkijanarviointi. https://www.aka.fi/tutkimusrahoitus/vastuullinen-tiede/vastuullinen-tutkijanarviointi/
27
UNIFI (2021). Kestävän kehityksen ja vastuullisuuden teesit. https://unifi.fi/viestit/kestavan-kehityksen-ja-vastuullisuuden-teesit/
28
Julkaisufoorumi (2021). Ohjausryhmä päivitti julkaisukanavien arviointiohjeen. https://julkaisufoorumi.fi/fi/ajankohtaista/ohjausryhma-paivitti-julkaisukanavien-arviointiohjeen
29
Pölönen, J., Pylvänäinen, E., Aspara, J., Puuska, H.-M. ja Rinne, R. (2021). Publication Forum 2010–2020: Self-evaluation report of the Finnish quality classification system of peer-reviewed publication channels. Web publications of Federation of Finnish Learned Societies 9. https://doi.org/10.23847/isbn.9789525995442
30
E. Kulczycki, Y. Huang, A. Zuccala, T. Engels, A. Ferrara, R. Guns, J. Pölönen, G. Sivertsen, Z. Taşkın & L. Zhang (2022). Uses of the Journal Impact Factor in national journal rankings in China and Europe. Journal of the American Society for Information Science. https://doi.org/10.1002/asi.24706 (preprint).
31
Wahlfors, L. ja Pölönen, J. (2018). Julkaisufoorumi-luokituksen käyttö yliopistoissa. Hallinnon Tutkimus, 37: 7–21. https://journal.fi/hallinnontutkimus/article/view/98171/56085
32
Julkaisufoorumi (2020). Julkaisufoorumi-luokituksen käyttöohje 2019. https://edition.fi/tsv/catalog/book/166
33
Pölönen, J., Pylvänäinen, E., Aspara, J., Puuska, H.-M., & Rinne, R. (2021). Itsearviointi Julkaisufoorumin toiminnan ja kehittämisen apuna. Tieteessä tapahtuu, 39(2). https://journal.fi/tt/article/view/107632
34
J. Pölönen & O. Auranen (2022). Research performance and scholarly communication profile of competitive research funding: the case of Academy of Finland, Scientometrics. https://doi.org/10.1007/s11192-022-04385-8
35
Wang, L., Vuolanto, P. & Muhonen, R. (2014). Bibliometrics in the research assessment exercise reports of Finnish universities and the relevant international perspectives, Tampere: University of Tampere. http://tampub.uta.fi/handle/10024/96266
36
Kivistö, J., Pekkola, E. & Kujala, E. (2021). Selvitys yliopistojen sisäisistä rahoitusmalleista Osa 1: Yliopistojen sisäiset rahoitusmallit. https://www.professoriliitto.fi/@Bin/1365266/Yliopistojen+sisa%CC%88iset+rahoitusmallit.pdf
37
Suomen Akatemia (2022). Tieteen tila -tilastot: Tieteellinen julkaisutoiminta. https://www.aka.fi/globalassets/2-suomen-akatemian-toiminta/2-tietoaineistot/tieteellinen-julkaisutoiminta.pdf
38
Julkaisufoorumi (2022). Tutustu JUFO-portaalin uusiin avoimen saatavuuden ominaisuuksiin. https://julkaisufoorumi.fi/fi/ajankohtaista/tutustu-jufo-portaalin-uusiin-avoimen-saatavuuden-ominaisuuksiin
39
Hidden REF. https://hidden-ref.org/
40
Pölönen, J., Guns, R., Kulczycki, E., Sivertsen, G., & Engels, T. C. E. (2020a). National Lists of Scholarly Publication Channels: An Overview and Recommendations for Their Construction and Maintenance. Journal of Data and Information Science, 6/1, 50–86. https://doi.org/10.2478/jdis-2021-0004