O tym, że ocenianie opisów wpływu z formularzem KEN jest nudne, żmudne, a sama ocena ma w połowie charakter para-formalny. Na koniec zaś wyniki oceny zostają spłaszczone.
Przeprowadziłam ostatnio próbną ocenę kilku opisów wpływu używając formularza z nowego Przewodnika KEN. W efekcie tego ciekawego ćwiczenia:
- Uświadomiłam sobie, do jakiego stopnia skomplikowane są obecne zasady oceny wpływu społecznego. Z początku przeliczałam wszystko ręcznie. Wydawałoby się, że przy operacjach do 100-120 pkt to niewielki kłopot. A jednak wciąż się gubiłam, głównie ze względu na konieczność operowania dwiema oddzielnymi skalami. Ostatecznie stworzyłam formularz Excel, który wszystko zlicza, „przeskalowuje” i podsumowuje (więcej info niedługo!).
- Przypomniałam sobie, co mi się nie podobało w Przewodniku KEN. Przez dążenie do precyzyjnego „owskaźnikowania” miękkiej i subiektywnej materii, jaką jest wpływ społeczny, otrzymuje się sprzeczne ze zdrowym rozsądkiem absurdy. To dla mnie esencja „polskiej szkoły ewaluacji”, charakteryzującej się obsesją na punkcie wskaźników i punktów. W ewaluacji wpływu społecznego są one równorzędne z jakościową oceną ekspertów. Ci mają niemal związane ręce (a nie musi tak być – o czym piszę w ostatnim akapicie).
- Zdałam sobie sprawę, że dominacja kryteriów „para-formalnych”, a potem osobliwy proces „przeskalowywania” prowadzą do efektu „spłaszczenia oceny”. W efekcie, ocena istoty rzeczy (wpływu społecznego badań) ma stosunkowo małe przełożenie na końcowy wynik (50%, jak wykażę dalej).
Post-punktoza: it’s not as cool as it sounds
W ewaluacji w 2021 r. opisy były oceniane pod kątem znaczenia i zasięgu – każdy z tych wymiarów miał równą wagę 50%. W bieżącej ewaluacji kryteria pozostały te same. Ale łączna pula została rozdzielona pomiędzy szczegółowe pytania, za które przysługuje określona liczba punktów.
Sęk w tym, że pytania te w większości nie odnoszą się w ogóle do oceny merytorycznej samego wpływu. Stanowią raczej rodzaj rozbuchanej oceny formalnej. Teoretycznie wiedziałam to już po lekturze Przewodnika. Ale dopiero wykonanie ćwiczenia uświadomiło mi jak powolną, nużącą i nieinspirującą pracą jest oceniane opisów wpływu według tych punktów.
Czy właśnie tym powinny zajmować się najtęższe umysły polskiej nauki? Czy ten żywy i fascynujący obszar akademickiej działalności (współpraca z otoczeniem! zmienianie świata na lepsze!) trzeba było koniecznie wtłoczyć w tak sztywny gorset?

Wszyscy jesteśmy ekpsert(k)ami
To was nie zraża i chcecie wczuć się w rolę eksperta oceniającego wniosek? Przejdźmy razem przez formularz KEN (str. 25) oceniając wymyślony opis wpływu. Załóżmy, że jest to opis złożony przez Centralny Uniwersytet. Dotyczy on opracowania i wprowadzenia do produkcji, we współpracy z producentem, ulepszonych nakrętek do lakierów do paznokci. Zacznę od moich uwag do każdego punktu, a poniżej pokażę, jak mogłaby wyglądać przykładowa ocena.
Tytuł opisu wpływu: Lżejsze, bardziej ekologiczne zakrętki lakierów do paznokci i trwalszy lakier – rewolucja w salonach kosmetycznych
Ocena ZNACZENIA wpływu działalności naukowej na funkcjonowanie społeczeństwa i gospodarki
- W jakim stopniu działalność naukowa przyczyniła się do zaistnienia wpływu społecznego? (max 15 pkt)
- Działalność naukowa była niezbędna do zaistnienia wpływu społecznego (15)
- Działalność naukowa była w dużym stopniu konieczna do zaistnienia wpływu społecznego (10)
- Działalność naukowa tylko w nieznacznym stopniu przyczyniła się do zaistnienia wpływu społecznego (5)
- Działalność naukowa nie jest powiązana z przedstawionym opisem wpływu społecznego (0)
Komentarz do podpunktu 1.1
Zastanawia mnie, czemu to pytanie jest elementem oceny znaczenia wpływu? Czemu nie zasięgu?
Według mnie, jest to zagadnienie z porządku oceny formalnej. Powinno być raczej warunkiem wstępnym oceny (czy działalność naukowa była niezbędna do zaistnienia wpływu – TAK/NIE).
W praktyce, w 100% opisów, które oceniałam, przyznałam maksymalną pulę punktów. Nigdzie nie miałam wątpliwości czy opisany wpływ jest związany z badaniami. Nic dziwnego – w końcu to naukowcy opisują wpływ społeczny SWOICH badań. Liczba opisów wpływu, w których tego aspektu nie da się ocenić na binarnej skali TAK/NIE, jest moim zdaniem minimalna. Po co nam więc specjalna skala do oceny związku badań z wpływem?
I cóż by to miało znaczyć, że działalność naukowa była w dużym stopniu konieczna (10 pkt), ale nie niezbędna (15 pkt)?!
Ocena w podpunkcie:
Punkty | Uwagi |
15 | Centralny Uniwersytet sam przeprowadził badania, był jedyną jednostką zaangażowaną w proces opracowania innowacyjnych zakrętek do lakieru. |
- Czy ewaluowany podmiot był (max 15 pkt):
- Kluczową jednostką w tej działalności naukowej (15)
- Jednostką pomocniczą (5)
- Jednostką marginalną (0)
Komentarz do podpunktu 1.2
Znów, to pytanie 1) nie ma związku z zasięgiem wpływu, 2) ma charakter formalny, 3) powinno być oceniane na skali binarnej TAK/NIE.
Wykorzystanie skali mogłoby mieć sens w przypadkach, gdzie deklarowany wpływ powstał na podstawie badań prowadzonych przez konsorcjum. Wówczas zadaniem ekspertów byłoby ocenić, czyj wkład w badania był ważniejszy. A w konsekwencji – kto jest „właścicielem” wpływu. W praktyce, każda jednostka składająca opis wpływu będzie przedstawiać własną rolę jako kluczową. Wątpię natomiast, by eksperci mieli czas i narzędzia, by śledzić przypadki, w których złożono opisy dotyczące tych samych badań przeprowadzonych przez różne jednostki. A potem rozstrzygać, kto miał większy wpływ… Są to nieliczne, by nie powiedzieć, hipotetyczne przypadki. W REF w UK istnieją dość szczegółowe wytyczne co do tego „czyj” jest wpływ (np. w przypadku badań konsorcjum, zmiany ośrodka przez naukowca), a zatem kto ma prawo złożyć opis.
W 100% opisów, które oceniałam, przyznałam tu maksymalną liczbę punktów.
Ocenianie tego aspektu na skali jest dlatego w mojej ocenie nadmiarowe.
Ocena w podpunkcie:
15 | Centralny Uniwersytet był jedyną instytucją badawczą zaangażowaną w opisane działania. |
3. W jakim stopniu dowody wpływu społecznego potwierdzają jego deklarowane znaczenie? (max 20 pkt)
Wymagany co najmniej jeden dowód, nie więcej niż 5, łączna punktacja za wszystkie dowody – 0-20 pkt.
Komentarz do podpunktu 1.3
Pytanie sformułowano tak, że dotyczy tego, na ile zgodna jest treść opisu wpływu z załączonymi dowodami. A więc w zasadzie nie ma znaczenia, co konkretnie jest treścią zdania, które podlega logicznemu testowi. Załóżmy, że w naszym opisie napisano, że znaczenie wpływu polega na tym, że lakiery mają wesołe kolory, które poprawiają klientkom nastrój. Jeśli załączona ankieta przeprowadzona wśród użytkowniczek by to potwierdzała, w tym punkcie przysługiwałaby maksymalna ocena. Bo dowody potwierdzałyby deklarowane znaczenie (choćby było ono samo w sobie trywialne).
To kolejne pole, w którym prawie zawsze przyznaję 100% punktów. Autorzy, co logiczne, przedstawiają w opisach stwierdzenia, które znajdują potwierdzenie w załączonych plikach. Czasem zdarza się, że pojedynczy dokument trzeba odrzucić, gdyż np. nie wpisuje się w wymagany okres. Wówczas obniżam ocenę o 5 pkt. Niekiedy też nie wszystkie stwierdzenia o znaczeniu mają potwierdzenie w dowodach. Przykładowo, autorzy deklarują znaczenie polegające na wzroście obrotów firmy oraz poziomu motywacji jej pracowników. Ale w dowodach nie ma mowy o tej drugiej kwestii. W takim wypadku również obniżam punkty.
Jest to jednak kolejny element, w którym wykwalifikowany ekspert sprowadzany jest do roli detektywa weryfikującego, czy stwierdzenia z opisu pokrywają się 1:1 z tymi z dowodów. W większości przypadków ocena wypada pozytywnie.
Kolejny wątek to odziedziczony z poprzedniej ewaluacji koncept dowodów „samoistnych”. Przewodnik precyzuje: „dowody, które powstały samoistnie lub niezależnie od ocenianej jednostki będą ocenione wyżej niż dowody powstałe z inicjatywy podmiotu ewaluowanego”.
Z moich obserwacji wynika, że przeważająca większość załączanych dowodów to dokumenty uzyskane od współpracujących firm czy organizacji. Do rzadkości należą dowody “prawdziwie samoistne” jak niezależne raporty, dane w publicznych bazach, czy nawet wpisy dziękczynne w mediach społecznościowych. Po prostu rzadko się zdarza, że ktoś niezależnie od nas monitoruje i skrupulatnie dokumentuje wpływ naszych badań. Lub że firma sama z siebie dzieli się wdzięcznością wobec wspierających ją naukowców. Prawdziwe dowody samoistne są więc jednorożcami. Jeśli przyjmiemy taką restrykcyjną interpretację, mało kto uzyska w tym polu maksymalną liczbę punktów.
Z kolei przyglądając się zaświadczeniom od współpracujących podmiotów, nie jesteśmy w stanie ocenić, które z nich były przez te podmioty wystawione z własnej nieprzymuszonej woli, a które zostały „wyżebrane” (jak to obrazowo określiła pewna badaczka).
W związku z tym, ja ignorowałam rozróżnienie między samoistnymi i niesamoistnymi dowodami.
Ocena w podpunkcie:
15 | Znaczenie wpływu opisano w pliku jako wprowadzenie nowego produktu do sprzedaży. Zwiększyło to konkurencyjność firmy, podniosło obroty, a także miało pozytywne skutki ekologiczne. Jednym z dowodów jest zaświadczenie wystawione przez prezesa firmy potwierdzające dwie pierwsze informacje. Drugim, ekspertyza instytutu zajmującego się ekologicznymi kosmetykami. Potwierdza ona, że nowe zakrętki są lżejsze, dzięki czemu ich transport generuje mniej CO2. Wreszcie, zaświadczenie wystawione przez sieć salonów kosmetycznych potwierdza, że lakiery są o 20% trwalsze, co ogranicza marnowanie produktu. W związku z tym, można uznać, że dowody w pełni potwierdzają stwierdzenia dotyczące znaczenia wpływu. |
4. Podsumowanie. Proszę wskazać, czy na podstawie powyższych informacji (pkt 1-3) znaczenie opisanego wpływu na społeczeństwo i gospodarkę można uznać za… (max 50 pkt)
- Przełomowe (50)
- Istotne (25)
- Ograniczone (10)
- Znikome (0)
Komentarz do podpunktu 1.4
Dochodzimy (wreszcie) do właściwej oceny jakościowej znaczenia wpływu.
Wyzwaniem dla ekspertów jest fakt, że nie określono, na jakiej skali oceniać znaczenie. Czy powinniśmy ocenić znaczenie wpływu w kontekście innych badań z tej samej dyscypliny, z tej samej uczelni? Czy, na przykładzie ocenianego opisu, interesuje nas znaczenie wpływu dla producentów lakieru do paznokci, branży kosmetycznej czy gospodarki in largo?
Co właściwie uważamy za wpływ? Jak ocenić jego wagę? Jakiego wpływu można oczekiwać w konkretnych dyscyplinach? Takie merytoryczne pytania powinny być według mnie tematem szerszej dyskusji, nie tylko między ekspertami oceniającymi opisy, ale w całym środowisku akademickim.
W praktyce, większość opisów, które oceniałam, otrzymało tu ocenę 10 lub 25. Większość opisów dotyczy zagadnień na tyle wąskich, że trudno mówić o „przełomie”. Pamiętajmy też, że ocena ma miejsce co 4 lata (od nowej rundy ewaluacji co 5). Zatem liczba „przełomów”, które mogą się wydarzyć w tym okresie, jest siłą rzeczy ograniczona.
25 | Dowód wskazuje, że producent lakierów ocenia znaczenie wpływu jako istotne. Trudno mówić o wpływie przełomowym. Nie mamy tu do czynienia z całkowitą zmianą paradygmatu produkcji, a raczej z usprawnieniem i ulepszeniem istniejącego produktu. |
Podsumowanie wymiaru znaczenia
Oceniany opis w wymiarze znaczenia otrzymał 15+15+15+25 = 70 punktów (na skali KEN):
Pamiętajmy, że teraz musimy ten wynik „przeskalować”. Dzielimy wynik przez 2 (70/2= 35) i sprawdzamy, gdzie plasuje się w tabeli (poniżej).

Źródło tabeli: „Jak napisać opis wpływu społecznego” str. 148 (opracowane na podstawie Przewodnika KEN, str. 25. i kolejne).
35 pkt (na skali KEN) – > 25 pkt (na skali MNISW), więc znaczenie jest „istotne”.
A teraz sprawdźmy scenariusze hipotetyczne przy ocenie 10 lub 50 pkt w pytaniu 4:
15+15+15+10 (znaczenie ograniczone) = 55 55/2 = 27,5 -> 25 pkt, znaczenie istotne (bez różnicy)
15+15+15+50 (znaczenie przełomowe) = 95 95/2=47,5 -> 50 pkt, przełomowe
Znaczenie „istotne” wychodzi też przy scenariuszach:
15+15+10+10 = 50 50/2 = 25 -> 25 znaczenie, istotne
15+15+20+10 = 60 60/2 = 30 -> 25 znaczenie, istotne
Widełki są na tyle szerokie, że przy spełnieniu większości formalnych wymagań, opis ma największą szansę otrzymać ocenę 25 pkt (znaczenie istotne). Przez proces przeskalowania „spłaszczamy” ocenę. Końcową ocenę 25 pkt (skala MNISW) otrzymają zarówno opisy, które uzyskały 25 jak i 37 pkt w ocenie (skala KEN).
Co więcej, może się zdarzyć (jak w jednym ze scenariuszy powyżej), że w ocenie merytorycznej ekspertów znaczenie jest „ograniczone”, a po „przeskalowaniu” i tak wyjdzie „istotne” (ocenę podwyższają spełnione „punkty formalne” 1-3).
2. Ocena ZASIĘGU wpływu działalności naukowej na funkcjonowanie społeczeństwa i gospodarki
Przejdźmy do zasięgu. Tu mamy tylko dwa pytania „pomocnicze”.
- W jakim stopniu dowody wpływu społecznego potwierdzają jego deklarowany zasięg? (max 30 pkt)
Wymagany co najmniej jeden dowód, nie więcej niż 5, łączna punktacja za wszystkie dowody – 0-30 pkt. Przyznanie 0 pkt spowoduje narzucenie przez system SEDN „marginalnego” zasięgu wpływu, czyli 0 pkt w części II formularza.
Komentarz do podpunktu 2.1.
Nie ufaj, sprawdzaj 😉
Zwróćmy uwagę, że w tym punkcie dowody oceniane są po raz wtóry (wcześniej w pyt. 1. w kryterium znaczenia).
Raz jeszcze ekspert musi wcielić się w detektywa i prześwietlić opisu wpływu, weryfikując czy (i w jakiej mierze!) zawarte w nim twierdzenia są zgodne z dowodami. Tu też, w każdym ocenianym przeze mnie przypadku, przyznałam 100% punktów. Opis zazwyczaj klarownie (i zgodnie z załączonymi dowodami) przedstawia, w jakich regionach czy krajach była podjęta interwencja.
Przewodnik KEN precyzuje „Niska wiarygodność dowodów obniża wiarygodność osiągniętego wpływu społecznego” (str. 13). Trudno mi jednak wyobrazić sobie, na czym miałaby polegać niska wiarygodność dowodów! Zazwyczaj są to np. zaświadczenia wystawione przez firmy i organizacje – w jakiej sytuacji ekspert podważyłby wiarygodność takiego dokumentu? Czy chodzi o to, że dokument jest podrobiony? Czy może o to, że wystawca jest osobą mało wiarygodną? Czy istnieje jakaś hierarchia instytucji i osób, którym z zasady ufamy i innych, w których prawdomówność wątpimy?
W zasadzie nie spotkałam się z przypadkiem dowodu, który uznałabym za niewiarygodny. No dobrze, był jeden przypadek zaświadczenia, które badacz wystawił sam sobie (działając jako własna firma), ale to naprawdę rodzynek! Nie widziałabym podstaw do podważenia wiarygodności dowodów będących wpisami czy komentarzami w mediach społecznościowych. Ważne, że potwierdzają one korzyści odniesione przez beneficjentów.
W przewodniku nie określono, na czym polegają dowody wiarygodne, a na czym niewiarygodne. Wyobrażam sobie więc, że obniżenie oceny z powodu mało wiarygodnego dowodu będzie dla jednostki mocną podstawą do odwołania.
Z mojej perspektywy ten punkt można by zespolić z punktem 3 w ramach elementu zasięgu. Być może mogłoby to być kryterium formalne na zasadzie: TAK/ CZĘŚCIOWO/ NIE.
Ocena w podpunkcie:
30 | W opisie stwierdzono, że beneficjentem wpływu jest producent lakierów (większe obroty, zwiększona przewaga konkurencyjna). Sa nim także właściciele salonów kosmetycznych (większa trwałość produktu). Producent i sieć salonów działają na rynku ogólnopolskim. Istnieją też korzyści środowiskowe. Dowody (vide opis powyżej) potwierdzają te stwierdzenia. |
- Jaki zasięg można przypisać do opisanego wpływu na podstawie załączonych dowodów?
- Międzynarodowy (70)
- Krajowy (50)
- Regionalny (30)
- Lokalny (15)
- Marginalny (0)
Komentarz do podpunktu 2.2.
Choć w formularzu w „Przewodniku” przedstawiona jest skala geograficzna, funkcjonuje jeszcze druga. Dotyczy ona „stopnia, w którym dane zjawisko jest objęte wpływem”. Ta skala to: 1. Całkowity (70), 2. Znaczny (50), 3. Częściowy (30), 4. Ograniczony (15), 5. Marginalny (0). Eksperci będą sami wybierali odpowiednią skalę. Zwróćmy uwagę, że o ile ta druga skala jest jakościowa, to skala geograficzna daje ekspertom znikomą swobodę.
W toku mojego ćwiczenia zauważyłam, że zazwyczaj łatwiej wypaść dobrze na skali geograficznej. Wyobraźmy sobie, że z ulepszonych lakierów skorzystały też salony w innym kraju, choćby w jednej przygranicznej miejscowości. Wówczas już można by mówić o zasięgu międzynarodowym. Choć byłaby to specyficzna “lokalna” międzynarodowość. Znacznie trudniej wykazać objęcie wpływem całości zjawiska (całego rynku lakierów, wszystkich salonów kosmetycznych?).
Ocena w podpunkcie:
50 | Lakiery dystrybuowane są w całej Polsce, jedno z zaświadczeń mówi o korzyściach odniesionych przez właścicieli ogólnopolskiej sieci salonów kosmetycznych. |
Podsumowanie wymiaru zasięgu
Opis otrzymał 30+50 = 80 punktów (na skali KEN).
Żeby „przeskalować”, dzielimy sumę przez 2 (80/2=40) i sprawdzamy, gdzie wynik plasuje się w tabeli .

Źródło tabeli: „Jak napisać opis wpływu społecznego” str. 148 (opracowane na podstawie Przewodnika KEN, str. 25. i kolejne).
40 pkt – > 40 pkt (na skali MNISW), więc zasięg jest „krajowy”.
W tym wymiarze również jest możliwość niezgodności wyniku końcowego z oceną merytoryczną w drugim pytaniu.
Przykład: 10 (dowody) +50 (zasięg krajowy)= 60 60/2 =30 (regionalny)
INTERDYSCYPLINARNOŚĆ
Czy deklarowana interdyscyplinarność miała miejsce i czy była kluczowa dla powstania wpływu?
Tak/Nie (+ 20% punktów przy ocenie TAK)
Komentarz do podpunktu:
I mój faworyt: interdyscyplinarność. Nigdy nie rozumiałam, czemu wpływ społeczny wynikający z interdyscyplinarnych badań miałby być bardziej wartościowy? Wyobraźmy sobie, że korzystamy z nowej technologii, połykamy pigułkę, bierzemy udział w festiwalu literackim. Czy zadajemy sobie wówczas pytanie, czy badacze, którzy to umożliwili, współpracowali z przedstawicielami innych dyscyplin?
Ministerstwo zdaje się podzielać te wątpliwości. Poinformowano, że interdyscyplinarność nie będzie już oceniania w ramach 3. kryterium.
Na dziś oceniam, że 99% opisów wpływu zawiera (fakultatywny) opis interdyscyplinarności. To jasne: każdy chce być interdyscyplinarny, by móc uzyskać premię 20%. I w większości przypadków istotnie da się badania przedstawić tak, by trudno było odrzucić twierdzenie o interdyscyplinarności. Spodziewam się, że w efekcie większość autorów, którzy fachowo przygotują opisy, otrzyma premię 20%. I niewykluczone, że to „dodatkowe” kryterium, już na wylocie, okaże się najbardziej różnicującym czynnikiem w skądinąd „płaskiej” ocenie.
Ocena w podpunkcie:
+ 20% (13 pkt) | Przedstawiciele inżynierii materiałowej współpracowali przy opracowaniu innowacyjnych zakrętek z chemikami. Korzystano z metod i narzędzi obu dyscyplin, przekonująco wykazano, że współpraca ta była kluczowa do powstania wpływu. |
Podsumowanie dwóch wymiarów + interdyscyplinarność SUMA PUNKTÓW (skala MNISW) (Wymiar 1 + Wymiar 2) X 1,2 = |
(25+ 40) x 1,2 = 78 |
1/2 wolności
Podsumowując, na 6 „pytań pomocniczych”, którymi mają kierować się eksperci, 4 mają w zasadzie charakter oceny formalnej. Merytoryczne kryteria to jedynie 1.4 i 2.2 (chociaż to drugie należałoby liczyć w połowie – jedna z dwóch skal). Jeśli jednak policzymy w całości, wyjdzie nam, że kryteria merytoryczne odpowiadają za 50+70 = 120 pkt. Przy suficie 240 punktów (skala KEN, z uwzględnieniem interdyscyplinarności) wychodzi, że kryteria merytoryczne odpowiadają za 50% oceny (120/240). A 1/2 to aspekty formalne i poboczne.
Ekspertom pozostaje 1/2 swobody by ocenić, czy dana interwencja rzeczywiście miała wpływ na otaczającą rzeczywistość. I czy aby był on pozytywny! Polskie podejście do oceny wpływu społecznego może służyć jako koronny przykład „fiksacji parametrycznej”.

Ale co zamiast parametryzacji?!
Czy istnieje alternatywa?
Często tak mocno tkwimy w naszej kulturze akademickiej i paradygmacie ewaluacyjnym, że trudno nam sobie wyobrazić ocenę bez wskaźników, parametrów, widełek punktowych, wielostronicowych wskazówek dla ekspertów…
Co ciekawe, w brytyjskim REF wpływ społeczny jest oceniany również w wymiarach zasięgu i znaczenia. Nie ma jednak ani podziału 50/50 na te dwa wymiary, ani dodatkowych pytań prowadzących ekspertów za rękę. Jest zaufanie. Do autorów: że nie będą przypisywać sobie wpływu cudzych badań i załączać całkiem niewiarygodnych dowodów. Do ekspertów: że nieraz już pełnili rolę recenzentów, więc będą wiedzieć co robić.
Ale czy w polskiej kulturze ewaluacyjnej jest przestrzeń na takie podejście?
Nie jestem przekonana.
Red. Bartosz Hamarowski
W moim sklepiku Naffy dostępny jest formularz opisu wpływu (doc), formularz oceny excel z automatycznymi formułami (wkrótce) oraz poradnik „Jak napisać opis wpływu„.
Discover more from Impact Ninja
Subscribe to get the latest posts sent to your email.