Karin Nissfolk: AI gör inte människan mindre viktig. Den gör det mänskliga omdömet ännu viktigare.

AI beskrivs ofta som ett tekniksprång. Snabbare kod-skrivande. Smartare system. Nya verktyg som kan förändra nästan allt. Karin Nissfolk ser något annat. För henne handlar AI-skiftet inte bara om vad tekniken kan göra. Det handlar om styrning och vem som får makt att forma verksamheten. Vilken information besluten bygger på. Och varför mänskligt omdöme blir ännu viktigare när allt går snabbare. 

– De senaste decennierna har fokus legat på koden medan verksamhetsutveckling och informationshantering ofta har kommit i andra hand. Verksamheten har ofta fått rätta sig efter hur systemet fungerar, säger Nissfolk. 

Hon beskriver en digitaliseringsresa där utvecklare länge har haft en avgörande roll. Nu flyttar möjligheten att påverka digitala lösningar närmare verksamheten. 

Med AI, AI-agenter och det som ibland kallas vibe coding kan fler beskriva ett behov och få hjälp att skapa en teknisk lösning utifrån det. 

Det gör att personer som förstår affären, kunderna och det dagliga arbetet kan ta en mer aktiv roll i utvecklingen. 

– Nu vänds hela pyramiden. Makten flyttas tillbaka till dem som faktiskt förstår affären. Men Nissfolk är noga med att det inte betyder att utvecklarens roll försvinner. Den förändras. Från att skriva varje rad kod kan utvecklaren i högre grad behöva granska, styra och kvalitetssäkra det AI hjälper till att skapa. 

När fler kan bygga enklare lösningar själva blir den tekniska kompetensen fortfarande viktig, men på ett annat sätt. Frågan blir inte bara vem som kan skriva kod. Frågan blir vem som förstår problemet, sammanhanget och konsekvenserna. 

När koden kan skapas snabbare flyttas fokus till vilken typ av information som matas in.

Nissfolk menar att AI gör att organisationer behöver återvända till frågor som var centrala för decennier sedan. Då pratade man mer om begreppsmodeller och informationsmodeller när nya system skulle beställas. Man behövde reda ut vad saker betydde innan man byggde. Nu kommer de frågorna tillbaka.

– Om du matar en modell med dålig data eller otydliga begrepp får du ett otillförlitligt resultat. Med AI riskerar dessa brister dessutom att förstärkas och skalas upp betydligt snabbare. Ett exempel kan vara att en avdelning säger ”utbetalning” medan en annan säger ”transaktion”. För människor kan sådana skillnader vara hanterbara, eftersom vi kan tolka sammanhang och fylla i luckor. 

För en AI-modell kan däremot otydliga begrepp snabbt leda till felaktiga slutsatser. Det handlar det därför inte bara om att städa data i system. Det handlar om att förstå all information som finns i verksamheten: i databaser, dokument, processer och människors huvuden. 

– AI synliggör hur mycket verksamhetskunskap som aldrig har skrivits ner, men som ändå styr hur arbetet fungerar. AI tvingar oss att genomlysa verksamheten och definiera vad vi faktiskt menar. 

När AI används i rekrytering blir de här frågorna snabbt känsliga. 

I rekrytering handlar det inte bara om data, system och processer. Det handlar om människor. Om försörjning, möjligheter och framtid. Här varnar Nissfolk för en övertro på systemets objektivitet. – Vi är vana vid deterministiska system där ett plus två alltid blir tre. 

Men när AI används för att bedöma något så komplext som människor finns sällan en absolut sanning.

Ett AI-system kan verka neutralt, men det bygger på data. Om den historiska datan innehåller snäva rekryteringsmönster kan AI förstärka dem. 

– Om en AI-modell tränas på historiska beslut kan tekniken upprepa samma beslut, fast snabbare och i större skala. Då riskerar vi att automatisera fördomar. 

Om en organisation tidigare har anställt personer med liknande bakgrund, utbildning eller bostadsområde kan systemet börja tolka just de sakerna som tecken på en bra kandidat.

Inte för att någon har sagt åt systemet att diskriminera. Utan för att mönstret finns där. Nissfolk lyfter begreppet proxy bias. Det betyder att systemet hittar indirekta samband till sådant vi egentligen vill undvika att bedöma. En arbetsgivare kan till exempel ta bort namn och ort ur en ansökan för att minska risken för diskriminering. Men om postnummer finns kvar kan AI ändå dra slutsatser om var personen bor. 

– Om vi tidigare bara har anställt personer från Stockholms innerstad kan systemet fortsätta prioritera dem. Samma sak kan hända med en lucka i ett CV. Systemet kan tolka det som en risk, utan att förstå att det kan handla om tex föräldraledighet eller något annat som inte säger något om personens kompetens. För Nissfolk är det här en av de stora frågorna med AI i rekrytering: inte bara vad tekniken kan se, utan vad den kan missförstå. 

Mänsklig tillsyn måste vara mer än en ruta att bocka i Nissfolk poängterar att AI i rekrytering klassas som högrisk inom EU:s AI Act. För henne är det rimligt. 

– Men ansvar handlar inte bara om regler. Det handlar om hur organisationer arbetar i praktiken, genom att etablera styrning, kontroller, uppföljning och mänsklig översyn genom hela AI-systemets livscykel. Företag behöver ställa tydliga frågor innan AI används i rekryteringsprocesser. Vad optimerar systemet för? Effektivitet? Likhet? Potential? Rättvisa? Mångfald? Hur styr vi och säkerställer det?

Organisationer behöver följa upp, testa och jämföra hur systemen fungerar i olika steg. Vilka kandidater lyfts fram? Vilka sorteras bort? Vilka mönster uppstår när AI påverkar urvalet? Annars finns risken att tekniken får ett inflytande som ingen riktigt ser, men som ändå formar vem som får chansen. 

Nissfolk ser hur många organisationer stressar för att bli mer AI-drivna. Hon är inte emot att företag satsar på AI. Tvärtom. Men hon varnar för att börja med tekniken istället för problemet. – Det är lätt att köpa in ett dyrt AI-system och känna sig nyttig, precis som när man köper ett gymkort. 

Men om man inte vet vilket problem man försöker lösa, eller vem som ska använda det, blir det bara en kostnad. Småskalig hypotesdriven innovation och att testa sig fram är viktigt. Ej fastna i enorma projekt där tex all data ska fixas på en gång. Det är bättre att ställa sig frågan vilken data som är viktigast för lönsamheten och lägga krutet där. 

Tekniken gör att vi kan producera snabbare än någonsin. Kod kan skapas på sekunder. Analyser kan göras på minuter. Nya lösningar kan testas i ett tempo som tidigare var omöjligt. 

Men just därför behöver organisationer sakta ner.
– De behöver förstå sina begrepp. Granska sina processer. Prata om sina värderingar. Och våga fråga vad de egentligen vill att tekniken ska hjälpa dem med. AI är inte magi och det är inte heller bara ett IT-projekt, menar Nissfolk. 

Grunden är verksamhetsutveckling och hur vi styr verksamheten för att nå våra mål, AI är ett hjälpmedel. 

– AI gör inte människan mindre viktig. Den gör det mänskliga omdömet ännu viktigare.