Et klassisk IT-system melder fejl, når det ikke kan udføre en opgave. AI gør det modsatte og leverer i stedet et overbevisende og velformuleret svar – også når svaret er forkert.

Jo mere kompetent teknologien fremstår, desto sværere kan fejlene være at opdage. Derfor er AI ikke bare en teknologisk udfordring, men en ledelsesudfordring.

Hvis AI skal skabe reel værdi, kræver det ikke bare investeringer og ambitioner, men stærkere faglighed, skarpere dømmekraft og en styring, der er klog nok til at matche teknologien.

Læs også: Hvordan leder man implementering af generativ AI?

Når maskinen lyder som eksperten

AI kan give svar, der lyder fagligt korrekte, uden at de er det. Den kan formulere sig klart, sikkert og overbevisende og alligevel tage fejl på en måde, som kun den erfarne fagperson opdager.

Som Inga Strümke beskriver i ‘Maskiner der tænker‘, kan problemet også være, at AI-systemet begynder at optimere mod delmål, som ikke er tydelige for brugeren eller ledelsen.

I praksis kan et system, der skal nedbringe sagsbehandlingstid, for eksempel optimere sig selv ved at skubbe hele eller dele af komplekse sager til side. Så ser resultatet effektivt ud uden nødvendigvis at være fagligt bedre. Resultatet kan være hurtigere afgørelser, men også mere ensidige eller direkte misvisende svar.

Det er netop derfor, AI stiller større krav til ledelse end meget anden teknologi. Ikke fordi den altid fejler, men fordi AI kan lyde som eksperten, selvom den tager fejl.

Læs også: Implementering af AI er ikke kun en teknisk opgave – det er en organisationsændring på højeste niveau

Fire barrierer AI vil forstørre

De velkendte udfordringer ved digitalisering forsvinder ikke med AI. Tværtimod risikerer AI at forstørre dem, hvis ledelse, styring og implementering ikke tænkes anderledes. Disse fire udfordringer vil AI forstørre:

1. Styringsmodeller der ikke kan følge med

Mange organisationer styrer stadig teknologi gennem faste planer, lineære milepæle og en tydelig slutdato. Den logik passer dårligt til AI. Teknologien ændrer sig hurtigt, tilpasser sig og kan udvikle uventet adfærd. Derfor kommer en klassisk projektstyring hurtigt til kort. Det kræver en mere fleksibel styring, hvor ledelsen kan justere kursen undervejs og skelne mellem, om der er høj eller lav risiko ved brugen.

2. Implementering uden ledelse tæt på praksis

Selv den bedste styringsmodel er ligegyldig, hvis den nærmeste leder ikke kan omsætte den i praksis. Det er nemlig i praksis, det afgøres, om AI’s svar er brugbart, forsvarligt og relevant.

Fagpersoner kan kun vurdere, om AI’ens svar holder, hvis den nærmeste leder skaber rum for faglig refleksion og gør det legitimt at udfordre AI’ens output. Hvis ikke dette sker, flytter ansvaret opad og væk fra dem, der kan vurdere kvaliteten.

3. Optimisme-bias og usynligt arbejde

Både klassisk og nyere forskning siger det samme: Vi lover for meget og regner for snævert i IT-projekter. Professor Bent Flyvbjerg har dokumenteret, hvordan optimisme-bias får projekter til at se enklere, billigere og mere værdiskabende ud, end de reelt er.

Lise Justesen og Ursula Plesner viser i ‘Digitalisering og usynligt arbejde‘, at digitalisering ikke bare fjerner arbejde, men også skaber nyt: integration, fejlretning og løbende håndtering af de problemer, teknologien selv producerer.
Dertil kommer tab af produktivitet og trivsel, når læring og kompetenceudvikling ikke følger med. Det er sjældent de omkostninger, der står i business casen, men ofte dem, der afgør, om gevinsterne overhovedet bliver realiseret.

AI gør ikke dette bedre af sig selv. Tværtimod kan den accelerere mønsteret: hurtige løfter om store gevinster, mens datafundament, faglig kontrol, kompetencer og organisatorisk tilpasning glider i baggrunden. Resultatet er en gentagelse af de velkendte fejl: Flotte tal på papiret og en implementering, hvor usynligt merarbejde, komplekse læringskurver og styringsbehov først bliver synlige, når manøvrerummet for rettidig tilpasning er udtømt.

4. Gradvis faglig svækkelse

Jo mere fortrolig man bliver med AI, jo mere overlader man til den – ofte uden selv at bemærke det. Forskning i automation bias hos blandt andre Skitka og Mosier viser, at denne forskydning sker gradvist: Det er lettere at følge systemets anbefaling end at efterprøve den.

Over tid handler det derfor ikke om, at medarbejdere stopper med at tænke, men at deres egen vurdering langsomt får mindre vægt. Når det sker, er det ikke bare teknologien, der fejler. Det er ledelsen, der har mistet grebet om fagligheden.

Hvad god AI-governance kræver af ledelsen

Det positive er, at barriererne er til at få øje på. De er ikke tilfældige, men indbygget i måden, organisationer typisk styrer teknologi på. Derfor er spørgsmålet ikke, om problemerne opstår, men om ledelsen vælger at tage højde for dem i tide.

AI kræver en anden ledelses- og styringstilgang end den, mange organisationer har brugt til digitalisering. Hvis ikke ledelsen skifter gear, risikerer man at sætte både værdiskabelse, faglighed og relationen til brugere og borgere over styr.

Læs også: Brug generativ AI til strategisk tænkning og din personlige ledelsesudvikling

Fire greb er særligt afgørende

1. Responsiv styring

Når teknologien udvikler sig hurtigere end planerne, fungerer faste styringsmodeller ikke. Der er brug for en fleksibel styring, som både kan rumme planlagte projekter, nye idéer tæt på brugerne og justeringer undervejs.

Hvis styringen kun tager højde for det planlagte, risikerer læring og udvikling at blive kvalt i mødet med virkeligheden.

Og det er ikke alle AI-initiativer, der kræver samme styring. Løsninger med høj risiko – fx dem der påvirker retssikkerhed, persondata eller større investeringer – skal godkendes centralt og risikovurderes grundigt. Eksperimenter med lav risiko bør derimod kunne starte tæt på praksis, så læring ikke bremses.

2. Tydeligt fagligt ansvar

IT kan levere teknikken – men det er kun fagpersoner, der kan vurdere, om AI’ens svar holder i virkeligheden. Derfor skal hvert AI-initiativ have en faglig ansvarlig med ret til at sige stop. Nærmeste ledere skal skabe plads til refleksion og give medarbejderne mandat til at udfordre teknologien.

3. Realistiske mål og fulde omkostninger

Forventningerne til gevinst bør bygge på faktiske resultater fra sammenlignelige projekter, hvis man vil mindske optimisme-bias. Den reelle værdi af ny teknologi viser sig først, når gevinsterne holdes op mod alle reelle omkostninger.

Ud over arbejdsprocessen hvem og hvad bliver så påvirket? Hvilke kompetencer er det realistisk, at medarbejderne besidder, og hvornår? Hvad kræver det af involvering og kommunikation? Når de usynlige omkostninger regnes med, bliver business casen mere troværdig og værdien mere holdbar.

AI-projekter bør derfor ikke kun måles på økonomi, men også på kvalitet, medarbejdertrivsel og organisatorisk læring – disse er ikke hensyn ved siden af bundlinjen, men forudsætninger for, at gevinsterne faktisk holder.

4. Løbende faglig monitorering

Monitorering i AI-sammenhæng handler ikke kun om at opdage tekniske fejl eller ændringer i systemets adfærd. Det handler i særlig grad om løbende at vurdere, om svarene fortsat er fagligt holdbare i praksis.

Når medarbejdere gradvist bliver mere fortrolige med AI, stiger risikoen for, at de accepterer dens svar for ukritisk. Faglig monitorering skal derfor være en fast del af driften: med faste rutiner for stikprøver, faglig refleksion, og opfølgning. Ellers risikerer organisationen ikke blot tekniske afvigelser, men en gradvis svækkelse af sin faglige dømmekraft.

Fem spørgsmål ledelsen bør stille:

  1. Hvilke AI-anvendelser kræver central godkendelse hos jer, og hvilke kan afprøves tættere på praksis?
  2. Hvem har det faglige ansvar for at vurdere kvaliteten af AI’s output?
  3. Har vi regnet de fulde omkostninger med, herunder læring, implementering og fejlretning?
  4. Har medarbejderne både mandat og rum til at udfordre teknologiens svar?
  5. Har vi etableret faste rutiner for faglig monitorering, eller håber vi blot, at fejl bliver opdaget i tide?

Faglighed er ikke en bremseklods – det er forudsætningen

AI kan skabe stor værdi. Men teknologien fortæller os ikke selv, hvor dens grænser går. Vi stoler på den erfarne medarbejder, ikke fordi hun lyder sikker, men fordi hun har faglig indsigt og dømmekraft. Netop den dømmekraft kan AI ikke erstatte. Ikke fordi teknologien er ubrugelig, men fordi den ikke selv siger fra, når den tager fejl.

Det ansvar ligger hos ledelsen. Det er ikke en begrænsning af AI’s potentiale, men forudsætningen for, at det kan indfries.

Lyt også til: Podcast: Ledelse og AI