Hvordan påvirker kunstig intelligens de skøn, som fagprofessionelle laver?

I disse år bliver der udviklet forskellige værktøjer, som kan understøtte fagprofessionelles beslutninger med kunstig intelligens.

Kunstig intelligens kan levere præcise og evidensbaserede forudsigelser om borgernes karakteristika og sager, og på den måde kan det støtte fagprofessionelle i at tage bedre og mere effektive beslutninger.

Kunstig intelligens hjælper for eksempel læger med at diagnosticere patienter og sagsbehandlere med at vurdere borgeres sandsynlighed for langvarig arbejdsløshed.

Kunstig intelligens kan både forbedre beslutninger og forstærke utilsigtede mønstre

Forskere fra VIVE, Roskilde Universitet, Aarhus Universitet og Utrecht Universitet undersøger, hvordan kunstig intelligens påvirker de skøn, som fagprofessionelle laver. Projektet skal skabe viden om, hvordan kunstig intelligens bedst kan anvendes til at fremme velinformerede beslutninger i det offentlige.

Selvom kunstig intelligens kan forbedre kvaliteten af beslutninger, kan den også medføre udfordringer. For eksempel kan det forstærke eksisterende utilsigtede mønstre eller føre til et kompetencetab blandt medarbejdere, der bliver for afhængige af systemets hjælp i beslutningstagningen. Forskerne undersøger desuden, hvad der skal til for, at fagprofessionelle bakker op om brugen af kunstig intelligens.

Viden fra forskningsprojektet vil være relevant for ledere og beslutningstagere i den offentlige sektor. VIVEs rolle i projektet er at lede forskningen og sikre, at den bygger på solid, empirisk viden. Undersøgelsen kan fremadrettet bruges til at forbedre beslutningskvaliteten og sikre, at implementeringen af beslutningsstøtteværktøjer ikke medfører til en skæv behandling af borgere.

Metoder

Til undersøgelsen anvender forskerne en kombination af både kvalitative og kvantitative metoder for at skabe en dybdegående og nuanceret forståelse af, hvordan beslutningsstøttesystemer påvirker offentligt ansattes beslutningstagning. Forskerne gennemfører semi-strukturerede interviews med medarbejdere og ledere i offentlige organisationer for at få indsigt i deres erfaringer med systemerne, og hvordan de oplever deres anvendelse i praksis. Dette kvalitative arbejde giver forskerne mulighed for at forstå de mekanismer, der driver både positive og negative reaktioner på systemerne.

Derudover udfører forskerne store spørgeskemaundersøgelser blandt sagsbehandlere og sundhedsprofessionelle, hvor vi tester, hvordan specifikke faktorer som, hvem der introducerer systemerne og deres formål, påvirker villigheden til at bruge dem.