Audit-krav og ARP-forankring ved bruk av prediktive KI-verktøy
-
Hei, jeg jobber med å vurdere bruk av generativ kunstig intelligens (KI) i en statlig virksomhet med både arbeidsgiver- og myndighetsansvar. I den forbindelse har vi begynt å se på hvordan aktivitets- og redegjørelsesplikten (ARP) etter likestillings- og diskrimineringsloven §§ 24 og 26 kan og bør tolkes i møte med generativ KI, særlig når teknologien brukes i beslutningsstøtte, rekruttering, analyse, prioritering og fordeling av ressurser.
Vi vurderer å innføre tiltak som:
audit-funksjoner i KI-verktøy for å identifisere mulig skjevhet eller fraværsproblematikk i output,
risikokartlegging av diskrimineringsfare ved bruk av historiske eller ikke-representative data,
egnethetsvurdering før implementering av KI-løsninger i HR, styring eller operativ støtte,
og sektorovergripende prinsipper for forsvarlig og rettferdig bruk av KI i offentlig sektor.
Spørsmålet mitt er todelt:
1. Finnes det i dag offentlig sektor-erfaringer, vurderingsverktøy eller forvaltningspraksis for å koble generativ KI til ARP, særlig med henblikk på §§ 24 og 26?
2. Er dette et tema som allerede er under arbeid hos Digdir, LDO eller andre instanser – eller er dette fortsatt et uutforsket område som bør løftes på tvers av sektorer?Vi ønsker å være i forkant og sikre at nye verktøy ikke utilsiktet sementerer forskjeller eller svekker forvaltningens legitimitet. Takk for alle innspill, erfaringer eller henvisninger!
-
Takk for interessant innspill og spørsmål, vi følger opp internt hvem som kan svare deg.
-
Viderebringer svar fra kollega:
Hei, og takk for et relevant og viktig spørsmål.
Vi anbefaler å ta kontakt med LDO for spørsmål knyttet til aktivitets- og redegjørelsesplikten og hvordan den kan forstås i møte med bruk av generativ kunstig intelligens. LDO har utarbeidet veiledning og rapporter om kunstig intelligens og diskrimineringsregelverket, som forhåpentlig kan være nyttige i dette arbeidet.
Vi kjenner per i dag ikke til at det pågår noe konkret arbeid på dette området, men anbefaler igjen å rette spørsmålet til LDO.
Takk for at dere deler deres refleksjoner – det er et viktig bidrag til diskusjonen.