Audit-krav og ARP-forankring ved bruk av prediktive KI-verktøy
-
Hei, jeg jobber med å vurdere bruk av generativ kunstig intelligens (KI) i en statlig virksomhet med både arbeidsgiver- og myndighetsansvar. I den forbindelse har vi begynt å se på hvordan aktivitets- og redegjørelsesplikten (ARP) etter likestillings- og diskrimineringsloven §§ 24 og 26 kan og bør tolkes i møte med generativ KI, særlig når teknologien brukes i beslutningsstøtte, rekruttering, analyse, prioritering og fordeling av ressurser.
Vi vurderer å innføre tiltak som:
audit-funksjoner i KI-verktøy for å identifisere mulig skjevhet eller fraværsproblematikk i output,
risikokartlegging av diskrimineringsfare ved bruk av historiske eller ikke-representative data,
egnethetsvurdering før implementering av KI-løsninger i HR, styring eller operativ støtte,
og sektorovergripende prinsipper for forsvarlig og rettferdig bruk av KI i offentlig sektor.
Spørsmålet mitt er todelt:
1. Finnes det i dag offentlig sektor-erfaringer, vurderingsverktøy eller forvaltningspraksis for å koble generativ KI til ARP, særlig med henblikk på §§ 24 og 26?
2. Er dette et tema som allerede er under arbeid hos Digdir, LDO eller andre instanser – eller er dette fortsatt et uutforsket område som bør løftes på tvers av sektorer?Vi ønsker å være i forkant og sikre at nye verktøy ikke utilsiktet sementerer forskjeller eller svekker forvaltningens legitimitet. Takk for alle innspill, erfaringer eller henvisninger!
-
Takk for interessant innspill og spørsmål, vi følger opp internt hvem som kan svare deg.
-
Viderebringer svar fra kollega:
Hei, og takk for et relevant og viktig spørsmål.
Vi anbefaler å ta kontakt med LDO for spørsmål knyttet til aktivitets- og redegjørelsesplikten og hvordan den kan forstås i møte med bruk av generativ kunstig intelligens. LDO har utarbeidet veiledning og rapporter om kunstig intelligens og diskrimineringsregelverket, som forhåpentlig kan være nyttige i dette arbeidet.
Vi kjenner per i dag ikke til at det pågår noe konkret arbeid på dette området, men anbefaler igjen å rette spørsmålet til LDO.
Takk for at dere deler deres refleksjoner – det er et viktig bidrag til diskusjonen.
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
Registrer Logg inn