Vi vurderer en del om spesifikke retningslinjer for bruk av generativ KI i vår veiledning for ansvarlig utvikling og bruk av kunstig intelligens i offentlig sektor. I likhet med resten av vår veiledning etterstreber vi konkrete råd. Under følger forslag til råd. Vi understreker at rådene fortsatt er på utkaststadiet.

Vi er kjent med at EU-kommisjonen har utarbeidet interne retningslinjer, samt at EU og USA skal lage et utkast til etiske retningslinjer for KI. Vi følger dette tett og oppdater retningslinjene deretter.

Gi oss gjerne tilbakemeldinger, forslag til endringer og forslag til andre mulige råd.

Generelle retningslinjer:

Risikovurdering: Før generativ KI tas i bruk i virksomheten, må det gjøres en grundig risikovurdering. Dette bør inkludere potensielle farer knyttet til misbruk, feilinformasjon, datalekkasjer, og effekten av KI-løsningen på virksomheten.
Riktig opplæring for brukere: Brukere av generativ KI bør ha tilstrekkelig opplæring og forståelse for å bruke teknologien ansvarlig og effektivt. Dette inkluderer kunnskap om risikoer, samt beste praksis for bruk.
Vær særlig varsom ved samhandling med innbyggere: I dag er vi i en tidlig fase med generativ KI. Hvis et generativt KI-verktøy skal brukes for samhandling mellom forvaltningen og innbyggerne, vær særlig grundig i risikovurderinger og juridiske vurderinger. Det bør alltid kjøres et pilotprosjekt. Videre vil det være viktig at innbyggeren forstår at det er KI de samhandler med.
Ikke bruk sensitiv informasjon i «prompts»: Personopplysninger, taushetsbelagt informasjon, gradert informasjon, rettighetsbelagt informasjon eller sikkerhetssensitiv informasjon skal ikke brukes til å gi instruksjoner til generative KI-verktøy. Som utgangspunkt må det legges til grunn at informasjonen i et «prompt» blir sendt til selskapet bak verktøyet og vil bli lagret og brukt til videre trening av den underliggende maskinlæringsmodellen. Unntak gjelder dersom du har tilstrekkelig rettslige grunnlag for å behandle denne informasjonen til dette formålet. Det aktuelle selskapets vilkår og personvernerklæring vil kunne si noe mer nøyaktig om hvordan informasjonen behandles.

Særlig om generering av tekst med verktøy slik som ChatGPT, Microsoft Bing Chat og Google Bard:

Bruk på eksisterende tekst kan være greit: offentlig sektor bruker mye tid på å behandle tekst. Dette er de store språkmodellene særlig gode på. Bruk de gjerne til å korte ned, lage sammendrag, kulepunkter eller lignende av eksisterende tekst. Et eksempel på dette er å kopiere inn en tekst som er tung å lese og deretter spørre en stor språkmodell om å gjøre den til klarspråk. Husk imidlertid at teksten ikke må inneholde sensitiv informasjon, som pekt på i punkt over.
Vær varsom ved bruk som oppslagsverk: store språkmodeller er trent på en enorm mengde tekst. Dette har gitt dem oversikt over strukturer i språk. Treningsdataen inneholder imidlertid også mye faktainformasjon som språkmodellen kan uttrykke. Faktainformasjonen er sånn sett «en bonus», for fokuset for de store språkmodellene er strukturer i språk. Modellene er ikke optimalisert for å gi helt presis faktainformasjon, selv om resultatene tidvis kan være svært imponerende. Bruk modellene derfor med stor varsomhet ved bruk som oppslagsverk. Til dette kommer også at flere språkmodeller ikke har faktainformasjon som er nyere enn for tidspunktet for trening av modellen.
Husk at svarene ikke nødvendigvis er tilpasset våre verdier: Store språkmodeller og grensesnittene for å interagere med disse (eksempelvis ChatGPT) vil være tilpasset og reflektere verdiene til menneskene som har utviklet disse modellene og verktøyene. Det er ikke gitt at disse verdiene samsvarer med verdiene vi har i vårt samfunn og dette kan reflekteres i svaret.
Bruk ytterligere verktøy som kan identifisere plagiat: Det finnes flere verktøy som kan bidra til å vurdere om tekstmaterialet som er produsert av en stor språkmodell kan være plagiat. Eksempelvis har enkelte skrivebehandlingsverktøy en «redaktør-funksjon» som kan bidra til å vurdere om tekstmaterialet er plagiert.
Kvalitetssikre alltid innhold fra store språkmodeller: I tillegg til å påse at materialet ikke er plagiert, bør du alltid lese over og kvalitetssikre. Det er du som til slutt er avsender av teksten og skal stå for innholdet.

Særlig om generering av bilder med modeller som Midjourney og Dall-E:

Tekst som input er mindre problematisk enn bilder som input: Flere bildegenereringsverktøy kan benytte både tekst og bilde som input. Eksempelvis tilbyr flere verktøy muligheten for å laste opp et bilde og be om variasjoner av dette. Det er mindre problematisk å bruke tekst som input enn et bilde som input. Selv om det kan tenkes unntak, vil et «tekstpromt» som utgangspunkt ikke være immaterialrettslig beskyttet materiale. For bruk av bilder bør imidlertid utgangspunktet være det motsatte, nemlig at det er beskyttet materialet, med mindre det er åpent tilgjengelig.
Sørg for at du har rett til å bruke et bilde som input: Det behøver ikke å være problematisk å bruke et bilde som input så lenge du har rettighetene til bildet du benytter. Rettighetene må for det første omfatte å laste opp materialet til serverne til den respektive generative tjenesten. Avhengig av vilkårene til den respektive generative tjenesten, kan dette bety at bildet blir lagret et sted og/eller benyttet til ytterligere trene den underliggende maskinlæringsmodellen. For det andre må rettighetene omfatte retten til å bearbeide materialet. Sistnevnte reguleres eksempelvis av åndsverkslovens § 6.
Rettighetene til det genererte bildet: Situasjonen rundt rettigheter til genererte bilder er usikker. På den ene siden bør det være fritt frem å lage noe nytt med inspirasjon fra tidligere materiale. Alt kunst bygger jo i større eller mindre grad på tidligere kunst. På den andre siden vil inspirasjonen på et tidspunkt være så stor at det blir som å «snylte» på opprinnelig rettighetshaver. Det pågår store søksmål som vil bidra til å belyse problemstillingen i tiden fremover. På nåværende tidspunkt bør offentlige virksomheter som benytter KI-generert materiale være bevisst at rettighetssituasjonen er usikker.
Opplys om at bildene er generert: La mottakeren av bildene forstå at bildene er generert ved hjelp av kunstig intelligens. Dette er særlig viktig der bildene er realistiske, ettersom realistiske bilder kan gi uttrykk for en forståelse av verden, og dermed kan gi bekymring eller kan påvirke meninger på manipulerende måte.
Husk universell utforming: Dersom KI-genererte bilder benyttes på en nettside, må du, som ved alle andre bilder huske å bruke alt-tekst for å sikre at materialet er tilgjengelig for alle. Dersom det er generert basert på en tekstpromt, vil dette promtet gi et godt utgangspunkt for alt-tekst.

Særlig om generering av kode med verktøy som GitHub Copilot og ChatGPT:

«Promting» kan være annerledes ved KI-assistert utvikling: KI-verktøy som er bygget inn i en IDE eller andre typer text editors har potensialet til å kontinuerlig overvåke koden som skrives. Dette krever en større oppmerksomhet enn for verktøy som ChatGPT. I sistnevnte verktøy vil du ha kontroll på når du promter verktøyet.
Husk at sensitiv informasjon ikke må brukes som «promts»: Som for generativ KI generelt, bør ikke sensitiv informasjon brukes i promts. Med sensitiv informasjon mener vi blant annet personopplysninger, taushetsbelagt informasjon, informasjon du ikke har tilstrekkelig rettigheter til og gradert informasjon. For utviklere vil sensitiv informasjon også kunne omfatte ting som API-nøkler og annen sikkerhetsinformasjon.
Ha et bevisst forhold til hvilken stor språkmodell som benyttes: Det er stor forskjell på hvor bra de ulike store språkmodellene presterer ved kode-generering.
Skriv i pull «requesten» at du har brukt KI-assistert kodegenerering: La den som skal gjennomgå koden få vite at den er skrevet med KI-assistert kodegenerering. Dette kan bidra til større oppmerksomhet. Opplys også om hvilken språkmodell som er benyttet.
Ha et bevisst forhold til at det brukes kodegenerering: KI-assistert kodegenerering behøver ikke å være problematisk, men sørg for at utviklerne har rutiner og opplæring for hvordan verktøyene skal brukes. Det kan være flere sikkerhetsrisikoer. Forskning fra Stanford har vist at utviklere som skriver kode med KI-assistert kodegenerering skriver mindre sikker kode. Den viser også at utviklere som har støttet seg på slike verktøy har større tro på at koden som er skrevet er sikker. Samtidig viser den at utviklere som bruker KI-verktøy på en kritisk måte produserer kode med færre sårbarheter.

EDIT:

Slått sammen punktene om "Si hvem du er" og "Kjør alltid et pilotprosjekt" under "Generelle retningslinjer" til punktet "Vær særlig varsom ved samhandling med innbyggere".
Lagt til punktet "Husk at svarene ikke nødvendigvis er tilpasset våre verdier" under "Særlig om generering av tekst"

jens.andresen.osberg