Her kan du stille spørsmål om alt du måtte lure på om deling og bruk av data, eksempelvis datasett, API-er, begreper, informasjonsmodeller og juss, videre kan du delta i diskusjoner, vise frem prosjektene dine, knytte nye kontakter og finne nye samarbeid. Nettforumet er åpent for alle, men for å skrive innlegg må du først registrere deg. Formålet med forumet er å legge til rette for at data skal bli en verdiskapende ressurs for hele samfunnet – bli med og bidra til økt kunnskap, åpenhet og innovasjon. Vi oppfordrer til en konstruktiv og saklig dialog i nettforumet.
Seniorrådgiver i Digitaliseringsdirektoratet | jurist og teknolog
Nå har vi løftet rådene for generativ kunstig intelligens inn i veiledningen på nettsiden vår: https://www.digdir.no/kunstig-intelligens/bruk-av-generativ-kunstig-intelligens-i-offentlig-sektor/4670
Rådene er fortsatt i "åpen beta" og vi ønsker innspill! Kommenter gjerne her i Datalandsbyen om det er noe dere savner eller om dere ser noe som kan bli bedre.
Tusen takk for alle innspill dere har gitt her så langt! De er tatt med og har medført flere justeringer på de aktuelle punktene.
@sophus-aarnaes Hei Sophus! Så bra dere vurderer å legge ut noen prosjekter! Til dine spørsmål:
Helt enig at kontaktpersoner er veldig nyttig. Her er det nok personvernspørsmål knyttet til samtykke til at vi legger ut den informasjonen som har gjort at det feltet har latt vente på seg. Vi jobber litt med hvordan oversikten skal forvaltes fremover og kommer nok til å adressere dette i denne forbindelsen.
Jeg synes det høres svært relevant. Selv om det er en del "hyllevare" er det mye læring rundt dette prosjektet som kan være nyttig for mange. Så meld det gjerne inn!
God jul!
@hermonmelles Tusen takk for god og grundig tilbakemelding, Hermon!
Forstår jeg deg rett, understreker tilbakemeldingen din kompleksiteten og usikkerheten rundt rettighetssituasjonen til både inputen og outputen, men i hovedsak outputen.
Vi har også fått et annet innspill (i en annen kanal) om at vi i vår fremstilling bør fokusere på rettighetene til det genererte materialet/outputen (både tekst, bilder og kode mm.) og hvordan dette blir brukt. Bakgrunnen for dette er følgende:
Fokus på "outputen" treffer de aktuelle rettighetene bedre: Det er ingen tvil om at det er usikkerhet knyttet til trening av de store maskinlæringsmodellene med immaterielt vernet materiale. Her er det mange viktige spørsmål og diskusjoner. De synes imidlertid ikke å treffe norske virksomheter i så stor grad, all den tid disse modellene trenes av utenlandske teknologiselskaper. For norske virksomheter er det outputen som i praksis får betydning, og da skal ikke vi bruke for mye tid på detaljspørsmål knyttet til inputen.
Det er en praktisk nyttig tilnærming: Det er lite sannsynlig at virksomheter vil klare å kontrollere rettighetssituasjonen til inputen. En ansatt vil eksempelvis kunne bruke tekst i ChatGPT e.l. som har opphavsrettslig vern og det vil være vanskelig for en virksomhet å kontrollere dette. Virksomheten bør i stedet ha tydelige retningslinjer for hvordan det genererte materialet benyttes. I dette ligger at virksomheten må sikre at det genererte materialet ikke er plagiat. På denne måten blir tilnærmingen litt det samme som uten generativ KI. I dag vil jo en ansatt fritt kunne lese og la seg inspirere av opphavsrettslig beskyttet materiale, så fremt dette ikke plagieres eller på en annen måte benyttes i strid med immaterielle rettigheter. Jo mer praktisk nyttig vår veiledning, jo større er sannsynligheten for at vi får regelverksetterlevelse i praksis. Og det er jo helt klart målet.
Slik jeg forstår deg, er dine tilbakemeldinger forenelig med dette innspillet vi har fått. Du peker på at det er bruken av det bearbeidede verket etter åndsverkslovens § 6 som kan forutsette samtykke, og ikke selve bearbeidelsen. Det er altså en konkret vurdering av om det genererte materialet og hvorvidt kravene til verkshøyde tilsier "bearbeidet verk" eller "selvstendig verk". Også etter markedsføringslovens § 25 vil vel dette bero på en konkret vurdering hvor en ser på det genererte materialet opp mot det opprinnelige materialet. Vi vil altså kunne ta med dine innspill i arbeidet fremover hvor vi særlig ser på "outputen".
Gi meg gjerne tilbakemelding dersom jeg har misforstått noe i innspillet ditt.
TLDR; Vi tenker fremover å fokusere på outputen. I en veiledning som dette vil det blant annet kunne være aktuelt å peke på tiltak/rutiner osv. for å bidra til å sikre at det genererte materialet ikke er plagiat eller på en annen måte brukes i strid med immaterielle rettigheter.
Nå har vi løftet rådene for generativ kunstig intelligens inn i veiledningen på nettsiden vår: https://www.digdir.no/kunstig-intelligens/bruk-av-generativ-kunstig-intelligens-i-offentlig-sektor/4670
Rådene er fortsatt i "åpen beta" og vi ønsker innspill! Kommenter gjerne her i Datalandsbyen om det er noe dere savner eller om dere ser noe som kan bli bedre.
Tusen takk for alle innspill dere har gitt her så langt! De er tatt med og har medført flere justeringer på de aktuelle punktene.
@marius-roe-navik
Takk for god tilbakemelding, Marius! Dette kan være noe vi må se på videre. Jeg har følgende tanker:
Er dette en "inkonsekvent frykt" for GKI?: Du skriver selv at dette jo ikke er et spørsmål spesifikt for GKI. Basert på min forståelse av store språkmodeller, har ikke de noe kapasitet til å analysere brukeren av KI-verktøyet. For den underliggende språkmodellen er det interessante strukturene i språket i "promptet". Det avgjørende må være hvilke type mekanismer som er bygget inn i grensesnittet for den store språkmodellen (eks. ChatGPT), og her er det ikke noe annerledes enn for andre tjenester. Er vi for eksempel like skeptiske til oversettingsverktøy?
Prioritering og rekkefølge: Fra vårt ståsted må første prioritet være å sikre at offentlig ansatte bruker generativ KI på en måte som ivaretar innbyggernes rettigheter. Det er naturligvis også viktig å sikre at vi ivaretar de ansattes rettigheter, men ettersom dette spørsmålet er noe mer usikkert (særlig mht. om dette er en spesifikk problemstilling for GKI) tenker jeg at vi uansett kan komme ut med retningslinjer som i alle fall ivaretar innbyggerne. Og så får vi videre diskutere problemstillingen med ansatte som tar i bruk GKI.
Så oppsummert tenker jeg at:
Hvis dette ikke er et spesifikt spørsmål for GKI, så trenger det ikke å inngå i disse retningslinjene.
Hvis min forståelse er feil, slik at det ansattes opplysninger stiller seg annerledes for GKI, så bør dette adresseres i disse retningslinjene. Og i såfall ønsker jeg den diskusjonen velkommen videre samtidig som vi etterhvert publiserer første iterasjon av rådene.
Nysgjerrig på hva du tenker om dette og hvorvidt min forståelse stemmer.
@thomas-bjoernskau
Takk for en god tilbakemelding! Det kan være at henvisningen til åndsverksloven ikke er helt god, så den skal vi vurdere. Samtidig har jeg følgende betraktninger om å laste opp et bilde til en generativ tjeneste:
Opplastingen av bildet til en tjeneste som Dall-E og Midjourney vil presumptivt medføre at bildet blir brukt for ytterligere trening av den underliggende maskinlæringsmodellen. Jeg antar at dette innebærer at bildet brukes direkte for videre trening og/eller lagres i en bildesamling slik at dette kan benyttes til trening senere. (Jeg skriver her presumptivt ettersom vilkårene til den aktuelle tjenesten trolig kan belyse dette nærmere for den konkrete tjenesten)
Ved at bilde kan brukes til å videre utvikle en slik tjeneste, vil jo selskapet som står bak KI-tjenesten "kapitalisere" på bildet til den opprinnelige rettighetshaveren. Jeg tenker som utgangspunkt rettighetshaveren har noen verneverdige interesser i denne sammenhengen, men her er jeg helt klart åpen for flere synspunkter.
Jeg forsøker meg på en hypotetisk sammenliknbar situasjon med mennesker:
La oss si at person A med fotografisk hukommelse går på en utstilling på et galleri med bilder fra kunstner B. Deretter begynner person A å lage variasjoner av det hen nettopp så på utstillingen. Personen A får gevinster av dette, enten i form av direkte salg eller at denne personen gjør seg opp et navn som selvstendig kunstner. Tenker dette kan være nokså sammenliknbart, og spørsmålet er da i hvilken person B (kunstneren) har noen verneverdig interesser?
Hva tenker du om disse synspunktene og eksempelet?
Jeg har også spesifikt henvendt meg til personer i nettverket vårt som er eksperter på immaterialrett og håper de pitcher inn her.
Vi lanserer i dag veiledning for ansvarlig utvikling og bruk av kunstig intelligens i offentlig sektor.
Veiledningen lanseres som «åpen beta». Dette betyr at vi ønsker tilbakemeldinger og innspill til innholdet som presenteres.
Veiledningen er ikke uttømmende veiledning til KI. Vi presenterer en rekke konkrete råd for å hjelpe virksomheter med å utvikle og bruke kunstig intelligens i henhold til eksisterende og kommende regelverk. Rådene er ikke bindende, men skal peke på beste praksis.
Har du lest veiledningen på nettsidene våre og har noen innspill, kommenter gjerne på denne tråden. Vi tar i mot alle innspill med stor takk! Eksempler på innspill er:
"Problemstillingen dere beskriver på side X jobber vi mye med. Vi pleier å bruke verktøy Y for å løse dette"
"Rådet(ene) dere presenterer på side X fungerer dårlig i praksis. Jeg jobber som data scientist i virksomhet Z og vi pleier å adressere følgende utfordring slik:..."
"Rådene dere gir på side X likner på det virksomhet Z gir. Rådene bør sees i sammenheng, så det ikke blir overlapp"
"Rådet dere presenterer på side X har lite verdi. Rådet er for overordnet og det er ikke mulig å ivareta i praksis. Jeg forslår følgende:..."
"Avsnittet på side X er vanskelig å forstå. Det bør omformuleres og utdypes med et eksempel så det er lettere å forstå."
Det er lov å bare peke på utfordringer, men vi blir også glade om du har forslag til løsninger. Vi oppfordrer også til å kommentere på andres forslag, slik at vi får en god meningsutveksling. På denne måten sikrer vi at rådene blir best mulig!
Vi vurderer en del om spesifikke retningslinjer for bruk av generativ KI i vår veiledning for ansvarlig utvikling og bruk av kunstig intelligens i offentlig sektor. I likhet med resten av vår veiledning etterstreber vi konkrete råd. Under følger forslag til råd. Vi understreker at rådene fortsatt er på utkaststadiet.
Vi er kjent med at EU-kommisjonen har utarbeidet interne retningslinjer, samt at EU og USA skal lage et utkast til etiske retningslinjer for KI. Vi følger dette tett og oppdater retningslinjene deretter.
Gi oss gjerne tilbakemeldinger, forslag til endringer og forslag til andre mulige råd.
Generelle retningslinjer:
Risikovurdering: Før generativ KI tas i bruk i virksomheten, må det gjøres en grundig risikovurdering. Dette bør inkludere potensielle farer knyttet til misbruk, feilinformasjon, datalekkasjer, og effekten av KI-løsningen på virksomheten.
Riktig opplæring for brukere: Brukere av generativ KI bør ha tilstrekkelig opplæring og forståelse for å bruke teknologien ansvarlig og effektivt. Dette inkluderer kunnskap om risikoer, samt beste praksis for bruk.
Vær særlig varsom ved samhandling med innbyggere: I dag er vi i en tidlig fase med generativ KI. Hvis et generativt KI-verktøy skal brukes for samhandling mellom forvaltningen og innbyggerne, vær særlig grundig i risikovurderinger og juridiske vurderinger. Det bør alltid kjøres et pilotprosjekt. Videre vil det være viktig at innbyggeren forstår at det er KI de samhandler med.
Ikke bruk sensitiv informasjon i «prompts»: Personopplysninger, taushetsbelagt informasjon, gradert informasjon, rettighetsbelagt informasjon eller sikkerhetssensitiv informasjon skal ikke brukes til å gi instruksjoner til generative KI-verktøy. Som utgangspunkt må det legges til grunn at informasjonen i et «prompt» blir sendt til selskapet bak verktøyet og vil bli lagret og brukt til videre trening av den underliggende maskinlæringsmodellen. Unntak gjelder dersom du har tilstrekkelig rettslige grunnlag for å behandle denne informasjonen til dette formålet. Det aktuelle selskapets vilkår og personvernerklæring vil kunne si noe mer nøyaktig om hvordan informasjonen behandles.
Særlig om generering av tekst med verktøy slik som ChatGPT, Microsoft Bing Chat og Google Bard:
Bruk på eksisterende tekst kan være greit: offentlig sektor bruker mye tid på å behandle tekst. Dette er de store språkmodellene særlig gode på. Bruk de gjerne til å korte ned, lage sammendrag, kulepunkter eller lignende av eksisterende tekst. Et eksempel på dette er å kopiere inn en tekst som er tung å lese og deretter spørre en stor språkmodell om å gjøre den til klarspråk. Husk imidlertid at teksten ikke må inneholde sensitiv informasjon, som pekt på i punkt over.
Vær varsom ved bruk som oppslagsverk: store språkmodeller er trent på en enorm mengde tekst. Dette har gitt dem oversikt over strukturer i språk. Treningsdataen inneholder imidlertid også mye faktainformasjon som språkmodellen kan uttrykke. Faktainformasjonen er sånn sett «en bonus», for fokuset for de store språkmodellene er strukturer i språk. Modellene er ikke optimalisert for å gi helt presis faktainformasjon, selv om resultatene tidvis kan være svært imponerende. Bruk modellene derfor med stor varsomhet ved bruk som oppslagsverk. Til dette kommer også at flere språkmodeller ikke har faktainformasjon som er nyere enn for tidspunktet for trening av modellen.
Husk at svarene ikke nødvendigvis er tilpasset våre verdier: Store språkmodeller og grensesnittene for å interagere med disse (eksempelvis ChatGPT) vil være tilpasset og reflektere verdiene til menneskene som har utviklet disse modellene og verktøyene. Det er ikke gitt at disse verdiene samsvarer med verdiene vi har i vårt samfunn og dette kan reflekteres i svaret.
Bruk ytterligere verktøy som kan identifisere plagiat: Det finnes flere verktøy som kan bidra til å vurdere om tekstmaterialet som er produsert av en stor språkmodell kan være plagiat. Eksempelvis har enkelte skrivebehandlingsverktøy en «redaktør-funksjon» som kan bidra til å vurdere om tekstmaterialet er plagiert.
Kvalitetssikre alltid innhold fra store språkmodeller: I tillegg til å påse at materialet ikke er plagiert, bør du alltid lese over og kvalitetssikre. Det er du som til slutt er avsender av teksten og skal stå for innholdet.
Særlig om generering av bilder med modeller som Midjourney og Dall-E:
Tekst som input er mindre problematisk enn bilder som input: Flere bildegenereringsverktøy kan benytte både tekst og bilde som input. Eksempelvis tilbyr flere verktøy muligheten for å laste opp et bilde og be om variasjoner av dette. Det er mindre problematisk å bruke tekst som input enn et bilde som input. Selv om det kan tenkes unntak, vil et «tekstpromt» som utgangspunkt ikke være immaterialrettslig beskyttet materiale. For bruk av bilder bør imidlertid utgangspunktet være det motsatte, nemlig at det er beskyttet materialet, med mindre det er åpent tilgjengelig.
Sørg for at du har rett til å bruke et bilde som input: Det behøver ikke å være problematisk å bruke et bilde som input så lenge du har rettighetene til bildet du benytter. Rettighetene må for det første omfatte å laste opp materialet til serverne til den respektive generative tjenesten. Avhengig av vilkårene til den respektive generative tjenesten, kan dette bety at bildet blir lagret et sted og/eller benyttet til ytterligere trene den underliggende maskinlæringsmodellen. For det andre må rettighetene omfatte retten til å bearbeide materialet. Sistnevnte reguleres eksempelvis av åndsverkslovens § 6.
Rettighetene til det genererte bildet: Situasjonen rundt rettigheter til genererte bilder er usikker. På den ene siden bør det være fritt frem å lage noe nytt med inspirasjon fra tidligere materiale. Alt kunst bygger jo i større eller mindre grad på tidligere kunst. På den andre siden vil inspirasjonen på et tidspunkt være så stor at det blir som å «snylte» på opprinnelig rettighetshaver. Det pågår store søksmål som vil bidra til å belyse problemstillingen i tiden fremover. På nåværende tidspunkt bør offentlige virksomheter som benytter KI-generert materiale være bevisst at rettighetssituasjonen er usikker.
Opplys om at bildene er generert: La mottakeren av bildene forstå at bildene er generert ved hjelp av kunstig intelligens. Dette er særlig viktig der bildene er realistiske, ettersom realistiske bilder kan gi uttrykk for en forståelse av verden, og dermed kan gi bekymring eller kan påvirke meninger på manipulerende måte.
Husk universell utforming: Dersom KI-genererte bilder benyttes på en nettside, må du, som ved alle andre bilder huske å bruke alt-tekst for å sikre at materialet er tilgjengelig for alle. Dersom det er generert basert på en tekstpromt, vil dette promtet gi et godt utgangspunkt for alt-tekst.
Særlig om generering av kode med verktøy som GitHub Copilot og ChatGPT:
«Promting» kan være annerledes ved KI-assistert utvikling: KI-verktøy som er bygget inn i en IDE eller andre typer text editors har potensialet til å kontinuerlig overvåke koden som skrives. Dette krever en større oppmerksomhet enn for verktøy som ChatGPT. I sistnevnte verktøy vil du ha kontroll på når du promter verktøyet.
Husk at sensitiv informasjon ikke må brukes som «promts»: Som for generativ KI generelt, bør ikke sensitiv informasjon brukes i promts. Med sensitiv informasjon mener vi blant annet personopplysninger, taushetsbelagt informasjon, informasjon du ikke har tilstrekkelig rettigheter til og gradert informasjon. For utviklere vil sensitiv informasjon også kunne omfatte ting som API-nøkler og annen sikkerhetsinformasjon.
Ha et bevisst forhold til hvilken stor språkmodell som benyttes: Det er stor forskjell på hvor bra de ulike store språkmodellene presterer ved kode-generering.
Skriv i pull «requesten» at du har brukt KI-assistert kodegenerering: La den som skal gjennomgå koden få vite at den er skrevet med KI-assistert kodegenerering. Dette kan bidra til større oppmerksomhet. Opplys også om hvilken språkmodell som er benyttet.
Ha et bevisst forhold til at det brukes kodegenerering: KI-assistert kodegenerering behøver ikke å være problematisk, men sørg for at utviklerne har rutiner og opplæring for hvordan verktøyene skal brukes. Det kan være flere sikkerhetsrisikoer. Forskning fra Stanford har vist at utviklere som skriver kode med KI-assistert kodegenerering skriver mindre sikker kode. Den viser også at utviklere som har støttet seg på slike verktøy har større tro på at koden som er skrevet er sikker. Samtidig viser den at utviklere som bruker KI-verktøy på en kritisk måte produserer kode med færre sårbarheter.
EDIT:
Slått sammen punktene om "Si hvem du er" og "Kjør alltid et pilotprosjekt" under "Generelle retningslinjer" til punktet "Vær særlig varsom ved samhandling med innbyggere".
Lagt til punktet "Husk at svarene ikke nødvendigvis er tilpasset våre verdier" under "Særlig om generering av tekst"
Vi lanserer i dag veiledning for ansvarlig utvikling og bruk av kunstig intelligens i offentlig sektor.
En viktig del av bakgrunnen for innretningen på vår veiledning er at det eksisterer et stort antall ressurser på KI-feltet. Det er utarbeidet en rekke verktøy, veiledere og retningslinjer som kan være til hjelp for deg som skal bruke og utvikle intelligens. Fordi mange av spørsmålene og utfordringene knyttet til kunstig intelligens er globale, kan også andre lands ressurser være til hjelp. Vi ønsker ikke å lage konkurrerende ressurser og henviser derfor til flere på nettsidene våre.
Gi oss gjerne innspill ved å kommentere på denne tråden! Innspill kan være eksempelvis være kommentarer til ressurser vi allerede henviser til eller forslag til nye ressurser vi bør vurdere.
Sammen med NORA.ai lanserte Digitaliseringsdirektoratet i februar en oversikt over KI-prosjekter i offentlig sektor.
Oversikten er en viktig ressurs som henger tett sammen med veiledningsmaterialet på Digitaliseringsdirektoratets nettsider. Den gir en unik oversikt over hvordan kunstig intelligens brukes i offentlig sektor. Dette kan bidra til en åpen offentlig sektor, gode vurderinger og god ressursbruk.
Oversikten er best når den er oppdatert. Hjelp oss med dette og meld inn ditt KI-prosjekt her.
Relevante lenker:
Vi ønsker også tilbakemeldinger på hvordan oversikten kan bli bedre! Kommenter gjerne her med funksjonalitetsønsker, hvilke datapunkter oversikten burde ha og liknende.
