Kunstig intelligens og demokratiske valg– internasjonale erfaringer og nasjonale anbefalinger
En helhetlig tilnærming til kunstig intelligens (KI) er nødvendig for å beskytte valg integriteten og fremme demokrati i en tid preget av rask teknologisk utvikling. KI
har gitt oss kraftfulle verktøy som kan brukes på mange nyttige måter, men har
også et potensiale for misbruk.
Ekspertgruppen for KI og valg ble oppnevnt av Kommunal- og distriktsdeparte mentet for å kartlegge betydningen av KI for demokratiske valg, og for å komme
med anbefalinger til tiltak for å møte utfordringene KI medfører i denne sammen heng. I arbeidet har ekspertgruppen tatt utgangspunkt i tre hovedspor:
(1) informasjons- og medielandskapet, (2) fordekt valgpåvirkning og (3) valg gjennomføring og cybersikkerhet.
Ekspertgruppen vil fremheve at det norske samfunnet har gode forutsetninger for
motstandskraft mot demokratiske trusler, som det er viktig å bygge videre på og
forsterke. Det norske mediesystemet med et mangfold av uavhengige, redaktør styrte medier gir et godt utgangspunkt for motstandsdyktighet både mot økende
polarisering og fragmentering av samfunnet, men også mot uønsket påvirkning fra
KI-generert innhold generelt og KI-drevne påvirkningsoperasjoner i forbindelser
med valg. Likevel ser vi også i Norge tegn til at de redaksjonelle medienes rolle er
under press fra sosiale medier og endrede medievaner, særlig hos unge.
Algoritmestyrte systemer har forandret informasjonslandskapet ved å muliggjøre
rask og omfattende distribusjon og spredning av innhold på sosiale medier. Det
skjer på en måte som kan bidra til å forsterke personlige oppfatninger og redusere
mangfoldet av synspunkter man eksponeres for. De sosiale mediene har blitt
viktigere kanaler for informasjonsdeling, mens de redaktørstyrte mediene har
større utfordringer med å nå ut til hele bredden i samfunnet. Det bidrar til et mer
uoversiktlig informasjons- og medielandskap.
Fremskritt innen KI, særlig store språkmodeller, har vakt bekymring for deres
potensiale til å generere falsk informasjon og muliggjøre mer sofistikerte og
fordekte påvirkningsoperasjoner. Hittil har vi hovedsakelig sett at KI bidrar til å
forsterke allerede eksisterende trusler, men ekspertgruppen mener det er viktig
å sørge for nødvendig demokratisk beredskap, motstandskraft i befolkningen og
KI-kompetanse hos myndighetene, herunder etterretnings- og sikkerhetstjenestene.
Teknologien og trendene utvikler seg raskt – og det gjør også utfordringsbildet.
Valgene ekspertgruppen har undersøkt i 2024, viser at kombinasjonen av KI, sosiale
medier og cyberoperasjoner har gitt utenlandske og innenlandske aktører nye
muligheter for fordekt valgpåvirkning. Et spesielt urovekkende og illustrerende
eksempel på dette er presidentvalget i Romania.
KI-generert innhold fikk stor oppmerksomhet i valgåret 2024, særlig i USA. Det viser
at generativ KI kan ha en klar betydning for den politiske dagsordenen i forkant av
valget. Hvorvidt innholdet faktisk er sant synes å være mindre avgjørende for om
det oppnår spredning, så lenge det bidrar til å forsterke eller representere mot takerens meninger og virkelighetsoppfatninger.
Sammendrag
7
Vi har ikke oversikt over rekkevidden og potensialet til teknologien, eller hvordan
den vil påvirke samfunnet og individene over tid. Ekspertgruppen har i arbeidet
med denne rapporten identifisert noen endringer i utfordringsbildet for norske
valg. Disse følger hovedsporene og viser hvor KI i særlig grad kan endre eller for sterke utfordringer som det vil være særlig viktig å være oppmerksom på.
Med utgangspunkt i erfaringene fra valg i 2024, sammen med kunnskap om
hvordan KI kan brukes og kunnskap om norske forhold, legger ekspertgruppen
frem flere anbefalinger. Anbefalingene skal bidra til å redusere risikoen for at KI
brukes på en måte som vil kan ha negativ betydning for valg og demokrati. For å
imøtekomme endringene i utfordringsbildet har ekspertgruppen følgende over ordnede anbefalinger:
– Sikre at valgmyndighetene har nødvendig kompetanse og kapasitet på KI og
kommunikasjon.
– Redusere grunnlag for at det kan spekuleres i feil og mangler i valggjennom føringen eller at valget er utsatt for uønsket påvirkning.
– Kontakt mellom myndighetene og teknologi- og plattformselskapene.
– Politiske aktører bør ansvarliggjøres og støttes.
– Prioritere rask implementering av relevante EU-lover, særlig DSA og KI forordningen.
– Føre en aktiv mediepolitikk som opprettholder frie, sterke og mangfoldige
redaktørstyrte medier.
– Bygge kildebevissthet og fremme kritisk medie-, teknologi- og KI-forståelse.
– Mer forskning og samarbeid mellom myndigheter, forskere, sivilsamfunn og
teknologiselskaper.
– Være en pådriver for internasjonalt samarbeid på de ovennevnte områdene.
Anbefalingene er nærmere spesifisert og omtalt i rapportens punkt 6.1.
Ekspertgruppen mener disse anbefalingene vil bidra til å bygge bevissthet og
beredskap i befolkningen og i myndighetene som har en rolle i valggjennom føringen, mediene og teknologiselskapene. Samtidig vil ekspertgruppen under streke at oppmerksomheten om betydningen av KI for valg ikke må overdrives,
slik at oppmerksomheten i seg selv fører til en overdreven frykt og mistenksomhet
omkring hva som er sant og usant
har gitt oss kraftfulle verktøy som kan brukes på mange nyttige måter, men har
også et potensiale for misbruk.
Ekspertgruppen for KI og valg ble oppnevnt av Kommunal- og distriktsdeparte mentet for å kartlegge betydningen av KI for demokratiske valg, og for å komme
med anbefalinger til tiltak for å møte utfordringene KI medfører i denne sammen heng. I arbeidet har ekspertgruppen tatt utgangspunkt i tre hovedspor:
(1) informasjons- og medielandskapet, (2) fordekt valgpåvirkning og (3) valg gjennomføring og cybersikkerhet.
Ekspertgruppen vil fremheve at det norske samfunnet har gode forutsetninger for
motstandskraft mot demokratiske trusler, som det er viktig å bygge videre på og
forsterke. Det norske mediesystemet med et mangfold av uavhengige, redaktør styrte medier gir et godt utgangspunkt for motstandsdyktighet både mot økende
polarisering og fragmentering av samfunnet, men også mot uønsket påvirkning fra
KI-generert innhold generelt og KI-drevne påvirkningsoperasjoner i forbindelser
med valg. Likevel ser vi også i Norge tegn til at de redaksjonelle medienes rolle er
under press fra sosiale medier og endrede medievaner, særlig hos unge.
Algoritmestyrte systemer har forandret informasjonslandskapet ved å muliggjøre
rask og omfattende distribusjon og spredning av innhold på sosiale medier. Det
skjer på en måte som kan bidra til å forsterke personlige oppfatninger og redusere
mangfoldet av synspunkter man eksponeres for. De sosiale mediene har blitt
viktigere kanaler for informasjonsdeling, mens de redaktørstyrte mediene har
større utfordringer med å nå ut til hele bredden i samfunnet. Det bidrar til et mer
uoversiktlig informasjons- og medielandskap.
Fremskritt innen KI, særlig store språkmodeller, har vakt bekymring for deres
potensiale til å generere falsk informasjon og muliggjøre mer sofistikerte og
fordekte påvirkningsoperasjoner. Hittil har vi hovedsakelig sett at KI bidrar til å
forsterke allerede eksisterende trusler, men ekspertgruppen mener det er viktig
å sørge for nødvendig demokratisk beredskap, motstandskraft i befolkningen og
KI-kompetanse hos myndighetene, herunder etterretnings- og sikkerhetstjenestene.
Teknologien og trendene utvikler seg raskt – og det gjør også utfordringsbildet.
Valgene ekspertgruppen har undersøkt i 2024, viser at kombinasjonen av KI, sosiale
medier og cyberoperasjoner har gitt utenlandske og innenlandske aktører nye
muligheter for fordekt valgpåvirkning. Et spesielt urovekkende og illustrerende
eksempel på dette er presidentvalget i Romania.
KI-generert innhold fikk stor oppmerksomhet i valgåret 2024, særlig i USA. Det viser
at generativ KI kan ha en klar betydning for den politiske dagsordenen i forkant av
valget. Hvorvidt innholdet faktisk er sant synes å være mindre avgjørende for om
det oppnår spredning, så lenge det bidrar til å forsterke eller representere mot takerens meninger og virkelighetsoppfatninger.
Sammendrag
7
Vi har ikke oversikt over rekkevidden og potensialet til teknologien, eller hvordan
den vil påvirke samfunnet og individene over tid. Ekspertgruppen har i arbeidet
med denne rapporten identifisert noen endringer i utfordringsbildet for norske
valg. Disse følger hovedsporene og viser hvor KI i særlig grad kan endre eller for sterke utfordringer som det vil være særlig viktig å være oppmerksom på.
Med utgangspunkt i erfaringene fra valg i 2024, sammen med kunnskap om
hvordan KI kan brukes og kunnskap om norske forhold, legger ekspertgruppen
frem flere anbefalinger. Anbefalingene skal bidra til å redusere risikoen for at KI
brukes på en måte som vil kan ha negativ betydning for valg og demokrati. For å
imøtekomme endringene i utfordringsbildet har ekspertgruppen følgende over ordnede anbefalinger:
– Sikre at valgmyndighetene har nødvendig kompetanse og kapasitet på KI og
kommunikasjon.
– Redusere grunnlag for at det kan spekuleres i feil og mangler i valggjennom føringen eller at valget er utsatt for uønsket påvirkning.
– Kontakt mellom myndighetene og teknologi- og plattformselskapene.
– Politiske aktører bør ansvarliggjøres og støttes.
– Prioritere rask implementering av relevante EU-lover, særlig DSA og KI forordningen.
– Føre en aktiv mediepolitikk som opprettholder frie, sterke og mangfoldige
redaktørstyrte medier.
– Bygge kildebevissthet og fremme kritisk medie-, teknologi- og KI-forståelse.
– Mer forskning og samarbeid mellom myndigheter, forskere, sivilsamfunn og
teknologiselskaper.
– Være en pådriver for internasjonalt samarbeid på de ovennevnte områdene.
Anbefalingene er nærmere spesifisert og omtalt i rapportens punkt 6.1.
Ekspertgruppen mener disse anbefalingene vil bidra til å bygge bevissthet og
beredskap i befolkningen og i myndighetene som har en rolle i valggjennom føringen, mediene og teknologiselskapene. Samtidig vil ekspertgruppen under streke at oppmerksomheten om betydningen av KI for valg ikke må overdrives,
slik at oppmerksomheten i seg selv fører til en overdreven frykt og mistenksomhet
omkring hva som er sant og usant
Publisert i 2025
Les artikkelen her