Denne artikkelen ble først publisert hos Finansavisen / Kapital.
– Selv om norske valg ikke er blitt utsatt for større påvirkningsoperasjoner tidligere, skal vi ikke være naive. Det er viktig for meg at vi bygger bevissthet om at valg kan utsettes for uønsket påvirkning, men vi må gjøre det på en måte som ivaretar ytringsfriheten og ikke bidrar til unødig og overdrevet frykt, sier vår ferske kommunalminister Kjersti Stenseng.
Hun har fulgt nøye med på med hva som skjer i andre vestlige demokratier.
– Erfaringene fra andre valg har så langt vist at uønsket påvirkning skjer vel så mye gjennom de «tradisjonelle» metodene, men vi vet at AI kan forsterke disse. Vi har også sett at påvirkningsaktivitet kan ta seg opp rundt valg – det så vi både i Romania og i Tyskland.
Under de ferske europeiske valgene er generativ AI blitt brukt på flere måter, og spesielt ved det tyske valget var det betydelig bruk av kunstig intelligens. Her hjemme har Kommunal- og distriktsdepartementet ansvaret for valget, og departementet har fått innspill fra flere aktører i forberedelsene.
En ekspertgruppe har nettopp undersøkt betydningen av kunstig intelligens i demokratiske valg og kommet med anbefalinger basert på internasjonale erfaringer. I tillegg har Forsvarets forskningsinstitutt levert to rapporter.
– Det er viktig å sikre at vi har faglig kunnskap om hvilken betydning kunstig intelligens kan ha for gjennomføringen av sikre og demokratiske valg, sier Stenseng.
Det tyske valget er bare en drøy måned unna, og det er kommet flere meldinger om hvordan tyskerne både i øst og vest ble forsøkt påvirket. Det høyreorienterte partiet Alternative für Deutschland (AfD) var ledende i bruken av AI-generert innhold og sendte blant annet ut AI-bilder og videoer som forsøkte å presentere en idealisert versjon av Tyskland.
The Guardian skriver om hvordan partiets offisielle nettsider inneholdt AI-genererte bilder av smilende innbyggere, ledsaget av slagord som «Nå får jeg friheten min tilbake» og «Nå er det på tide å vende tilbake.»
Utenlandske aktører utnyttet også AI for å blande seg inn i det tyske valget. Forskere har blant annet identifisert et nettverk med over 700 falske sosiale mediekontoer som spredte pro-russisk desinformasjon rettet mot CDU-lederen og den kommende statsministeren Friedrich Merz.
Rapporten fra den norske ekspertgruppen foreslår tiltak for å begrense uønsket påvirkning av stortingsvalget og fremhever punkter som økt desinformasjonspotensial, avhengighet av teknologiplattformer og cybersikkerhetsrisikoer.
Gruppen understreker behovet for økt bevissthet, kompetanse og internasjonalt samarbeid.
Selv om omfanget av AI-generert desinformasjon ikke var så stort som fryktet i internasjonale valg i 2024, forventes det at aktører vil bli stadig flinkere til å utnytte teknologien. Rapporten peker på at informasjonslandskapet endres ved at AI-generert innhold kan gjøre det vanskeligere å skille sant fra usant, redusere tilliten til informasjon og forsterke fragmenteringen av medier.
Men hvilke konkrete tiltak vil bli gjennomført i Norge for å møte utfordringene AI betyr for høstens valg spesielt – og demokratiet mer generelt?
– Vi har fått tre veldig gode kunnskapsgrunnlag: en rapport fra ekspertgruppen for AI og valg og to rapporter fra Forsvarets forskningsinstitutt. Som ekspertgruppen for AI og valg skriver i sin rapport, kan AI ha betydning for valg og demokrati, men stort sett forsterker det trusler vi var kjent med tidligere.
Parallelt med dette mener Stenseng at politikken også må videreutvikles når teknologi og samfunn er i endring.
Det brukes strategisk hele tiden av folk som vil svekke det norske demokratiet.
– For Arbeiderpartiet og for regjeringen er det avgjørende at vi finner de beste løsningene for hvordan vi kan regulere, utvikle og bruke kunstig intelligens i Norge.
– Vi må jobbe godt med sikkerhet rundt valget og bygge motstandsdyktighet mot uønsket påvirkning – både i befolkningen og blant aktørene som har en rolle i valget, sier Stenseng.
Hun er også opptatt av at påvirkning ikke bare er noe som skjer i valgår. – Det brukes strategisk hele tiden av folk som vil svekke det norske demokratiet. Dette er noe Forsvarets forskningsinstitutts rapporter er tydelige på.
I tillegg jobber flere departementer også langsiktig.
– Kultur- og likestillingsministeren skal blant annet legge frem regjeringens strategi for å styrke motstandskraften mot desinformasjon før sommeren. Målet er å styrke de sidene ved det norske samfunnet som gjør oss motstandsdyktige, for eksempel en åpen og offentlig samtale, tillit, mediene og å bygge en kritisk medieforståelse.
– Norge kommer imidlertid ikke til å løse disse utfordringene med nasjonale reguleringer alene. Derfor må vi også jobbe for regulering og et regelverk på tvers av landegrensene.
Da er det bare å kaste enda et blikk på erfaringene fra det tyske valget. Der spilte nemlig også AI-genererte personer en rolle i det digitale landskapet. Et av de mest spesielle eksemplene på dette er «Larissa Wagner». Hun har ingenting med komponisten å gjøre, men var en AI-skapt influenser som la ut videoer der hun støttet AfD og fremmet anti-innvandringssynspunkter.
På valgdagen delte hun ifølge Frankfurter Allgemeine ut innhold med budskapet: «Hei folkens, jeg er på vei til valglokalet. Jeg er modig denne gangen. Jeg stemmer på AfD.» I det tyske valgtet dukket det opp flere AI-skapte profiler som dette.
Det kan ikke ha vært mange som oppfattet Larissa som en virkelig person, men hennes tilstedeværelse er likevel enda et eksempel på hvordan kunstig intelligens potensielt kan påvirke velgerne.
Erfaringer fra valg i 2024 i land som Romania, Frankrike, Storbritannia og USA viser også at AI er blitt brukt til å generere falsk informasjon, potensielt påvirke velgere via sosiale medier og øke sårbarheten for cyberangrep.
Med dette bakteppet som utgangspunkt er det naturlig å spørre:
– Er det noe samarbeid med andre land eller internasjonale organisasjoner?
– Det er mange og ulike samarbeid internasjonalt i de ulike sektorene. Når det gjelder valg, har vi et tett samarbeid blant annet med OSSEs kontor for demokrati og menneskerettigheter (ODIHR) og Europarådet – som vi også inviterer til valgobservasjon, sier Stenseng. – Det er i tillegg tett kontakt mellom valgmyndighetene i de nordiske landene på administrativt nivå, med årlige møtepunkter. Norge var vertskap for et nordisk møte i fjor, med AI på agendaen.
Men hvordan er det med velgerne?
– Hvor mye kan man egentlig forvente at befolkningen forstår av hvordan kunstig intelligens kan påvirke dem?
– Norske velgere er informerte, kritiske og har høy tillit til hverandre og til demokratiet. Samtidig kan kunstig intelligens utgjøre en risiko for valg gjennom blant annet økt spredning av desinformasjon, og dette bekymrer meg og regjeringen. Samtidig vil jeg understreke at ytringsfriheten står sterkt i Norge, og det meste vi har sett så langt av AI-generert innhold er innenfor ytringsfriheten. Vi må møte det med bevisstgjøring og korrekt informasjon.
Ministeren mener at vi har et godt utgangspunkt i Norge.
– Vi har et mangfold av redaktørstyrte medier som når bredt ut, et høyt tillitsnivå og en kompetent befolkning. Dette vet jeg er viktig for kulturministeren, som har ansvar for mediepolitikken til regjeringen. Hun arbeider med å styrke kritisk medie- og teknologiforståelse.
– Kan Norge ta ledelsen i arbeidet med noen områder innenfor kunstig intelligens og valg?
– Den hurtigarbeidende ekspertgruppen har gitt oss mer kunnskap og anbefalinger om dette. Nå skal vi jobbe grundig med rapportene, og bruke det som grunnlag i det videre arbeidet – både fram mot årets valg og på lenger sikt.
Siden 2019 har i tillegg en arbeidsgruppe på tvers av flere departementer jobbet for å styrke motstandsdyktigheten mot uønsket valgpåvirkning. – Den ledes av Kommunal- og distriktsdepartementet og har deltakere fra relevante departementer og virksomheter. På den måten bidrar vi til at alle aktører med relevante virkemidler jobber sammen for at norske valg skal være sikre og demokratiske.
– Denne gruppen er sentral i oppfølgingen av rapportene vi har mottatt, og før sommeren vil regjeringen legge frem en tiltaksplan basert på anbefalinger fra gruppen, sier Stenseng.
– Hvilke lover og forordninger gjelder nå foran årets valg? Både norske og internasjonale?
– Grunnloven og valgloven med forskrift setter rammene for valggjennomføringen. Samtidig pågår det et arbeid med implementering av relevant EU-regelverk, forteller Stenseng. - Digital Services Act (DSA) vil være viktig for å gi kunne stille krav til teknologiselskapene. Regjeringen har varslet at lovutkast for implementering av denne vil bli sendt på høring før sommeren.
– I mellomtiden må vi også gjøre det vi kan for å handle lokalt i Norge, og det er blant annet gjennomført dialogmøter mellom myndighetene, teknologiselskaper og redaktørstyrte medier om hvordan vi kan styrke motstandskraften mot desinformasjon.
– Hva går denne kontakten med de store teknologiselskapene ut på?
– Ekspertgruppen for AI og valg har anbefalt at det bør være kontakt mellom myndighetene og teknologiselskapene, særlig for å forhindre spredning av des- og feilinformasjon og for å sikre at offisiell valginformasjon benyttes. Vi må også se på hvordan selskapene kan bistå ved hendelser. Disse anbefalingene følges opp av den tverrdepartementale arbeidsgruppen.
Vi vet at kritisk medieforståelse, mediebruk og hvor man henter informasjon er ujevnt fordelt.
Stenseng forteller at det allerede har vært flere kontakter med teknologiselskapene.
– Er det også skoler eller andre fagmiljøer i Norge som nå jobber aktivt med dette?
– Det er flere fagmiljøer i Norge som jobber med AI og påvirkning. Blant annet gjennomfører Forsvarets forskningsinstitutt et treårig forskningsprosjekt på oppdrag fra Kommunal- og distriktsdepartementet, hvor de ser på uønsket utenlandsk påvirkning av valg. Prosjektet skal i år kartlegge om utenlandske aktører forsøker å påvirke høstens stortingsvalg, og kommer med en rapport om dette etter valget.
Men hvordan er nordmenn forberedt på en eventuell påvirkning ved bruk av kunstig intelligens og generativ AI? Og er noen grupper med utsatt for påvirkning enn andre?
– Hva gjøres eventuelt med disse gruppene?
– Vi vet at kritisk medieforståelse, mediebruk og hvor man henter informasjon er ujevnt fordelt. De unge bruker stadig mer tid på sosiale medier, hvor mye feil- og desinformasjon spres. Forskningen har også funnet ut at eldre deler mest desinformasjon, sier Stenseng.
Medietilsynets undersøkelser om kritisk medieforståelse viser dessuten at bare 13 prosent synes det er lett å vurdere om informasjon på nettet er sann eller usann.– Det viser at utfordringen omfatter hele befolkningen, selv om noen er mer utsatte enn andre.
– I forbindelse med valg har det tidligere blitt gjennomført ulike tiltak for å gjøre folk bevisste på falske nyheter og desinformasjon. Dette er bakgrunnen for at regjeringen legger frem en tiltaksplan for årets valg før sommeren.
Hva med det rent valgtekniske – ute i stemmelokalene eller under opptellingen i etterkant?
– Er det behov for å gjøre noe på grunn av mulig misbruk ved hjelp av kunstig intelligens?
– I Norge stemmer vi med papirstemmesedler, og den første opptellingen skal skje manuelt. Det bidrar til at denne delen av valggjennomføringen er skjermet for mulig digital manipulasjon, enten det skjer med AI eller ikke. Vi har også rutiner for manuell gjennomføring av valg dersom de elektroniske systemene som brukes under valget ikke er tilgjengelige.
Det er viktig for meg at vi bygger bevissthet om at valg kan utsettes for uønsket påvirkning, men vi må gjøre det på en måte som ivaretar ytringsfriheten og ikke bidrar til unødig og overdrevet frykt.
Partiene samarbeider også. Det finnes allerede en avtale mellom partiene på Stortinget mot bruk av deepfakes.
Men hva kan kommunalministeren egentlig si om forsvarsmekanismene?
– Har norske myndigheter/forvaltningen tilstrekkelig med AI-kompetanse til å håndtere utfordringene knyttet til kunstig intelligens og valg?
– Rapporten vi har fått fra ekspertgruppen for kunstig intelligens og valg er et viktig bidrag i å bygge kunnskap. Teknologien utvikler seg raskt, og vi må holde oss kontinuerlig oppdatert, konkluderer Stenseng.
