Deepfake: hvordan falske videoer lages og avsløres

En video der en kjent politiker «avslører» en skandale. En stemme som høres ut som banken din, og ber deg flytte penger. Et nakenbilde av en klassekamerat som aldri ble tatt. Alt dette kan være deepfakes – og skillet mellom sant og usant er i ferd med å viskes ut. Her er hva deepfake er, hvordan teknologien virker, hvilke risikoer den utgjør – og hvordan du sjekker om en video er ekte.

Hva er deepfake?

Deepfake (norsk: dypforfalskning) er forfalskede og manipulerte bilder, videoer eller lydklipp laget ved hjelp av kunstig intelligens – nærmere bestemt dyp læring. Teknologien kan etterligne ansiktsuttrykk, kroppsspråk, bevegelser og stemmer, slik at resultatet ser og høres overraskende ekte ut.

Ordet er en sammensetning av «deep learning» (dyp læring) og «fake» (forfalskning). Det som skiller deepfake fra vanlig videoredigering, er at en algoritme genererer innholdet. En tradisjonell videoredigerer klipper og setter sammen opptak som faktisk finnes. En deepfake skaper derimot noe nytt: et ansikt eller en stemme som aldri ble filmet, men som er syntetisk «bygd» av modellen.

Det finnes ingen legaldefinisjon av deepfake i norsk rett. Stortingets utredningsseksjon legger til grunn definisjonen fra EUs KI-forordning: «’deep fake’ means AI-generated or manipulated image, audio or video content that resembles existing persons, objects, places or other entities or events and would falsely appear to a person to be authentic or truthful.»

Hvordan lages en deepfake-video?

Kort forklart trenes teknologien opp ved å gi en algoritme tusenvis av bilder og lydfiler av én person. Da lærer modellen hvordan personens ansikt beveger seg, hvordan munnen former ord, og hvordan stemmen klinger. Deretter kan både ansikt og stemme byttes ut – enten ved å legge en persons ansikt over en annens kropp («face swap»), eller ved å få personen til å si ting vedkommende aldri har sagt.

Jo mer opptak som finnes av en person – politikere, skuespillere og nyhetsankere er filmet mye – desto bedre blir forfalskningen. Det er én grunn til at nettopp kjente personer rammes ofte. Men teknologien kan misbruke hvem som helst, og privatpersoner har sjelden samme plattform til å korrigere.

Hvorfor deepfakes er et kildekritisk problem

Det finnes en utbredt forestilling om at man alltid kan se med det blotte øyet at en video er falsk. Forskning tyder på noe annet. I et eksperiment trodde 25 prosent av deltakerne at en falsk video var ekte, mens 75 prosent var i tvil eller mente den var falsk. Mange var også usikre på om den ekte videoen var ekte. Poenget er dobbelt: Falske videoer kan passere som ekte, og ekte videoer kan mistenkes for å være falske. Begge deler skader tilliten til dokumentasjon.

Dette er deepfakes egentlige kildekritiske problem. Når ingenting lenger kan tas for gitt, blir det enklere å avvise ubehagelige sannheter som «sikkert en deepfake» – Derfor trenger du en rutine, ikke bare et vagt ubehag. Les mer om generelle kildekritiske spørsmål og om desinformasjon og feilinformasjon i våre egne guider.

Hvilke risikoer utgjør deepfakes?

Svindel og bedrageri

Økokrim sier de stadig ser flere eksempler på at deepfake-teknologi brukes til bedrageri, og er bekymret for at bruken vil øke. I Norge har blant annet TV 2s nyhetsanker blitt misbrukt i en deepfake-video. Typiske svindelopplegg kombinerer en kjent person eller institusjon med en falsk investeringsannonse, eller en klonet stemme som ringer og ber om en overføring.

Politisk desinformasjon

Deepfakes kan brukes til å manipulere politiske valg eller få det til å se ut som en person har sagt noe vedkommende ikke har sagt. En syntetisk video som slipper ut rett før valg, kan sette dagsorden lenge før noen rekker å motbevise den. Slik kan teknologien brukes som ledd i propaganda – og den treffer ikke minst mottakere som allerede er tilbøyelige til å tro det verste om motstanderen, se vår guide om bekreftelsestendens.

Pornografi og misbruk av privatpersoner

Den mest utbredte bruken er langt mindre morsom enn meme-videoene. Ifølge en rapport fra firmaet DeepTrace inneholdt 96 prosent av alle deepfake-videoer på nettet i 2019 pornografisk innhold, laget med både kjente og ukjente personer. I 2022 ble Italias statsminister Giorgia Meloni misbrukt i en deepfake-porno laget av to personer. For privatpersoner kan dette bety alvorlige krenkelser uten noen enkel vei ut.

7 tegn på at en video kan være en deepfake

Ingen av disse tegnene beviser noe alene, men flere sammen bør vekke mistanke:

1. Ujevn hud og overganger. Ansiktet kan se «lakker» ut, eller overgangen mellom ansikt og hals kan skifte tone.
2. Munn og tale stemmer dårlig. Lydene og leppebevegelsene henger etter, særlig ved p- og b-lyder.
3. Uklare eller stille øyne. Blikket kan virke dødt, eller øyne og blunking oppfører seg mekanisk.
4. Kanter som flimrer. Rundt hårfestet, ørene og kjeven kan konturene «puste» litt fra bilde til bilde.
5. Unaturlig belysning og skygger. Lyset i ansiktet stemmer ikke med lyset i resten av scenen.
6. Feil i detaljene. Smykker, briller, tenner eller fingre kan endre seg mellom klippene.
7. Svak teknisk kvalitet. Grov oppløsning og mye komprimering kan være et bevisst grep for å skjule feilene – men merk at mange ekte mobilvideoer også er kornete.

Husk at teknologien stadig blir bedre. Tegnlisten blir raskere utdatert enn sjekkerutinen under.

Slik verifiserer du en video: Reuters-metodikken

Nyhetsbyrået Reuters har utviklet sjekkpunkter for ikke-profesjonelt videomateriale – altså materiale fra sosiale medier og privatpersoner, som nyhetsredaksjoner stadig må vurdere. Punktene kan brukes av hvem som helst:

1. Omvendt bildesøk på nøkkelbilde. Ta et stillbilde fra videoen og søk med det i et bildesøkverktøy. Finner du samme bilde brukt tidligere eller i en annen sammenheng, er noe galt.
2. Verifiser geografiske kjennetegn. Bygninger, gateskilt, skiltning, vær og solstand skal stemme med påstått sted og tidspunkt.
3. Undersøk metadata. Filens metadata kan avsløre når og med hvilket utstyr den ble laget – men husk at metadata kan strippes eller forfalskes.
4. Sammenlikn med andre kilder. Rapporterer andre, uavhengige medier det samme? Finner du originalopptaket?
5. Spør ut kilden. Hvem la ut videoen, og hva vet du om vedkommende? En ærlig kilde tåler spørsmål.
6. Få ekspertvurdering. Ved tvil: faktasjekkere, medier eller forskere kan vurdere materialet.
7. Samarbeid om verifisering. Del funnene dine med andre som kan bidra – verifisering er et lagarbeid.

Denne metodikken er i praksis en praktisk anvendelse av faktasjekk: du følger en fast prosedyre i stedet for å stole på magefølelsen.

Stopp. Tenk. Sjekk. – før du deler

Medietilsynet anbefaler fire sjekkspørsmål før du deler: Hvor kommer innholdet fra? Hvem er avsender? Hva kan du finne ut om avsender? Hvilke hensikter ligger bak?

Medietilsynets generelle råd mot falske nyheter er også verdt å ha med seg: vær ekstra forsiktig med saker som vekker sterke følelser eller virker for utrolig, sjekk om andre medier rapporterer det samme, og sjekk nettadressen – falske nyheter etterligner ofte kjente nyhetskilder.

Legg merke til hvordan slike videoer er bygget for patos – følelsesappellen – snarere enn for fakta. Det er ofte selve spredningsmekanismen: sinne og sjokk driver delinger. Se også hvordan framing styrer hva vi tror videoen viser, lenge før noen har sjekket den.

Er deepfake ulovlig i Norge?

Det finnes i dag ingen legaldefinisjon av deepfake i norsk rett, og lovregulering er under kartlegging. Det betyr ikke at alt er lov: en deepfake som utgir seg for å være en bestemt person, kan rammes av generelle regler om blant annet ærekrenkelser, bedrageri og personvern, avhengig av hva den brukes til.

Stortingets utredningsseksjon har kartlagt hvilket arbeid USA, EU og de nordiske landene foretar om lovregulering av deepfakes, og legger til grunn definisjonen fra EUs KI-forordning. Reguleringslandskapet er altså i bevegelse – sjekk Stortingets og Medietilsynets nettsider for oppdatert informasjon før du siterer reglene.

Hva gjør du hvis du selv blir utsatt?

Blir du eller noen du kjenner misbrukt i en deepfake, er det tre grep som hjelper: dokumenter (ta skjermbilder og noter lenker og datoer), rapporter (til plattformen – Facebook innførte i januar 2020 regler som fjerner manipulert innhold der video er redigert og syntetisert for å manipulere tale ved hjelp av KI og maskinlæring, med unntak for satire og parodier), og be om hjelp (politiet ved trusler eller økonomisk svindel, og hjelpeinstanser ved krenkelser). Se også vår guide om netthets for flere grep.

Øv deg – og hold deg oppdatert

Medietilsynet og Tenk (Faktisk.nos skoleavdeling) har utviklet et undervisningsopplegg om bilde- og stemmemanipulering, laget for å styrke ungdoms kritiske medieforståelse. Slikt materiell er nyttig for alle, ikke bare for elever: prøv å vurdere noen videoer med Reuters-sjekkpunktene før du leser fasiten. Kritisk medieforståelse er en ferdighet, ikke et faktum – og den må vedlikeholdes mens teknologien utvikler seg. Det handler i bunn og grunn om det samme som all kildekritikk: å sjekke kilden, sammenhengen og avsenderen før du tror – og før du deler.