Google forbyr reklame for deepfake-porno
Google har lenge hatt et forbud mot seksuelt eksplisitt reklame. Det de derimot ikke har hatt et tydelig forbud mot er å promotere tjenester som man kan bruke til å lage deepfake-porno, og andre former for generert nakenhet.
Det er nå i ferd med å endre seg.
Ikke iverksatt ennå
Google har nå oppdatert sin annonsepolitikk og forbyr annonsører å promotere «syntetisk innhold som er endret eller generert for å være seksuelt eksplisitt eller inneholde nakenhet». Dette inkluderer nettsteder og apper som instruerer folk i hvordan de kan lage falsk pornografi.
– Denne oppdateringen er for å eksplisitt forby annonser for tjenester som tilbyr å lage falsk pornografi eller syntetisk nakeninnhold, sier Google-talsmann Michael Aciman til The Verge.
Endringen, som trer i kraft 30. mai, vil føre til at annonser som bryter reglene blir fjernet. Google bruker en kombinasjon av manuell gjennomgang og automatiserte systemer for å håndheve retningslinjene.
I 2023 fjernet Google over 1,8 milliarder annonser for brudd på retningslinjene for seksuelt innhold, ifølge selskapets årlige rapport om annonseringssikkerhet.
Voksende problem
Ikke-samtykket deepfake-porno har blitt et vedvarende problem de siste årene, og vi har hørt flere hendelser fra USA hvor det har fått konsekvenser. To Florida-ungdomsskoleelever ble arrestert i desember for å ha laget AI-genererte nakenbilder av medelever.
Denne uken ble en 57 år gammel Pittsburgh-mann dømt til over 14 års fengsel for å ha vært i besittelse av deepfake-overgrepsmateriell med barn.
Norge vil trolig følge EUs lovverk
Det jobbes stadig med nye lover og regler for bruk av AI også i EU. Og forholdsvis nylig skal Europarådet, EU-parlamentet og EU-kommisjonen ha blitt enige om et nytt direktiv som retter seg inn mot AI-genererte naken- og pornobilder i EU. Dette er et forslag som også inkluderer deling av intime bilder uten samtykke, samt hevnporno og trakassering på nett.
EU-kommisjonen pekte på at kriminalisering av nettporno uten samtykke spesielt vil være viktig for å hjelpe ofre i land som ikke enda har kriminalisert denne typen handlinger.
– Dette er en tema som haster å gjøre noe med, gitt den eksponentielle spredningen og dramatiske virkningen av vold på nett, skriver de i en uttalelse.
Det er sannsynlig at Norge vil innføre regler knyttet til AI og hevnporno, som en del av EØS-avtalen.