Pas på fotos i sociale medier

Forleden dag var det en kendt dansk venstrefløjs-politiker, der afslørede, hvordan hun havde været offer for billed-manipulation i de sociale medier.

Hendes ansigt var blevet placeret på en andens krop, så der fremkom nøgenfotos af politikeren.

Lignende ting har mange andre brugere af sociale medier også oplevet, og det bliver værre:

Efterhånden som kunstig intelligens (AI) værktøjer bliver hvermands eje, vil forvandskninger af virkeligheden blive mere og mere almindelige. Både i tekst og billeder.

Denne udvikling har fået det amerikanske forbunds-politi FBI til at udsende en offentlig advarsel til alle internet-brugere og især dem, som uploader mange private fotos i de sociale medier.

FBI’s advarsel bærer overskriften “Malicious Actors Manipulating Photos and Videos to Create Explicit Content and Sextortion Schemes” – og behøver vel ingen af oversættelse til dansk.

I advarslen beskriver FBI, hvordan profil-billeder og andre fotos I sociale medier er blevet importeret I nye image-generatorer med kunstig intelligens fort at blive forvandlet til forfalskninger. I teknisk sprog ”deepfakes.”

FBI forventer, at denne praksis vil spredes i den kommende tid. Da vil mange flere opdage, hvad disse nye software-værktøjer kan bruges til. Først som sjov, men hurtigt til kriminelle formål.

Hvor billed-manipulationer hidtil har været relativt nemme at opdage, når man kiggede nærmere på et foto, er det nærmest umuligt at opdage efter en omgang i AI-møllen.

“Vi får mange henvendelser fra borgere, der er blevet ofre for billed-manipulation. I de værste tilfælde forsøger manipulatorerne at afpresse penge fra de misbrugte eller truer med at sprede endnu værre fotos end de første,” forklarer FBI.

FBI opfordrer alle, der føler sig misbrugt, til at anmelde episoderne til politiet. Man skal glemme alt om at føle sig flov over det skete. Kun anmeldte sager kan blive efterforsket og opklaret.

I samme advarsel giver FBI også en række gode råd til, hvordan man beskytte sig mod misbrug. I hvert fald til en vis grad.

Det ene råd er det gammelkendte at benytte bedre passwords. Det andet kræver noget mere viden:

FBI foreslår nemlig, at man skal foretage en bagud-rettet søgning – ”reverse imange searches” – for at fastslå, om et billede er blevet misbrugt, af hvem, hvor og hvornår.

Udviklingen med de nye intelligente værktøjer kan også føre til, at de sociale medier tvinges til at skærpe deres regler for billed uploads endnu mere end i dag.

De skrappeste regler har Facebook, der håndterer et forbud mod nøgenbilleder i det sociale medie. Både originale og manipulerede.

Ifølge Facebook sletter man automatisk billeder med seksuelt indhold for at forhindre deling af indhold til børn af ikke-godkendte elementer. Der er dog undtagelser for kunstværker, protest-aktioner, billeder til undervisnings-formål osv.

Men selv Facebook og søsterselskabet Instagram, der begge bruger filtre med kunstig intelligens til at skanne uploadede billeder, kan få svært ved at skelne mellem den ægte vare og deep fakes….