Pas på AI-skabte profiler i sociale medier

Kunstig intelligens (AI) har mange fascinerende fordele og bliver uden tvivl et stadig større element i vores online hverdag.

AI har dog også sine bagsider, som de fleste af os sikkert allerede har oplevet i emails, fotos og anden kommunikation på internet.

Senest har politiet f.eks. advaret om, at falske online henvendelser er steget i forbindelse med Skats offentliggørelse af danskernes årsopgørelse.

Over to millioner borgere har været inde på Skats hjemmeside for at se, om de skal have skat tilbage eller betale efter.

Det sker ved hjælp af MitID, som er blevet et af de områder, hvor cyber-kriminelle er begyndt at husere med stadig mere velskrevne emails. Ofte genereret ved hjælp af AI.

Det samme gælder i online dating, hvor det kan være svært nok at finde den dejlige kvinde eller prinsen på den hvide hest.

I den senere tid er der dukket flere og flere historier op, om at dating-profiler er skrevet med og af kunstig intelligens.

Er det noget, man kan opdage forholdsvis nemt? Hvornår blinker de røde lamper? Og hvordan ser man forskellen på AI-generede charme-ord og ægte tekst skrevet af et velmenende menneske?

De amerikanske AI-specialister fra AIPRM har nogle gode råd i den forbindelse. De bygger på en rundspørge blandt over 6.000 mennesker, der har brugt kunstig intelligens i deres dating profiler.

• Ifølge AIPRM benyttede over seks millioner amerikanske voksne AI i deres dating profiler i 2023. Det svarer til 1,9 procent af alle.
• AI til dating er tilsyneladende mest udbredte hos folk over 60 år – den såkaldte”boomer generation”, Her bruger mindst 140.000 eller 2,2 procent kunstig intelligens til at forbedre deres dating profiler.
• Flere mænd end kvinder benytter AI i dating. Det gør 3,3 millioner amerikanere af hankøn mod 3,2 millioner af hunkøn.
• Mest udbredt er AI-snyd i dating hos folk, der arbejder i transport- og logistik-branchen – nemlig hos fire procent af respondenterne i analysen.

Til sidst har grundlæggeren af AIPRM – Christoph C. Cemper – fem gode råd til at opdage, om man kommunikerer med et ægte menneske på en dating platform eller med kunstig intelligens:

Sproget er næsten for pænt og fejlfrit
AI-genererede profiler disker ofte om med generisk og poleret sprogbrug. Hvis teksten fra ens dating-kontakt ligner noget, der er skrevet af et reklame-bureau, er der grund til at hejse det røde flag.

Det samme gælder, hvis teksten mangler humor, små personligheder eller sætninger, som er næsten for perfekte.

AI kan også have problemer med at svare på bestemte spørgsmål. Så bliver svarene mere generelle og responderer ikke direkte på det spurgte.

Er der mange af den slags svar, kan det være et tegn på, at man kommunikerer med et program og ikke en person.

Ved mistanke kan man forsøge sig med et kompleks spørgsmål, der kræver, at modparten tænker sig om.

Hvis svaret er for perfekt eller undviger det spurgte, kan det skyldes, at man sidder med AI i den anden ende af kommunikationen.

Selvmodsigende eller hullet information
Hvis oplysningerne om ens dating kontakt virker inkonsistente, kan det skyldes AI. Det gælder f.eks. selvmodsigende detaljer om hobbies, interesser eller i historien om personen.

Det er vigtigt at huske, at mennesker ofte er selvmodsigende, men hvis der optræder mønstre af inkonsistens, kan det skyldes AI.

Check også om personlige data som f.eks. alder, bopæl, uddannelse og livshistorie indeholder selvmodsigelser.

Mangel på sammenhæng i fortællingen kan indikere, at den bliver udført af en automatisk indholds-generator med kunstig intelligens.

Perfekt redigerede billeder
I dagens internet-verden med “facetune” apps og perfekt redigerede selfies bliver det sværere og sværere at spotte, om et foto er blevet forskønnet og ændret.

Men, hvis dating-kontaktens profilbilleder er næsten for flotte til at være sande, kan det sagtens skyldes, at de er lavet med AI.

Mange af disse fotos er hentet fra billed-databaser. Derfor mangler de typisk de småfejl fra dagligdagen, der kendetegner de fleste ”rigtige” fotos.

Man kan f.eks. udføre en såkaldt ”reverse image search” på profilbilleder for at se, om de optræder på websider med billed-databaser.

Konstant online aktivitet og hurtige svar
Kunstig intelligens har ikke brug for pauser. Det har mennesker, ligegyldigt hvor ivrige de end måtte være.

Hvis ens kontakt er aktiv døgnet rundt – især midt om natten – kan det være et tegn på automatiseret aktivitet.

Mærkelige skift i konversationen
Hold øje med, om online samtalen pludselig skifter tema, eller din partner i den anden ende ikke svarer korrekt ved ændringer i emne eller sprogtone.

Selvom AI bliver bedre for hver dag, kan systemerne fortsat kludre i sammenhæng og kontekst. Derfor kan de svare helt ude i skoven i forhold til, hvad et menneske ville gøre.