AI tester svage sjæle med let snyd

Nu skal det her på ingen måde være en opfordring til at give sig i kast med at snyde finansafdelingen hos din arbejdsgiver, men for netop ikke at blive snydt, skal man nogle gange vide hvordan man snyder.

Du kender sikkert PLEO eller Dinero eller andre betalingskort eller regnskabsprogrammer hvor man nemt lige kan tage et billede af en kvittering og uploade til virksomhedens regnskabssystem. Men med alle de nye AI-værktøjer til billedmanipulation, og når man ikke længere skal aflevere en fysisk kvittering, så åbner der sig også en verden af muligheder for at snyde.

Se nu fx. den her fiktive kvittering som er helt og holdent genereret med AI. Den ser virkelig ud, men den har intet at gøre med et virkeligt køb. I princippet behøver jeg derfor slet ikke købe noget for at kunne kræve tilbagebetaling for et udlæg - jeg kan bare generere en kvittering, på det beløb jeg har lyst til.

Men hvis jeg vil snyde lidt mere sofistikeret kunne jeg også tage et billede af en virkelig kvittering og blot med AI-hjælp ændre lidt på beløbene. Mine kolleger har set at jeg har handlet lidt kontorartikler for jeg har jo haft dem med og lagt dem på bordet - men de ved jo ikke om de kostede det ene eller andet. I eksemplet her har jeg lavet en næsten skudsikker ændring af beløbet - 90% af kvitteringen er korrekt, men 32 kroner er ændret til 132 kroner med et lille ét-tal forrest. Det er gentaget på varen og på kontantbeløbet og vupti har jeg scoret en hundredekronesedel mere end mit udlæg.

Men fanger systemet ikke det? Næh - for se nu her.

I eksemplet her bruger jeg regnskabsprogrammet Dineros app hvor jeg kan uploade billeder af kvitteringer. Først med den rigtige kvittering og efterfølgende med den manipulerede kvittering. Begge gange læser systemet den total der står på kvitteringen - altså først 32 kr og bagefter mine snyde-132 kr.

Ovenstående er den måske letteste måde at små-snyde på (og igen, det er ikke en opfordring...), men det kan også gøres i endnu større og mere alvorlig form. Forsikringssnyd har eksisteret altid og trods både skræmmekampagner og kampagner der taler til vores samvittighed, bliver det ved med at være et betydeligt problem. Selskaberne tager i stigende grad nye værktøjer til sig, men de er også oppe mod let tilgængelige snyde-værktøjer så kampen står nok ikke mellem hvem der bruger eller ikke bruger AI, men snarere mellem hvem der har de BEDSTE AI-værktøjer.

Se nu billedet herover - det tager 20 sekunder at uploade et ægte billede af en bil og derefter bede et af de mange AI-billedværktøjer om at tilføje en bule og nogle ridser. Med lidt større indsats kunne man lave noget der var meget vanskeligt at skelne fra virkeligheden så kræver det bare en god ven på et værksted der kan udbedre den fiktive skade til en fiktiv pris.

Ja, ja tænker du - jeg har hørt at AI nu kan bruges til at detektere om et billede er lavet med AI. Hmm - lad os teste. Det er rigtigt at der nu findes en række værktøjer der synes at kunne vurdere om et billede er ægte eller AI-falsk. Men er de gode nok? Herunder har jeg med Midjourney lavet et AI-billede af en dreng foran sin skole. Der er intet ægte over billedet. 100% AI. 

Det uploader jeg så i et af de mange AI detection tools og resultatet... formentligt ÆGTE?! Med 80% sandsynlighed. Okay, det var så et helt fejlskud!

Lad os så prøve den anden vej rundt - jeg uploader et ægte billede af mig selv (!) så jeg er 100% sikker på at det faktisk er mig og ikke AI.

Og nu får jeg at vide at jeg formentlig, med næsten 100% sandsynlighed, er AI-genereret...! Jeg ved ikke helt om jeg skal være smigret eller forarget, men jeg ligner åbenbart noget, der er generet med kunstig intelligens 😃. Jeg prøvede med en række andre billeder og forskellige værktøjer og jeg må bare konkludere at resultaterne er lidt som vinden blæser. Nogle gange rammer de rigtigt og andre gange forkert - hvilket jo grundlæggende betyder, at man ikke kan stole på om AI kan detektere AI...

Det er da lidt skræmmende - så hvem ved, om vi i fremtiden skal til at bede om papirkvitteringer igen og aflevere dem til Bente fra regnskab.

-