Dypfalske annonser som brukes til å villede folk er den siste teknologiske utviklingen, bemerker nettsikkerhetsekspert Pieter Jansen fra Darktrace. «Alle de separate elementene har vært brukt før, men hvis du legger alle ingrediensene sammen, så er det helt nytt.»

Jansen svarer på BNRs undersøkelse, som viser at det pågår en massiv annonsekampanje på TikTok, som forsøker å lokke forbrukere til kredittleverandører gjennom deepfakes. Annonsene inneholder villedende påstander, som renter fra 0 til 0,4 % og mangel på bakgrunnssjekker. Bankene de tar reklamene for vil imidlertid ikke ha noe med TikTok-reklamene å gjøre.

«Du har sett ondsinnede annonser før, som John de Mols falske annonser som ber deg kjøpe bitcoin. Men det er skalerbarheten som gjør det farlig,» sier Jansen.

Les også | Deepfakes lokker TikTok-brukere til ABN Amro- og ING-nettsteder: «Trenger du et lån?»

De fleste reklamefilmene der stemmene er laget med kunstig intelligens høres fortsatt ikke særlig overbevisende ut, men det kan endre seg i løpet av kort tid. «Neste trinn er at oppføringene er skreddersydde. Da kan den også brukes til å utføre målrettede angrep.» Nettsikkerhetseksperten påpeker også utviklingen med ChatGPT. «I løpet av de 30 dagene før lanseringen og i de 30 dagene etter lanseringen, så vi en økning i tekstlig kompleksitet i phishing-e-poster. Meldinger har blitt lengre og mer personlige. Færre lenker er lagt til og også færre filer. Som et resultat er det mindre og mindre åpenbart om det er en ondsinnet e-post eller ikke.»

Lovgivning

På grunn av den raske utviklingen forventer Jansen at det snart kommer lovverk. «i Italia har vi sett at ChatGPT har vært utestengt en stund.» Personlig synes jeg det er en boomer-reaksjon, men det er også teknisk veldig vanskelig å gjøre noe med det. EU-kommisjonen har annonsert at det vil bli innført en AI-lov, som kan resultere i en bot på 6 % av et selskaps omsetning dersom AI ikke holdes under kontroll.»

Jansen forventer derfor, akkurat som Forbruker- og markedstilsynet, at også plattformene selv tar ansvar for dette. «De burde definitivt gjøre mer med dette. Som menneske kan du ikke lenger forsvare deg mot denne typen organiserte angrep. Den angriperen trenger bare å få det riktig én gang, mens du som forsvarer må avverge alle disse angrepene.»