Signicat, en av Europas ledende leverandører av løsninger for digital identitet og svindelforebygging, lanserte denne uken en ny rapport om den økende trusselen fra KI-drevet identitetssvindel i samarbeid med det uavhengige konsulentfirmaet Consult Hyperion.

Undersøkelsen viser at beslutningstakere over hele Europa opplever mer KI-drevet identitetssvindel og forventer at det vil øke, men at de ikke er forberedt på å takle det, og at de ikke har klart å iverksette tiltak for å forhindre det.

«The Battle Against AI-Driven Identity Fraud» er den første studien som tar for seg hvordan organisasjoner over hele Europa kjemper mot den økende trusselen fra KI-drevet identitetssvindel. Studien har spurt banker, forsikringsselskaper, betalingsleverandører og fintech-selskaper om deres erfaringer, hvordan kunstig intelligens endrer svindel, og om de er forberedt på å bekjempe den. Over tusen beslutningstakere innen svindel i Belgia, Tyskland, Nederland, Norge, Spania, Sverige og Storbritannia deltok i undersøkelsen.

Fakta:

  • Én av femten svindelforsøk bruker nå deepfakes for å angripe ikke bare B2C-firmaer, men i økende grad også B2B-selskaper.
  • Beslutningstakere innen svindelforebygging er enige om at KI vil drive nesten all identitetssvindel i fremtiden, og at flere mennesker vil bli ofre enn noen gang før.
  • Imidlertid oppgir rundt tre fjerdedeler av organisasjonene mangel på ekspertise, tid og budsjett som hindringer for deres evne til å oppdage og bekjempe problemet.

Viktige funn:

  • Fremveksten av deepfakes: For tre år siden ble kunstig intelligens brukt til å skape nye eller syntetiske identiteter og forfalskninger av dokumenter. I dag brukes kunstig intelligens i større grad til deepfakes og sosial manipulering.
  • En tredjedel av KI-drevne svindelforsøk er vellykkede: 42,5 % av de oppdagede svindelforsøkene bruker kunstig intelligens, ifølge respondentene, og 29 % av dem anses som vellykkede. En av ni sa at estimert KI-bruk i svindelforsøk er så høy som 70 % for deres organisasjon. 38 % av inntektstapet som følge av svindel, anslås å skyldes KI-drevne angrep.
  • Kontoovertakelser i B2B: Til tross for at kontoovertakelser generelt blir sett på som et forbrukerproblem, er det faktisk den vanligste svindeltypen for B2B-organisasjoner.
  • Forvirring om hvordan det skal bekjempes: Beslutningstakere innen svindel erkjenner at KI vil drive nesten all fremtidig identitetssvindel. Det hersker imidlertid forvirring og begrenset forståelse om hva slags type svindel det er snakk om, hvilke konsekvenser det har, og hvilke teknologier som er best egnet til å forebygge svindel.
  • Planer, men lite handling: Over tre fjerdedeler av virksomhetene har egne team som jobber med KI-drevet identitetssvindel, oppgraderer teknologien for forebygging av svindel og forventer økte budsjetter. Men mindre enn en fjerdedel har begynt å iverksette tiltak.

Ved et vendepunkt

Kunstig intelligens gjør ikke svindelforsøkene vesentlig mer vellykkede – i hvert fall ikke ennå. Suksessraten for svindelforsøk, både KI-drevne og ikke, har holdt seg stabil de siste tre årene. Og det er derfor vi befinner oss ved et vendepunkt.

Kunstig intelligens muliggjør mer sofistikerte svindelforsøk, i større skala enn noen gang tidligere. Det er sannsynlig at svindelen vil lykkes bedre, men selv om suksessraten holder seg stabil, betyr det store volumet av svindelforsøk at svindelnivået kommer til å eksplodere.

I løpet av de siste tre årene har det skjedd et skifte fra å opprette nye kontoer ved hjelp av forfalsket legitimasjon til å kompromittere kontoer som allerede eksisterer. Signicats undersøkelser viser at kontoovertakelsesangrep er den mest populære typen svindel, som ofte utnytter svake eller gjenbrukte passord. Deepfakes, som ofte brukes til å utgi seg for å være innehaveren av en konto i stedet for å skape en ny eller syntetisk identitet, er langt mer populært og står for ett av 15 svindelforsøk. Svindlerne utvikler seg stadig og angriper der de ser sårbarheter.

Forstått, men fortsatt uforberedt…

Det er en svært høy bevissthet om problemet med KI-drevet identitetssvindel. De fleste beslutningstakerne var enige i at kunstig intelligens er en viktig drivkraft bak identitetssvindel (73 %), at kunstig intelligens vil muliggjøre nesten all identitetssvindel i fremtiden (74 %), og at kunstig intelligens vil føre til at flere mennesker blir ofre for svindel enn noen gang før (74 %). Organisasjonene forstår i det minste trusselen som kunstig intelligens utgjør ved å gjøre identitetssvindel enklere, mer tilgjengelig og fungerende i stor skala. De kan oppdage kunstig intelligens i angrepene de står overfor, og de forstår at problemet bare kommer til å bli verre.

Organisasjonene er imidlertid uforberedt på trusselen. De vet ikke hvilke teknikker og teknologier som vil hjelpe dem mest, og planene deres for å slå tilbake er nettopp det: planer, med implementeringstidspunkter som for det meste ligger i løpet av de neste tolv månedene. Enda mer bekymringsfullt er det at organisasjonene rapporterer at de mangler både budsjett, ekspertise og tid.

Svindel har alltid vært en av våre kunders største bekymringer, og KI-drevet svindel er nå i ferd med å bli en ny trussel for dem. Det utgjør nå like mange vellykkede svindelforsøk som generell svindel, og det er mer vellykket hvis vi ser på inntektstap, sier Asger Hattel, administrerende direktør i Signicat i en kommentar.

KI kommer bare til å bli mer sofistikert fra nå av. Undersøkelsene våre viser at beslutningstakere som jobber med å forebygge svindel, forstår trusselen, men de trenger ekspertisen og ressursene som trengs for å forhindre at den blir en stor trussel. En viktig del av dette vil være bruken av lagdelte KI-aktiverte svindelforebyggende verktøy for å bekjempe truslene med det beste teknologien kan tilby, utdyper han.

Det er avgjørende at finansforetak har en robust strategi for KI-drevet identitetssvindel. Identitet er den første forsvarslinjen, sier David Birch, direktør i Consult Hyperion.

«Identitetssystemer må kunne motstå og tilpasse seg stadig nye svindeltaktikker for å beskytte legitime kunder og sikre tjenestens omdømme.»

Rapporten er tilgjengelig her.