AI-vakthundarna: Inuti den högriskvärlden av bedrägeriupptäckt

Klockan är två på natten på Western Unions cybersäkerhetscentral, och Maya Patel har inte blinkat på vad som känns som timmar. Tre ovanliga transaktionsmönster har just flaggats av företagets AI-system för bedrägeriupptäckt. En virvelvind av pengaöverföringar från konton i Nebraska till Ukraina, alla strax under rapporteringsgränsen. För lika för att vara en slump, för perfekta för att vara slumpmässiga.
"Det här är tredje gången den här veckan", muttrar Maya och trycker på sitt tangentbord med inövad precision. Bakom henne visar massiva skärmar färgglada visualiseringar av globala transaktionsflöden. Hennes AI-assistent har redan sammanställt en rapport som markerar de misstänkta mönstren i rött. För flera år sedan skulle detta ha tagit ett team av analytiker dagar att upptäcka. Nu händer det på några sekunder.

Vi bevittnar ett tyst krig – som inte utkämpas med vapen och bomber, utan med algoritmer och data. I takt med att digitala transaktioner har blivit ryggraden i vår ekonomi har finansiella bedrägerier utvecklats från grova bedrägerier till sofistikerade attacker orkestrerade av internationella brottssyndikat och statsstödda hackare.
Bara under 2023 kostade bedrägerier den globala ekonomin över 5,5 biljoner dollar. Slagfältet finns överallt: kreditkortstransaktioner, låneansökningar, försäkringsanspråk och i allt högre grad kryptovalutabörser.
"De flesta inser inte att de är skyddade av AI varje gång de drar sitt kort", säger Dr. Raj Sharma, Chief Data Scientist på Mastercard. "De system vi har byggt analyserar över 75 miljarder transaktioner årligen och fattar på bråkdelen av en sekund beslut om huruvida de ska godkänna eller avvisa. Och de blir smartare för varje dag."
Jag sitter i Mastercards Technology Hub i New York, där Dr. Sharma visar mig visualiseringar av deras neurala nätverk i arbete. Skärmarna påminner mig om konstellationer, med ljusa noder som lyser upp när mönster framträder ur datahavet.

Traditionell bedrägeriupptäckt förlitade sig på rigida regler: om en transaktion uppfyllde vissa kriterier, flaggade man den för granskning. Men sofistikerade bedragare lärde sig snabbt att manipulera dessa system.
"Regler är som lås", förklarar Sarah Chen, en tidigare FBI-specialist på cyberbrottslighet som nu driver sin egen säkerhetskonsult. "När någon väl har förstått hur de fungerar kan de låsa upp dem. Vad vi behövde var ett lås som ständigt ändrar sin mekanism."
Här är maskininlärning. Istället för att följa explicita regler lär sig moderna AI-system av historiska mönster och identifierar subtila korrelationer som mänskliga analytiker kan missa.
På betalningsleverantören Stripes huvudkontor i San Francisco får jag se en demonstration av deras system för bedrägeriupptäckt. Teamet matar den med en serie transaktioner, vissa legitima, vissa bedrägliga. AI:n upptäcker inte bara uppenbara varningssignaler – den märker att bedrägliga transaktioner ofta kommer från konton som skapats på helger, eller tenderar att ha något annorlunda skrivmönster när de anger information.
"Människor är vanedjur", säger Miguel Gonzalez, Stripes riskchef. "Även de mest försiktiga bedragarna lämnar mönster. Våra system kan upptäcka tangenttryckningar, musrörelser och till och med hur någon navigerar på en webbplats. Dessa beteendemässiga biometriska data är nästan omöjliga att perfekt efterlikna."

Trots det tekniska underverket är mänsklig expertis fortfarande avgörande. På Paypals riskhanteringscenter i Omaha granskar analytiker fall som flaggats av AI-system och ger feedback som hjälper algoritmerna att förbättras.
"AI:n är vår första försvarslinje, men den är inte ofelbar", säger Jennifer Wu, senior bedrägerianalytiker. "Ibland ser legitima transaktioner misstänkta ut, och ibland är bedrägerier så nya att systemet inte har sett något liknande förut. Vi behöver mänskligt omdöme för att fatta det slutgiltiga beslutet i dessa marginalfall."
Denna hybridmetod – som kombinerar AI:s processorkraft med mänsklig intuition – har visat sig vara anmärkningsvärt effektiv. Visa rapporterar att deras AI-drivna system för bedrägeridetektering har bidragit till att förhindra bedrägeriförsök på uppskattningsvis 25 miljarder dollar bara under det senaste året.

I takt med att detekteringssystem blir mer sofistikerade, blir även attackerna mer sofistikerade. Bedragare använder nu själva AI, skapar djupförfalskningar för att kringgå röstautentiseringssystem eller genererar syntetiska identiteter som kan klara verifieringskontroller.
"Det är en kapprustning", suckar Dr. Emily Rosenberg, cybersäkerhetsforskare vid MIT. "Varje gång vi utvecklar bättre försvar, utvecklar de bättre attacker. Fördelen är att defensiv AI kan lära sig av miljontals legitima transaktioner, medan bedragare har begränsad data att arbeta med."
Jag tittar på när hon demonstrerar en ny typ av attack – ett generativt adversarialt nätverk (GAN) som skapar fiktiva men trovärdiga kreditkortsanvändningsmönster. Systemet är kusligt effektivt, men utlöser fortfarande vissa larm i moderna detekteringssystem.

Teknikerna som varit banbrytande inom upptäckt av finansiella bedrägerier tillämpas nu inom olika branscher. Försäkringsbolag använder liknande AI-system för att flagga misstänkta anspråk. E-handelsplattformar använder dem för att upptäcka falska recensioner och förfalskade produkter. Myndigheter använder dem för att identifiera skatteundandragande och förmånsbedrägerier.

Hos sjukförsäkringsbolaget Anthem skannar AI-system miljontals anspråk dagligen och letar efter mönster som kan tyda på bedrägliga faktureringsmetoder från vårdgivare.
"Sjukvårdsbedrägerier kostar amerikanska skattebetalare cirka 300 miljarder dollar årligen", berättar Dr. Marcus Johnson, Anthems analyschef. "Våra system har hjälpt till att identifiera flera organiserade bedrägeriringar som verkar i flera stater. I ett fall hittade vi ett nätverk av kliniker som fakturerade för procedurer som aldrig utfördes, vilket potentiellt sparade hundratals miljoner i bedrägliga anspråk."

Effektiviteten hos dessa system kommer med knepiga integritetsfrågor. Mer data innebär bättre bedrägeriupptäckt, men också större potential för missbruk.
"Det finns alltid en spänning mellan säkerhet och integritet", medger Elena Vasiliev, en integritetsförespråkare som tidigare arbetade med system för bedrägeriupptäckt på American Express. "Samma tekniker som kan upptäcka bedrägerier kan också användas för övervakning. Vi måste vara försiktiga med hur mycket information vi samlar in och hur vi använder den."
Vissa företag utforskar tekniker som federerad inlärning, vilket gör att AI-modeller kan tränas över flera datakällor utan att centralisera känslig information. Andra investerar i homomorfisk kryptering, vilket möjliggör analys av krypterad data utan att först dekryptera den.

När jag lämnar Western Unions kommandocentral i gryningen har Maya Patel framgångsrikt blockerat de misstänkta transaktionerna och lämnat in en anmälan till FBI:s enhet för cyberbrottslighet. Systemet har redan uppdaterat sina modeller för att känna igen just detta bedrägerimönster.
Nästa gräns inom bedrägeriupptäckt involverar kvantberäkning och förklarbar AI – system som inte bara kan upptäcka bedrägerier utan också tydligt förklara varför de flaggade en viss transaktion. Denna transparens kommer att vara avgörande när reglerna kring AI-beslutsfattande skärps.

"För tio år sedan spelade vi ikapp", säger Maya till mig när vi går mot hissen. "Nu börjar vi komma före bedragarna. Men det är inte en strid vi någonsin kommer att vinna helt. Så länge det finns pengar att tjäna kommer folk att försöka manipulera systemet."

Hon pausar innan hon tillägger: "Den goda nyheten är att våra verktyg blir bättre för varje dag. Och till skillnad från bedragarna kan vi dela information inom hela branschen. Varje attack gör oss alla starkare."
I takt med att digitala transaktioner fortsätter att öka i volym och komplexitet kommer denna osynliga sköld av AI-skydd bara att bli viktigare. Nästa gång ditt kreditkortsföretag sms:ar för att verifiera ett ovanligt köp, kom ihåg: det är bara toppen av ett tekniskt isberg som tyst skyddar ditt ekonomiska liv dygnet runt.
Kommer AI-bedrägeriupptäcktssystem så småningom att göra ekonomiska bedrägerier till ett minne blott? Eller kommer vi alltid att vara inlåsta i denna digitala katt-och-råtta-lek, med alltmer sofistikerade attacker och försvar? En sak är säker – framtiden för ekonomisk trygghet kommer att formas lika mycket av kodrader som av de människor som skriver dem.