Deepfakes del 2: Är det verkligen chefen du pratar med?

Två ansikten stirrar tillbaka från skärmen. På ytan ser de helt vanliga ut. Men bara det ena finns i verkligheten. Så inleds ofta de AI-workshops som Cecilia Cederberg, partner inom forensic services på PwC, håller för kunder och kollegor. Uppgiften är enkel och samtidigt allt annat än självklar: vilken bild är tagen av en kamera och vilken är fabricerad av en algoritm? 

– Det är svårare än man tror, och det kräver träning, säger hon. 

 Bedragare använder AI

I rollen som utredare av ekonomiska oegentligheter ser Cecilia Cederberg hur AI på bara några år tagit plats i bedragarnas arsenal. 

– Vi tror att vi pratar med en chef, kollega eller kund, men i själva verket är det en bedragare. Det kan räcka med några sekunders ljudinspelning för att fabricera en hel konversation som låter helt autentisk. 

Cecilia Cederberg uppmuntrar medarbetare och kunder att reagera på minsta avvikelse: en röst som inte känns igen, ett ordval som skaver, en ton som inte är densamma som vanligt. 

– Vid minsta osäkerhet bör man lägga på luren och ringa upp personen igen. Eller gå till kollegan på kontoret. Det är enkla saker men de gör skillnad. Det är viktigt att öva på att känna igen det fabricerade, utöver den teknik som används både inom revision och rådgivningsuppdrag.

Cecilia Cederberg, partner inom forensic services på PwC.

 Motståndets tre byggstenar

Enligt Cecilia Cederberg finns tre byggstenar för att stå emot manipulation: kartlägga riskerna, utbilda medarbetarna och skapa en kultur där det är lika naturligt att ställa en kontrollfråga som att dubbelkolla en siffra. 

– Att reagera på små avvikelser är ofta det som avslöjar ett försök till manipulation. Men det bygger på att man känner sig trygg med att ifrågasätta. 

För mindre byråer, som inte har egna säkerhetsteam, är rådet tydligt. 

– Börja med att utbilda och informera om riskerna. Gör medarbetarna vaksamma och ta gärna in experter som kan visa verkliga fall. Det ger en helt annan tyngd än att bara läsa om det, säger hon. 

Investeringar i nästa nivå av försvar

Samtidigt investerar de största aktörerna i nästa nivå av försvar: avancerade verktyg som kan känna igen manipulationer medan de pågår. Deloitte satsar på att bygga verktygen som ska avslöja manipulationerna i realtid. Charlotta Wikström, partner inom forensic & financial crime på Deloitte, ser både riskerna och möjligheterna när AI tar plats i revisionen: 

– AI är en strategisk prioritet för oss. Vi investerar i verktyg som gör revisionen mer effektiv, men också i funktioner som kan avslöja manipulationer. Revisionen blir alltmer datadriven men vi måste samtidigt ligga steget före dem som försöker utnyttja tekniken. 

Charlotta Wikström, partner inom forensic & financial crime på Deloitte.

 Bygger in validering i systemen 

Hon radar upp verktyg med lika delar sci-fi och revision i namnen – PairD, DARTbot och Omnia – alla byggda för att analysera data, svara på redovisningsfrågor och granska dokument med hjälp av generativ AI. 

– Vi ser hur kriminella använder samma teknik för att skapa falska fakturor, identitetshandlingar eller till och med hela bolag. Därför bygger vi in mönsterigenkänning och korsvalidering i våra system, så att underlagen kan kontrolleras mot externa källor, säger hon. 

Ljud och video är mest utmanande

Här tar tekniken stopp. Allt går inte att verifiera mot ett register eller en databas. Verktygen kan mycket – analysera data, granska dokument, ge svar på frågor – men även de mest avancerade system har sina gränser. 

– Dokument kan ofta valideras mot register eller externa källor. Men syntetiska röster och videor blir snabbt mer sofistikerade, och där är det svårare. Just nu är det ljud och video som är mest utmanande, säger Charlotta Wikström. 

Utvecklingen gör att revisionen alltmer liknar kriminalteknik med en allt skarpare kontroll av om underlagen är äkta. 

– Det betyder att vi inte bara granskar siffror och underlag, utan också testar deras integritet. Att utvärdera underlagets riktighet har alltid varit en del av vårt ansvar, men med AI måste vi skärpa den delen ytterligare, säger Charlotta Wikström. 

Medarbetare behöver träning om riskerna

Både Charlotta Wikström och Cecilia Cederberg drar samma slutsats: tekniken räcker inte. 

– En byrå där medarbetarna vågar ifrågasätta underlag och säga ”det här känns fel” har ett helt annat skydd än en där man är rädd för att verka besvärlig, säger Charlotta Wikström. 

På Deloitte är utbildningen därför brett förankrad. 

– Vi tränar alla våra medarbetare i AI, inte bara i vad den kan göra utan också i vilka risker den medför. Vi kombinerar det med metodstöd och verktyg som kan verifiera information mot externa källor. Det är professionell skepticism i praktiken, säger Charlotta Wikström. 

 Utmaningen kräver samarbete över byrågränser 

Frågan stannar inte vid de enskilda byråerna. När organiserad brottslighet använder deepfakes suddas gränserna ut mellan företag, branscher och till och med länder. 

– Vi ser ett växande behov av samarbete mellan byråer, banker, myndigheter och teknikbolag. Våra gränser spelar ingen roll för de som vill lura oss, därför måste vi arbeta tillsammans, säger Charlotta Wikström. 

I slutändan kokar allt ner till samma sak: förtroendet för revisionen. 

– Ämnet är egentligen inte nytt. Vi har alltid haft ansvar för att bedöma äkthet och riktighet i underlagen. Det nya är kapaciteten i tekniken och därför måste vi vässa våra metoder, avslutar Charlotta Wikström.

 

Läs också:

• 
• 
• 
•