Deepfake Detectie: De dubbele kant van deepfakes

Een recent schokkend incident heeft de duistere kant van kunstmatige intelligentie en deepfake-technologie op indrukwekkende wijze aan het licht gebracht. Bij deze verontrustende gebeurtenis, waarbij een financiële medewerker in Hong Kong betrokken was, dacht de medewerker in een videocall te spreken met zijn CFO. Wat hij echter niet besefte, was dat hij slachtoffer werd van een miljoenenoplichting, mogelijk gemaakt door geavanceerde deepfake-technieken. In deze blogpost zullen we de gebeurtenissen in detail bespreken, de schade die ze hebben veroorzaakt belichten, en belangrijke tips en voorzorgsmaatregelen delen om onszelf en onze organisaties te beschermen tegen de toenemende dreiging van AI-deepfakes. Het is de hoogste tijd om bewust te worden van deze nieuwe digitale gevaren en ons voor te bereiden op een toekomst waarin onze digitale identiteit kwetsbaarder is dan ooit tevoren.

 

 

24 miljoen euro naar criminelen overgemaakt

Een financiële medewerker bij een multinational in Hong Kong is opgelicht voor omgerekend 24 miljoen euro.
De ingenieuze zwendel hield in dat de medewerker werd misleid om deel te nemen aan een video-oproep met wat hij dacht dat verschillende andere medewerkers waren, maar die in werkelijkheid allemaal deepfake-creaties waren, zo verklaarde de politie van Hong Kong tijdens een persconferentie op vrijdag.
“In de videoconferentie met meerdere personen blijkt dat iedereen [die hij zag] nep was,” vertelde senior superintendent Baron Chan Shun-ching aan de publieke omroep RTHK in de stad.
Chan zei dat de medewerker argwaan kreeg nadat hij een bericht had ontvangen dat naar verluid afkomstig was van de Chief Financial Officer van het bedrijf, gevestigd in het Verenigd Koninkrijk. Aanvankelijk vermoedde de medewerker dat het om een phishing-e-mail ging, omdat er sprake was van de noodzaak van een geheime transactie. De medewerker liet echter zijn vroege twijfels varen na de video-oproep, omdat de andere aanwezigen eruit zagen én klonken als collega’s die hij herkende, aldus Chan.

 

GPT flowchart

Zodoende stemde de medewerker ermee in om in totaal 200 miljoen HKD (omgerekend 24 miljoen euro) over te maken naar 5 verschillende rekeningen. De scam met de valse CFO werd pas ontdekt toen de medewerker later contact opnam met het hoofdkantoor van het bedrijf.
Dit geval is een van de recente gebeurtenissen waarbij wordt vermoed dat oplichters deepfake-technologie hebben gebruikt om publiekelijk beschikbare video’s en ander materiaal aan te passen om mensen geld afhandig te maken..

Wat zijn deepfakes?

Deepfakes zijn digitale manipulaties van beeld- en geluidsopnamen, waarbij geavanceerde kunstmatige intelligentie (AI) wordt gebruikt om mensen in video’s of audio realistisch te vervangen door andere personen of karakters. Het resultaat lijkt levensecht, maar is in werkelijkheid volledig gegenereerd door computersoftware.

Deze deepfake-technologie maakt gebruik van zogenaamde Generative Adversarial Networks (GAN), die in 2014 werden ontwikkeld door onderzoekers. Deze GANs leren gezichtsuitdrukkingen, stemmen en bewegingen van mensen te imiteren door enorme hoeveelheden data te analyseren. In 2017 heeft nVidia grote stappen gezet in de ontwikkeling van GAN-technologie, waardoor deepfakes nog realistischer en toegankelijker werden voor gebruikers.

Hierdoor kunnen kwaadwillende individuen of organisaties video’s creëren waarin het lijkt alsof echte personen dingen zeggen of doen die ze nooit hebben gedaan. Tegenwoordig is de technologie achter deepfakes wijdverspreid en gemakkelijk toegankelijk voor iedereen. Er zijn online platforms beschikbaar waar gebruikers gratis of betaald deepfakes kunnen maken, zoals deze. Bovendien kunnen mensen met minimale technische kennis, dankzij gebruiksvriendelijke tools en tutorials, zelf deepfakes creëren (bijv. met apps in de appstore).

Wil je zien hoe realistisch een deepfake foto kan zijn? Klik dan hier. Op deze site worden volledig verzonnen gezichten gegenereerd die er uitzien als echte mensen, maar in werkelijkheid niet bestaan.”

 

deepfacelab
autoencoder deepfake

Preventie en maatregelen

De eerste stap naar het voorkomen van slachtofferschap door deepfakes is bewustwording. Het is essentieel om te begrijpen wat deepfakes zijn, hoe ze gemaakt worden, en waarom ze een bedreiging vormen. Deepfakes kunnen variëren van gemanipuleerde stemmen tot video’s waarin het gezicht van een persoon is vervangen door dat van een ander en zelfs actief tijdens een online meeting gebruikt worden.

Begrijp goed dat deepfake technologie nog aan het ontwikkelen is en dat er elk jaar grote vooruitgang geboekt wordt. Hoewel op de Nederlandse markt nog niet veel fraude is gepleegd met deepfake technologie wil dit niet zeggen dat dit in de nabije toekomst niet gaat gebeuren.
Hieronder beschrijven we 4 aspecten die je organisatie kunnen helpen.

 

1. Bewustwording binnen de organisatie

  • Maak medewerkers bewust van het bestaan van deepfakes en het feit dat deze ook tijdens meetings ingezet kunnen worden. Wees kritisch; benader ongebruikelijke communicatie altijd met een kritische houding. Onderschat het belang van continue scholing en training voor medewerkers over de nieuwste cybersecuritybedreigingen niet.

 

2. Veiligheidsmaatregelen

  • Implementeer multi-factor authenticatie voor belangrijke financiële transacties en processen. Verder kun je toegang tot specifieke gevoelige data zoveel mogelijk beperken onder medewerkers.
  • Een goede beveiliging is erg belangrijk; bedrijfsdata wordt vaak gestolen en kan later eventueel via deepfakes misbruik worden. Overweeg samenwerkingsverbanden aan te gaan met externe cybersecurityexperts voor  waardevolle inzichten en ondersteuning.
  • Tenslotte kun je gebruik maken van tools voor de detectie van deepfakes; hoewel er op dit moment weinig tools beschikbaar zijn, is Deepware in beta beschikbaar.

3. Controle & Verificatie

  • Controleer de bron en verifieer de afzender van de informatie, vooral via digitale kanalen. Let op subtiele aanwijzingen zoals afwijkingen in de stem of het gedrag. Voer ook regelmatig audits uit om te controleren of alle beveiligingsmaatregelen up-to-date zijn.

  • Stel een verificatiebeleid in voor belangrijke beslissingen; Spreek af dat speciale verzoeken (zoals grote financiële transacties) via een specifieke methode moeten gebeuren, bijv. face-to-face, zonder uitzonderingen.

q

4. Rapporteren

  • Rapporteer alle verdachte activiteiten aan de IT-afdeling en bespreek ze met medewerkers, zodat collega’s ervan kunnen leren en de IT-afdeling maatregelen kan nemen. Neem contact op met de politie als je slachtoffer bent geworden van deepfake scams. Probeer samen te werken binnen de industrie om beter bestand te zijn tegen deepfakes.

De voordelen en kansen van deepfakes

Deepfakes kunnen een waardevolle tool zijn voor onderzoek naar menselijke waarneming en machine learning. Door deepfakes te creëren en te bestuderen, kunnen we meer leren over hoe mensen informatie verwerken en hoe we machines kunnen leren om menselijke emoties en gedrag beter te begrijpen.
In de entertainmentindustrie biedt deepfake technologie unieke mogelijkheden. Denk aan de film Fast & Furious 7, waar deepfake-technologie werd gebruikt om de film af te ronden na het overlijden van acteur Paul Walker. Ook David Beckham maakte gebruik van deepfake in een campagne, waardoor hij in verschillende talen kon spreken zonder de talen zelf te beheersen.
Deepfakes kunnen ook een rol spelen in het toegankelijker maken van technologieën. Denk aan het creëren van realistische en interactieve AI-chatbots die klanten kunnen helpen met vragen en problemen.
In het onderwijs kunnen deepfakes boeiende educatieve content creëren. Denk aan deepfake-simulaties van historische gebeurtenissen of interactieve deepfake-lessen die leerlingen op een unieke manier betrekken.
In de gezondheidszorg kan het ingezet worden in de psychologie of voor stemreplicatie voor ALS-patienten, zoals te zien is op de video hiernaast.

 

Versterk je organisatie met Symbol

In het tijdperk van geavanceerde digitale technologieën zijn organisaties meer dan ooit kwetsbaar voor de bedreigingen van deepfake-technologie. Het schokkende voorval in Hong Kong, waarbij deepfakes werden gebruikt voor een miljoenenfraude, benadrukt de noodzaak voor bedrijven om proactieve maatregelen te nemen.
Ontdek wat wij voor je kunnen betekenen. Met onze expertise in digitale transformatie en kwaliteitsmanagement bieden wij organisaties de nodige tools en trainingen om de risico’s het hoofd te bieden en tegelijkertijd de kansen van digitale innovatie te benutten om operationele efficiëntie en concurrentiepositie in het digitale tijdperk te versterken.

 

digital transformation dienst

Digitale Transformatie

Symbol biedt ondersteuning bij digitale transformatieprocessen, waarbij nieuwe digitale technieken zoals AI, RPA en Process Mining worden toegepast. Deze technologieën kunnen cruciaal zijn bij het herkennen en tegengaan van deepfakes, of indien nodig voor het ontwikkelen ervan. Ontdek hoe je samen met ons digitaal kunt transformeren.

IATF 16969 en ISO 9001 diensten - kwaliteitsmanagement

Kwaliteitsmanagement

Met een functionerend kwaliteitsmanagementsysteem, zoals ISO 9001 kan een organisatie een solide basis leggen die indirect kan helpen bij het beheren van de risico’s, waaronder risico’s geassocieerd met deepfakes. Symbol werkt met gecertificeerde auditors om deze systemen succesvol te implementeren. Dit aspect van kwaliteitsmanagement is essentieel voor het waarborgen van de integriteit en authenticiteit van bedrijfsprocessen en communicatie. Ontdek hoe wij je kunnen helpen met het waarborgen van kwaliteit.

 

Ook interessant om te lezen

Event Digital Transformation

Event Digital Transformation

Event Digital Transformation Smart Industrie, digitale innovatie, big data, digitale transformatie … Zomaar enkele begrippen die je als je de IT-sector moet geloven niet mag missen om te overleven. Wereldwijd wordt hiervoor vaak de term Industrie 4.0 gebruikt, oftewel...

Lees meer
Operations voor Investment Professionals

Operations voor Investment Professionals

Interactieve sessie met praktijkvoorbeeldenLeer in een middag elke operations omgeving ‘lezen’. Herken dagelijkse routines en weet hoe deze ingezet kunnen worden om verbeteringen te realiseren. Herken waar routines ontbreken en wat dit betekent voor het vermogen van...

Lees meer
Share This