Generatieve AI-tools kunnen phishing-criminelen 16 uur werk besparen bij het ontwerpen van een frauduleuze e-mail, maar kunnen volgens nieuw IBM-onderzoek nog steeds niet tippen aan de menselijke vaardigheid om overtuigender berichten op te stellen.
Social engineering expert Stephanie Carruthers onthulde vandaag de details van een nieuw onderzoeksproject, waarin haar team probeerde te begrijpen of generatieve AI-modellen dezelfde misleidende krachten hebben als de menselijke geest.
“Met slechts vijf eenvoudige prompts waren we in staat om een generatief AI-model te misleiden om zeer overtuigende phishing e-mails te ontwikkelen in slechts 5 minuten – dezelfde tijd die ik nodig heb om een kop koffie te zetten,” legde ze uit.
“Het kost mijn team over het algemeen ongeveer 16 uur om een phishing-e-mail te bouwen, zonder rekening te houden met de infrastructuuropzet. Dus aanvallers kunnen potentieel bijna twee dagen werk besparen door generatieve AI-modellen te gebruiken.”
Onder de prompts waren: de belangrijkste zorggebieden voor werknemers in specifieke industrieën; sociale engineering en marketingtechnieken die moeten worden gebruikt; en de mensen/bedrijf die moeten worden nagebootst.
“Ik heb bijna een decennium ervaring met sociale engineering, honderden phishing-e-mails gemaakt, en ik vond de door AI gegenereerde phishing-e-mails zelfs vrij overtuigend,” aldus Carruthers.
Lees meer over het onderzoek op https://securityintelligence.com/x-force/ai-vs-human-deceit-unravelling-new-age-phishing-tactics/
