Cybercriminelen adopteren kunstmatige intelligentie (AI) steeds meer om hun activiteiten te verbeteren, en hun toepassingen strekken zich uit ver voorbij het optimaliseren van phishing-aanvallen.
Volgens een nieuw rapport van Intel 471, een cybersecuritygroep, getiteld “Cybercriminals and AI: Not Just Better Phishing”, is de belangstelling voor AI onder cybercriminelen in 2024 sterk toegenomen in vergelijking met het jaar ervoor. De onderzoekers wijzen erop dat deze criminelen niet alleen de ontwikkelingen nauwgezet in de gaten houden, maar ook actief experimenteren met nieuwe toepassingen van AI.
Een van de toepassingen is het gebruik van AI voor het maken van deepfake-video’s, het omzeilen van gezichtsherkenningstechnologie en het samenvatten van gegevens verkregen uit datalekken. Daarnaast integreren sommigen AI in hun hacktools of ontwikkelen zij kwaadaardige chatbots.
Het onderzoek wijst ook uit dat AI vooral heeft geleid tot een toename van frauduleuze activiteiten, specifiek de inzet van deepfake-technologie om mensen te misleiden. Deze scams hebben volgens het rapport in sommige gevallen zelfs geleid tot zelfmoorden. Zo gebruikt een cybercrimineel netwerk genaamd de Yahoo Boys, voornamelijk gevestigd in Nigeria, deepfakes in hun romantische scams en sextortion praktijken om vertrouwen te winnen en vervolgens het delen van compromitterende foto’s af te dwingen, waarna ze dreigen deze openbaar te maken als er niet wordt betaald.
De beschikbaarheid en de prijs van deepfake-technologieën zijn aanzienlijk verbeterd; sinds januari 2023 zijn de prijzen aanzienlijk gedaald. Een cybercrimineel beweerde dat hij met behulp van een AI-tool deepfake audio- en videoclips kon genereren voor prijzen tussen de 60 en 400 dollar per minuut. Andere criminelen bieden zelfs een abonnementsdienst aan van 999 dollar per jaar voor maximaal 300 gezichtswissels per dag in foto’s en video’s.
Verder worden AI-technologieën gebruikt in zakelijke e-mailcompromis (BEC) scams en documentfraude. Eén specifieke crimineel heeft naar verluidt een AI-gestuurde tool ontwikkeld die facturen kan manipuleren door de communicatie tussen partijen te kapen en betalingsgegevens te wijzigen om gelden om te leiden naar de bankrekeningen van de fraudeurs.
De situatie zal verder verslechteren.
Volgens Intel 471 speelde AI voorheen slechts een kleine ondersteunende rol in cybercriminaliteit, maar die rol is ondertussen uitgebreid. Analisten van het bedrijf verwachten een toename van het gebruik van deepfakes, phishing en BEC-operaties, naast desinformatiecampagnes die worden aangedreven door het vermogen van grote taalmodellen (LLM’s) om content te genereren.
Het bedrijf benadrukte ook: “Het beveiligingslandschap zal drastisch veranderen als een LLM in staat is om kwetsbaarheden te identificeren, de exploitcode te schrijven en te testen, en deze vervolgens zelfstandig kan benutten.”
AI kan bijdragen aan zowel snellere aanvallen als snellere verdedigingen. Er zullen momenten zijn waarop aanvallers een voorsprong hebben en verdedigers bezig zijn met bijbenen, wat vergelijkbaar is met de situatie van voor AI.
Lees meer op https://intel471.com/blog/cybercriminals-and-ai-not-just-better-phishing
