Ondertussen zijn we allemaal bekend met ChatGPT en het feit dat het een chatbot is die getraind is om op basis van datasets die bestaan uit honderden miljarden woorden tekst, natuurlijke reacties te voorspellen op de prompts die je invoert. Het maakt in vele gevallen je werk wat makkelijker, of het helpt je bij het bieden van inspiratie. ChatGPT kan bijvoorbeeld helpen met het genereren van positieve input, zoals het beantwoorden van verschillende vragen en daarbij uitleg bieden, teksten samenvatten en herschrijven, verhalen verzinnen, scenario´s bedenken, tips en tricks geven, advertentieteksten bedenken en nog veel meer. Echter aan de andere kant zijn er ook mensen die misbruik maken van de mogelijkheden die AI kan bieden. In ons vorige blog bespreken we de cyberaanvallen die cybercriminelen met behulp van AI uit voeren. Eén daarvan is AI-gegenereerde phishing e-mails die schadelijke malware kunnen bevatten. Hier duiken we in dit blog verder op in.

Opkomst AI aangedreven cybercriminaliteit

Een zorgwekkende trend die nauwkeurig wordt gevolgd door cyberspecialisten is het toenemend gebruik van AI bij cybercriminaliteit. Een voorbeeld van een AI-gestuurde tool die ontdekt is door het beveiligingsgemeenschap, is FraudGPT. Deze AI aangedreven tool wordt gepromoot op het darkweb en Telegram als exclusieve bot die ontworpen is voor fraudeurs, hackers, spammers en gelijkgestemde individuen.

De functies van AI aangedreven chatbots

Slashnext heeft onderzoek gedaan op Telegram naar verschillende chatbots die ontworpen en gepromoot worden voor fraudeurs. Uit dit onderzoek zijn er de volgende chatbots naar voren gekomen: WormGPT, FraudGPT en DarkBERT. In dit onderzoek zijn de mogelijke ‘aanbieders’ van deze chatbots ondervraagd naar de mogelijkheden van deze kwaadaardige doeleinden. De volgende mogelijkheden kwamen in dit onderzoek naar voren:
– Assisteren bij het uitvoeren van geavanceerde social-engineering-aanvallen om individuen te manipuleren
– Kwetsbaarheden in computersystemen uitbuiten, inclusief de infrastructuur van een organisatie
– Het maken en verspreiden van malware mogelijk maken, inclusief ransomware
– De ontwikkeling van geavanceerde phishing-campagnes voor het stelen van persoonlijke informatie
– Het verstrekken van informatie over zero-day kwetsbaarheden aan eindgebruikers

Impact van kwaadaardige chatbots is onduidelijk

Uit onderzoek van Slashnext blijkt dat de chatbot DarkBERT twee betekenissen heeft. Eentje die gepromoot wordt op Telegram als een chatbot voor kwaadaardige doeleinden en anderzijds verwijst het naar een vooraf getraind taalmodel gemaakt door S2W, een data-intelligentiebedrijf. Hieruit blijkt dat het primaire doel van deze chatbot is om cybercriminaliteit te bestrijden in plaats van te faciliteren. Echter wordt deze chatbot dus wel als kwaadaardig gepromoot op Telegram, wat een aanleiding geeft tot bezorgdheid over het gebruik van bovengenoemde chatbot. De vraag is dus hoe iemand toegang krijgt tot een taalmodel en het kan promoten en ontwikkelen als kwaadaardig. Uit onderzoek blijk dat het taalmodel ten slotte alleen voor academische doeleinden gebruikt mag worden. Dit houdt in dat je ook alleen met een academische e-mailadres toegang krijgt tot het taalmodel. En laat dit net ook makkelijk te verkrijgen zijn via het darkweb. Slashnext geeft aan dat dit één van de theorieën is, maar dat zulke scenario’s wel aandacht verdienen.

Hoe verdedig je jezelf tegen deze AI aangedreven aanvallen?

Bescherming tegen deze AI-aangedreven aanvallen vereist een proactieve aanpak. Cyberdreigingen blijven evolueren en helemaal naarmate AI ook gebruikt wordt voor kwaadaardige doeleinden. Cyberbeveiligingsstrategieën moeten daarom worden aangepast om opkomende dreigingen voor te zijn en tegen te gaan. Waar kan jij als werknemer rekening mee houden? We geven enkele tips:
1) Train medewerkers om phishing-e-mails beter te begrijpen en te herkennen
2) Zorg voor e-mailbeveiligingsopties, denk aan het inschakelen van MFA, het creëren van sterke en unieke wachtwoorden, in combinatie met een wachtwoordmanager, voor het beheren en opslaan van deze unieke wachtwoorden en tot slot maak gebruik van endpoint beveiliging
3) Klik nooit op een link in een onverwachte en onbekende e-mail die je binnenkrijgt in de mailbox. Dubbelcheck dus altijd de afzender en vraag je zelf af of je de e-mail verwacht
4) Trap niet in verzoeken om persoonlijke informatie, of e-mails waarin expliciet wordt gevraagd naar een handeling die je moet verrichten, zoals het invullen van gegevens of het klikken op bepaalde links
5) Maak te allen tijde een back-up van je gegevens die op alle apparaten zijn opgeslagen. In het geval er iets verloren gaat of stuk gaat, kan je altijd bij je gegevens
6) Houd je software en apparaten up-to-date. Cybercriminelen zijn op zoek naar kwetsbaarheden en die zitten nou juist in apparaten die niet op de nieuwste versie draaien

Fastbyte helpt

Duizelt het je na het lezen van dit blog? Fastbyte maakt ICT behapbaar, zodat jij je kan concentreren op waar jij sterk in bent. Wij bieden verschillende oplossingen, waarbij wij jouw volledige IT beheer voor onze rekening kunnen nemen, een deel hiervan, of alleen enkele cybersecurity maatregelen kunnen instellen zodat jij veilig kan werken. Wel zo fijn! Neem vooral eens vrijblijvend contact met ons op om te zien wat we voor jou kunnen doen.

LEES OOK:

Welke oplossingen biedt Fastbyte?

Hoe cybercriminelen AI gebruiken voor cyberaanvallen

< Naar het kennisbank overzicht