'De mens moet buitenspel staan in de oorlog tussen algoritmes'

Dit is een expertquote van Pieter Jansen, Senior Vice President of Cyber Innovation, Darktrace.

U kunt dit bericht, of delen hiervan gebruiken op uw kanalen, met vermelding van de naam van de expert en organisatie. Aanleiding: AI op de arbeidsmarkt: chatbot als doktersassistent

Artificial Intelligence (AI) ontwikkelt zich in een razend tempo. Zoals altijd het geval is met snelle innovatie, kan het voor zowel kwade als goede zaken worden ingezet. Er is bewijs dat cybercriminelen in toenemende mate gebruikmaken van AI om hun criminele activiteiten te ondersteunen. Ze kunnen steeds complexere cyberaanvallen sneller uitvoeren. Voor menselijk ingrijpen is geen ruimte meer om deze nieuwe aanvallen te voorkomen of de impact hiervan te verkleinen. In plaats daarvan moeten cybersecurity-professionals zelf vertrouwen op AI die als hun assistent autonoom kan handelen om de data van hun bedrijf te beschermen.

Alleen al in de eerste twee maanden van 2023, toen ChatGPT opkwam, zagen we een toename van 135 procent in social engineering-aanvallen zoals phishing. Opvallend was dat het taalgebruik in die phishing-e-mails een stuk verfijnder en to-the-point was: vloeiende, correcte zinnen in plaats van spelfouten. Voor mensen is het daarom veel moeilijker geworden om deze phishing-e-mails van echte e-mails te onderscheiden. In de toekomst zullen hackers steeds vaker van artificial intelligence en machine learning gebruikmaken. Denk aan kwaadaardige algoritmen die zichzelf kunnen aanpassen, leren en continu verbeteren om zo de cyberbeveiliging van bedrijven te omzeilen.

AI die voor criminele doeleinden wordt ingezet is niet tegen te houden door alleen mensen en zal door ‘goede’ AI moeten worden bestreden. Hierdoor verandert waarschijnlijk de rol van menselijke security-analist zoals die nu in veel bedrijven bestaat. In de toekomst hebben beveiligingsteams geen tijd meer voor het doorspitten van logs met historische events of het invoeren van regels in hun firewalls. Er zijn simpelweg te veel gegevens, te veel dreigingen en te veel incidenten om alleen met mensen te beheersen. AI kan dit zware werk doen en een bedrijf autonoom beschermen, waardoor het de essentiële partner wordt die beveiligingsteams zo hard nodig hebben.