AI-ondersteund pentesten

Artificial Intelligence (AI) biedt nieuwe mogelijkheden binnen offensieve cybersecurity. Waar traditionele securitytooling helpt bij het identificeren van potentiële kwetsbaarheden, kunnen autonome AI-agents een stap verder gaan door bevindingen zelfstandig te analyseren, aanvalspaden te ontwikkelen en kwetsbaarheden daadwerkelijk te proberen uit te buiten.

DeepBlue heeft een eigen AI-gestuurd pentestframework ontwikkeld waarin onze ervaring met penetratietesten, red teaming en exploitatietechnieken is verwerkt. Door meerdere autonome AI-agents binnen één onderzoek in te zetten, kunnen we verschillende aanvalsoppervlakken gelijktijdig onderzoeken, technische analyses versnellen en het testproces efficiënter uitvoeren. Het doel is niet om onze pentesters te vervangen, maar om hun mogelijkheden uit te breiden met behoud van menselijk toezicht en strikte operationele controle.

Een uitbreiding op onze handmatige werkwijze

Bij DeepBlue vormen handmatige onderzoeken altijd de basis van onze penetratietesten. Geautomatiseerde tooling helpt ons om het aanvalsoppervlak in kaart te brengen en potentiële kwetsbaarheden te identificeren. De resultaten hiervan vormen echter vooral het vertrekpunt voor onze specialisten. Het daadwerkelijke pentesten bestaat uit het interpreteren van deze informatie, onderzoeken van applicatielogica, ontwikkelen van aanvalspaden en aantonen of kwetsbaarheden daadwerkelijk misbruikt kunnen worden.

Ons AI-framework bouwt voort op deze werkwijze. Autonome agents kunnen zelfstandig verkenningen uitvoeren, bestaande securitytooling aansturen en de verzamelde technische informatie verder onderzoeken. In plaats van uitsluitend geautomatiseerde scans uit te voeren, formuleren ze aanvalshypothesen, ontwikkelen ze eigen testscripts en passen ze hun aanpak aan op basis van de resultaten. Hierdoor kunnen onze operators een aanzienlijk deel van het technische onderzoek uit handen geven en zich richten op complexe aanvalsscenario’s en kwetsbaarheden waarvoor specialistische kennis en ervaring noodzakelijk zijn.

Offensieve securitykennis vertaald naar autonome agents

Het framework maakt gebruik van een multi-agentarchitectuur waarbij verschillende gespecialiseerde agents onderdelen van hetzelfde onderzoek uitvoeren. Tijdens de initiële verkenningsfase worden relevante systemen, applicatiecomponenten en potentiële aanvalsoppervlakken geïdentificeerd. Vervolgens onderzoeken meerdere agents gelijktijdig verschillende onderdelen van de omgeving, zoals authenticatie, autorisatie, scheiding tussen tenants, API-beveiliging en applicatielogica.

Deze agents werken volgens methodieken die voortkomen uit onze praktijkervaring met penetratietesten en aanvalssimulaties. We hebben onze bestaande testprocedures, exploitatietechnieken en werkwijzen voor het ontwikkelen van aanvalspaden geïntegreerd in hun onderzoeksproces. Hierdoor benaderen de agents technische vraagstukken vanuit dezelfde principes als onze specialisten, in plaats van uitsluitend te vertrouwen op generieke AI-redeneringen of vooraf gedefinieerde beveiligingstests.

Bij het onderzoeken van een webapplicatie kan een agent bijvoorbeeld zelfstandig JavaScript-bundels downloaden en analyseren, niet-gedocumenteerde API-endpoints identificeren en scripts ontwikkelen om hiermee te communiceren. Vervolgens kan de agent autorisatiemechanismen onderzoeken, API-verzoeken manipuleren en mogelijke aanvalspaden verkennen. Wanneer een aanpak niet succesvol blijkt, kan de agent zijn bevindingen opnieuw beoordelen en alternatieve technieken onderzoeken.

Van potentiële kwetsbaarheid naar aantoonbare exploitatie

Een potentiële kwetsbaarheid is niet automatisch exploiteerbaar. Dit onderscheid is bij het gebruik van AI extra belangrijk, omdat taalmodellen technisch aannemelijke conclusies kunnen trekken die in de praktijk niet aantoonbaar zijn.

Ons framework richt zich daarom op praktische validatie. Agents proberen werkende Proofs of Concept (PoC’s) te ontwikkelen waarmee aangetroffen kwetsbaarheden daadwerkelijk worden aangetoond. Bij een multi-tenant applicatie kan een agent bijvoorbeeld API-verzoeken en autorisatiecontroles onderzoeken om vast te stellen of gegevens van een andere tenant toegankelijk zijn.

Succesvolle exploitatiepogingen leveren technische bewijslast en reproduceerbare PoC’s op die door onze operators worden beoordeeld. Wanneer een agent de exploiteerbaarheid niet kan aantonen, wordt de potentiële kwetsbaarheid verworpen of, afhankelijk van de beschikbare informatie, als informatieve bevinding geregistreerd. Onze specialisten valideren vervolgens de resultaten, onderzoeken mogelijke aanvalsketens en bepalen de daadwerkelijke beveiligingsimpact.

Autonome uitvoering onder menselijk toezicht

Autonome exploitatie brengt operationele risico’s met zich mee die niet uitsluitend kunnen worden beperkt door een AI-model instructies te geven over wat wel en niet is toegestaan. DeepBlue heeft daarom een eigen execution framework ontwikkeld dat technische beperkingen afdwingt, onafhankelijk van de onderliggende AI-modellen.

Binnen deze kaders kunnen agents zelfstandig commando’s uitvoeren, met applicaties communiceren, scripts ontwikkelen en exploitatiepogingen uitvoeren. Het framework beperkt netwerkverbindingen tot expliciet geautoriseerde systemen en bepaalt welke tooling en functionaliteiten beschikbaar zijn. De onderzoeken vinden doorgaans plaats op ontwikkel-, test- of acceptatieomgevingen om operationele risico’s zoveel mogelijk te beperken.

Voor handelingen die de integriteit, beschikbaarheid of vertrouwelijkheid van systemen kunnen beïnvloeden, maakt het framework gebruik van verplichte goedkeuringsmomenten. Wijzigingen aan systemen, data-exfiltratie en andere vooraf gedefinieerde risicovolle handelingen vereisen expliciete toestemming van een operator voordat deze worden uitgevoerd. Deze beperkingen worden technisch afgedwongen, waardoor agents dergelijke handelingen niet zelfstandig kunnen autoriseren.

Onze operators houden actief toezicht op de uitvoering, beoordelen de activiteiten van de agents en bepalen wanneer aanvullend onderzoek of aanpassing van de aanvalsstrategie noodzakelijk is. Deze human-in-the-loop-aanpak combineert autonome technische uitvoering met de operationele discipline en controle die noodzakelijk zijn voor een professionele penetratietest.

Gegevensbescherming en AI-infrastructuur

Tijdens penetratietesten verwerken we regelmatig gevoelige technische informatie, waaronder infrastructuurconfiguraties, applicatiekwetsbaarheden en authenticatiemechanismen. Ook bij het gebruik van AI blijft de bescherming van deze informatie essentieel.

DeepBlue maakt gebruik van cloudgehoste AI-modellen die binnen de Europese Unie worden aangeboden. Hiervoor gelden enterprise-overeenkomsten die klantgegevens beschermen en voorkomen dat aangeleverde informatie wordt gebruikt voor het trainen van de onderliggende modellen. De AI-modellen verzorgen de analyse en technische besluitvorming, terwijl ons eigen framework verantwoordelijk is voor de aansturing van tooling, scopebewaking en operationele toegangsrechten. Hierdoor kunnen we geavanceerde AI-functionaliteit inzetten met behoud van controle over de uitvoering van offensieve activiteiten en de verwerking van klantgegevens.

De pentester behoudt de regie

AI-ondersteund pentesten verandert de manier waarop technische onderzoeken worden uitgevoerd, maar niet wie verantwoordelijk is voor het eindresultaat. Onze senior pentesters blijven verantwoordelijk voor het bepalen van de onderzoeksdoelstellingen, het aansturen en bewaken van autonome activiteiten en het valideren van de bevindingen.

Door verkenningen, repetitieve technische analyses en onderdelen van het exploitatieproces aan gespecialiseerde agents over te laten, kunnen we binnen hetzelfde onderzoek meerdere aanvalsoppervlakken gelijktijdig analyseren. Dit verkort de benodigde tijd voor bepaalde testactiviteiten en geeft onze specialisten meer ruimte om zich te richten op complexe aanvalspaden, kwetsbaarheden in bedrijfslogica en scenario’s waarbij creativiteit, ervaring en technisch inzicht doorslaggevend zijn.

Het resultaat is een efficiënter pentestproces waarin autonome technische analyses worden gecombineerd met de expertise, kwaliteitsborging en operationele controle van ervaren offensieve securityspecialisten.