Google's Naptime: Innovatief Framework voor Kwetsbaarheidsonderzoek

Google’s Naptime: Innovatief Framework voor Kwetsbaarheidsonderzoek

Google’s Project Zero heeft een nieuw framework genaamd Naptime geïntroduceerd, dat is ontworpen om kwetsbaarheidsonderzoek te verbeteren door gebruik te maken van een groot taalmodel (LLM). Dit initiatief, dat in het midden van 2023 is gestart, heeft als doel de methoden voor het ontdekken van kwetsbaarheden te verbeteren, met een bijzondere focus op het automatiseren van variantanalyse. De naam Naptime verwijst naar de mogelijkheid om ‘tussendoor een dutje te doen’ terwijl het systeem ons helpt met ons werk.

Het Naptime-framework stelt een LLM in staat om kwetsbaarheidsonderzoek uit te voeren dat de iteratieve, hypothese-gedreven aanpak van menselijke beveiligingsexperts nabootst. Dit zorgt ervoor dat de agent niet alleen in staat is om kwetsbaarheden te identificeren en te analyseren, maar ook dat de resultaten nauwkeurig en reproduceerbaar zijn. De architectuur van het framework is gebaseerd op de interactie tussen een AI-agent en een set gespecialiseerde tools die zijn ontworpen om de workflow van een menselijke beveiligingsonderzoeker te imiteren.

De belangrijkste tools binnen het Naptime-framework zijn onder andere:

• Code Browser: Hiermee kan de agent door de doelcode navigeren, vergelijkbaar met hoe ingenieurs de Chromium Code Search gebruiken.
• Python: Deze tool stelt de agent in staat om Python-scripts uit te voeren in een sandbox-omgeving voor tussenberekeningen en het genereren van nauwkeurige en complexe invoer voor het doelprogramma.
• Debugger: Hiermee kan de agent interactie hebben met het programma en het gedrag onder verschillende invoer waarnemen. Om consistente reproductie en detectie van geheugenbeschadigingsproblemen te waarborgen, wordt het programma gecompileerd met AddressSanitizer.
• Reporter: Dit biedt een gestructureerd mechanisme voor de agent om zijn voortgang te communiceren.
• Controller: Deze tool controleert of aan de succesvoorwaarden is voldaan en stelt de agent in staat om de taak te beëindigen als er geen verdere vooruitgang kan worden geboekt.

Project Zero heeft aangegeven dat het framework model-agnostisch en backend-agnostisch is. Dit betekent dat het ook door menselijke agents kan worden gebruikt om succesvolle trajecten voor modelafstemming te genereren.

Het Naptime-framework is ontwikkeld op basis van richtlijnen die zijn vastgesteld door Project Zero om de prestaties van multifunctionele LLM’s in kwetsbaarheidsontdekking te verbeteren. Deze richtlijnen zijn ontwikkeld na de lancering van CyberSecEval2 door beveiligingsonderzoekers van Meta, de nieuwste benchmark voor het ontdekken en exploiteren van geheugenveiligheidsproblemen.

Met de juiste tools kunnen huidige LLM’s beginnen met het uitvoeren van kwetsbaarheidsonderzoek, hoewel de onderzoekers opmerken dat er een groot verschil is tussen het oplossen van geïsoleerde uitdagingen en het uitvoeren van autonome offensieve beveiligingsonderzoeken. Ze pleiten voor de ontwikkeling van moeilijkere en realistischere benchmarks om de voortgang van dergelijke initiatieven effectief te monitoren.

Google’s Naptime Framework verbetert kwetsbaarheidsonderzoek door gebruik te maken van AI en een iteratieve benadering.

Bron: Infosecurity Magazine | URL