Panel Sans Institute buigt zich over Hugging Face-incident

De recente, zelfstandige ontsnapping van een experimenteel OpenAI-model uit een beveiligde testomgeving (een sandbox) zette de cyberwereld op z’n kop. Maar, stelt Sans Institute gerust, er is geen sprake van een cyberapocalyps. Wél moeten ciso’s rekening houden met een storm! Met als een belangrijke boodschap: begin met het oplossen van de problemen die al jaren bekend zijn.

Wat gebeurde er een maand geleden ook alweer? Tijdens een test met ExploitGym, een benchmark voor het testen van ai-modellen op het ontdekken en misbruiken van softwarekwetsbaarheden, werden de veiligheidsbeperkingen van OpenAI-modellen tijdelijk verlaagd. De modellen ontdekten een zero-day in hun sandbox, verplaatsten zich door OpenAI-systemen en bereikten uiteindelijk een omgeving met internettoegang. Vervolgens compromitteerden zij de productie-infrastructuur van ai-platform Hugging Face, vermoedelijk omdat die organisatie de benchmark hostte en mogelijk informatie over de test bevatte. Het gevolg? Tienduizenden geautomatiseerde acties die zonder menselijke tussenkomst werden uitgevoerd (de aanval werd uiteindelijk gestopt door het securityteam van Hugging Face).

Het klinkt als de plot van een sciencefictionfilm en vormde het uitgangspunt van een recente paneldiscussie van training- en adviesbureau Sans Institute over de toekomst van cybersecurity. Met als centrale vraag: wat betekent dit voor organisaties, beveiligingsteams en beleidsmakers?

Niet fundamenteel nieuw

‘Dit is niet zomaar een incident. Het raakt de kern van hoe we ai inzetten, beveiligen en onderzoeken’, stelt Sans Institute-president Ed Skoudis bij de opening van de discussie. En het incident is een waarschuwing over de huidige staat van cyberbeveiliging, aldus de deelnemende panelleden.

Het panel is opvallend eensgezind over één punt: de gebruikte aanvalstechnieken waren niet fundamenteel nieuw (denk sandbox-escapes, privilege-escalatie en het stelen van inloggegevens). Ai introduceert dus niet per se nieuwe aanvalstechnieken, maar maakt bestaande aanvallen sneller, goedkoper én schaalbaarder. En dat baart de panelleden wel zorgen, want stelt Rob Lee, chief ai officer en chief of research bij Sans Institute:
 ‘Veel organisaties hebben hun basisbeveiliging nog steeds niet op orde. Verouderde accounts, onvoldoende netwerksegmentatie en niet-gepatchte systemen blijven zwakke plekken.’

Kroonjuwelen

Analist Rich Mogull, cloud security alliance bij Sans Institute, omschrijft het verschil tussen een menselijke pentester en een zwerm autonome agents. ‘Waar een mens gericht opereert binnen een beperkte scope, kan een verzameling ai-agents gelijktijdig talloze systemen onderzoeken, aanvallen en opnieuw proberen wanneer eerdere pogingen mislukken. Dat leidt tot een aanvalsvorm die tegelijk slim en opmerkelijk onbeholpen kan zijn: strategisch effectief, maar operationeel soms nog verrassend inefficiënt door acties regelmatig te herhalen. Maar die onhandigheid gaat zeker nog verdwijnen.’

Voor chief information security officers (ciso’s) betekent dit dat traditionele beveiligingsmaatregelen niet verdwijnen, maar wel moeten opschalen. Prioriteiten zijn netwerksegmentatie, monitoring, vroegtijdige detectie en het aanpassen van incident responsprocessen aan aanvallen die op machinesnelheid plaatsvinden. Ook defensief gebruik van ai wordt steeds belangrijker. Volgens Mogull moeten organisaties daarbij vooral focussen op hun kroonjuwelen: de meest kritieke applicaties en databronnen. Die moeten beter worden afgeschermd en voorzien van aanvullende detectiemechanismen zoals canary tokens en honeypots.

Tapletop-oefeningen

Chief ai officer Lee tekent daarbij aan dat, terwijl ai nu door allerlei fouten nog relatief eenvoudig te detecteren is, toekomstige ai-aanvallen juist gericht zijn op onopvallend gedrag. Hij adviseert daarom om zogeheten tabletop-oefeningen uit te voeren waarbij teams oefenen met ai-gestuurde aanvallen.

Deze versturen we 3-4x per jaar.