Staatsgesponsorde hackers uit verschillende landen gebruiken actief AI en LLM s voor het ondersteunen van hun aanvalscampagnes. Microsoft en OpenAI delen hoe ze de gevonden informatie inzetten om de security van AI tools te verbeteren.

Volgens Microsoft en OpenAI gebruiken staatsgesponsorde hackers steeds vaker AI en de onderliggende LLM s om hun aanvallen te ondersteunen. In hun onderzoek constateerden beide techgiganten dat het vooral gaat om staatsgesponsorde hackers uit China, Iran, Noord Korea en Rusland.

Vijf staatsgesponsorde hackersgroepen

OpenAI heeft de afgelopen tijd vijf kwaadaardige staatsgesponsorde hackersgroepen geidentificeerd die misbruik van zijn generatieve AI tools en LLM s maakten voor het uitvoeren van offensieve aanvallen.

Concreet ging het hierbij om twee Chinese staatsgesponsorde hackerbendes, Charcoal Typhoon en Salmon Typhoon. In de andere landen ging het steeds om een bende. Namelijk de aan Iran gerelateerde bende Crimson Sandstorm, de aan Noord Korea gekoppelde bende Emerald Sleet en de bende met Russische banden Forrest Blizzard.

Staatshackers beperken, security verhogen

Microsoft en OpenAI hebben inmiddels maatregelen genomen om het gebruik van hun generatieve AI tools en onderliggende LLM s door deze staatshackers te beperken. Naast het direct blokkeren van bovenstaande hackersbendes, hebben beide partijen ook een set van andere maatregelen opgesteld.

Beide partijen gaan nu voor de langere termijn staatshackergroepen in de gaten houden en investeren in technologie die dit mogelijk moet maken. Ook gaan ze nauwer samenwerken met het hele AI ecosysteem om meer informatie over dit soort hackersgroepen uit te wisselen en hoe deze AI misbruiken.

Deze versturen we 3-4x per jaar.