Large Language Models, LLM s, of grote taalmodellen vormen een toenemende dreiging voor de cyberveiligheid. Criminelen misbruiken de modellen, die oorspronkelijk zijn ontwikkeld voor natuurlijke taalverwerking en communicatie, voor geavanceerde en moeilijk te detecteren cyberaanvallen. Daarvoor waarschuwen onderzoekers van TNO en het Nationaal Cyber Security Centrum, NCSC.

Het NCSC liet TNO uitzoeken welke gevolgen LLM s hebben op het cyberdreigingslandschap, hoe je deze gevolgen meetbaar maakt en de komende drie tot vijf jaar in de gaten kunt houden. Hiervoor gebruikten de onderzoekers eerdere studies en Mitre Att and ck, een kennisbank met informatie over technieken en tactieken van cybercriminelen. De kennisbank is ingedeeld naar veertien tactieken met elk meerdere technieken, waarvan sommige zich lenen voor de toepassing van LLM s.

Een Large Language Model is een geavanceerd ai systeem dat is getraind op enorme hoeveelheden tekstdata om menselijke taal te begrijpen, genereren en interpreteren.

De onderzoekers identificeren drie technieken die cybercriminelen bij uitstek kunnen versterken met behulp van zulke taalmodellen. De eerste techniek is het injecteren van gemanipuleerde berichten op de server, zodat de gebruiker op het verkeerde been wordt gezet. Met LLM s kunnen de criminelen zulke berichten veel sneller en efficienter maken. De tweede techniek is het op kwetsbaarheden scannen van online applicaties. Ook dit proces kan met een LLM versnellen.

Deze versturen we 3-4x per jaar.