NIST waarschuwt voor cyberbedreigingen voor AI modellen
Machine learning systemen zijn kwetsbaar voor cyberaanvallen waardoor hackers de beveiliging kunnen omzeilen en datalekken kunnen veroorzaken, waarschuwden wetenschappers van het National Institute of Standards and Technology. Er bestaat geen waterdichte verdediging tegen sommige van deze aanvallen, aldus onderzoekers.
In een nieuw artikel over vijandige machine learning bedreigingen beschrijven NIST onderzoekers opkomende cyberdreigingen voor voorspellende en generatieve AI modellen die voortkomen uit datasettraining, kwetsbaarheden in de softwarecomponenten en zwakke punten in de toeleveringsketen.
Een van de meest kritische bedreigingen zijn datavergiftigingsaanvallen, waarbij hackers beschadigde gegevens gebruiken om systeemfuncties te wijzigen. Deze bedreigingen omvatten ontwijkingstactieken om reeds ingezette AI systemen in gevaar te brengen, aanvallen die kunnen resulteren in informatielekken, en misbruiktactieken waarbij hackers informatie uit een gecompromitteerde bron voeden om veranderingen in de AI modellen teweeg te brengen.
De meeste van deze aanvallen zijn redelijk eenvoudig uit te voeren en vereisen minimale kennis van het AI systeem en beperkte vijandige mogelijkheden, zegt Alina Oprea, co auteur en professor aan de Northeastern University. Vergiftigingsaanvallen kunnen bijvoorbeeld worden uitgevoerd door enkele tientallen trainingsmonsters te controleren, wat een heel klein percentage van de hele trainingsset zou zijn.
NIST onderzoekers zeggen dat de verfijning en uitvoering van deze aanvallen varieren afhankelijk van het kennisniveau van hackers over een AI systeem. NIST categoriseert de aanvallers in drie hoofdsubgroepen: white box hackers met volledige kennis over een AI systeem, sandbox hackers met minimale toegang, en grijze box hackers die mogelijk informatie hebben over de AI modellen, maar geen toegang hebben tot trainingsgegevens.
Verder lezen bij de bron- 1 op 2 cyberaanvallen worden intern gepleegd - 17 mei 2024
- Aanpassingen Handelsregister: meer privacy en verbeterde toegankelijkheid - 17 mei 2024
- Waar en wanneer mag je vliegen met een drone in Nederland? - 16 mei 2024
Lees ons boek
Gemeenten. Bewustzijn. Privacy.
Nieuwsbrief
Deze versturen we 3-4x per jaar.
Recente blogs
Meer recente berichten
1 op 2 cyberaanvallen worden intern gepleegd | Verder lezen | |
Aanpassingen Handelsregister: meer privacy en verbeterde toegankelijkheid | Verder lezen | |
Waar en wanneer mag je vliegen met een drone in Nederland? | Verder lezen | |
Kwart cybersecurity incidenten bij Europese mkb ers door zwakke wachtwoorden | Verder lezen | |
Impact van generative AI op cybersecurity landschap groeit | Verder lezen | |
Politie luidt noodklok over encryptie op digitale platforms in Nederland | Verder lezen | |
Voorwaarden burgers en zorgverleners bij delen gegevens | Verder lezen | |
Tot 10 miljoen boete voor onaangepaste cyberbeveiliging | Verder lezen | |
Hoe AI de SOC expert te hulp schiet | Verder lezen | |
Kinderporno opsporen met detectiesoftware op mobiel: experts tegen EU wetsvoorstel | Verder lezen |