Skip to main content

Medische informatie uit Google AI-samenvattingen: wat zijn de risico’s en hoe gaan we ermee om?

Zoekmachines zijn voor veel mensen het eerste aanspreekpunt bij gezondheidsvragen. Met de introductie van automatisch gegenereerde AIsamenvattingen in Google-zoekresultaten is die rol verder versterkt. Deze samenvattingen verschijnen prominent bovenaan de pagina en wekken de indruk van overzicht, autoriteit en betrouwbaarheid.

Juist bij medische onderwerpen schuilt hierin een risico. Steeds duidelijker wordt dat AI-samenvattingen onjuiste, onvolledige of misleidende medische informatie kunnen bevatten, zonder dat dit voor de gebruiker direct herkenbaar is. Dit vraagt om bewustwording, educatie en een actieve rol van zorgverleners.

Waarom AI-samenvattingen bij medische vragen problematisch kunnen zijn

Geen medische toetsing of verantwoordelijkheid
AI-samenvattingen zijn geen medische richtlijnen en worden niet vooraf inhoudelijk getoetst door zorgprofessionals. Ze zijn gebaseerd op statistische taalmodellen en automatisch geselecteerde online bronnen, niet op klinisch redeneren of professionele afweging.

Schijnzekerheid en gebrek aan nuance
AI presenteert informatie vaak:

  • stellig en overtuigend;
  • zonder onzekerheidsmarges;
  • zonder weging van individuele omstandigheden.

In de zorg is nuance essentieel. Wat algemeen “kan kloppen”, kan individueel schadelijk zijn.

Onzichtbare bronselectie
Gebruikers zien meestal niet:

  • welke bronnen zijn gebruikt;
  • of deze actueel, betrouwbaar of contextueel passend zijn;
  • of commerciële of marginale bronnen zijn meegenomen.

Dit maakt het moeilijk om informatie kritisch te beoordelen.

Verder lezen bij de bron
IB&P

Nieuwsbrief

Deze versturen we 3-4x per jaar.

Recente blogs

Jouw leverancier, jouw risico: Waarom ketenrisico’s geen IT-probleem zijn
Veel gemeenten vertrouwen op leveranciers, maar blijven zelf verantwoordelijk voor de risico’s in de keten. In deze blog lees je waarom ketenrisico’s actief bestuurd moeten worden en hoe je als organisatie grip krijgt op leveranciers, contracten en continuïteit.
Ransomware bij een leverancier – waarom wachten geen strategie is
Een ransomware-incident bij een leverancier kan de gemeentelijke dienstverlening direct raken, juist omdat overzicht, contractmanagement en voorbereiding vaak onvoldoende zijn ingericht. Door inzicht te hebben in leveranciers, duidelijke afspraken te maken en ook organisatorisch na te denken over handelingsperspectief, voorkom je dat de gemeente bij een incident in een afwachtende slachtofferrol belandt.
Onzichtbare AI in systemen: privacyrisico’s voor gemeenten
In deze blog leggen we uit hoe AI ongemerkt gemeentelijke software binnendringt, waarom dit een privacyrisico vormt en hoe je hier als gemeente grip op houdt.

Meer recente berichten

Kamer wil opheldering over ChipSoft-hack: geen incident, maar symptoom van te grote afhankelijkheid
Verder lezen
DigiD-aansluitingen voldoen aan regel, nu de staatssecretaris nog
Verder lezen
AP gaat ict-le­ve­ran­ciers preventief controleren
Verder lezen
Tweede Kamer stemt in met wetsvoorstellen Cyberbeveiligingswet en Wet weerbaarheid kritieke entiteiten
Verder lezen
Door het datalek bij Booking.com krijgen oplichters precies wat ze nodig hebben om gasten te benaderen
Verder lezen
Digitale soevereiniteit en AI-security veranderen de spelregels
Verder lezen
Basic-Fit getroffen door grote hack, gegevens van 1 miljoen leden liggen op straat
Verder lezen
Cyberbeleid gaat veel verder dan techniek
Verder lezen
Herbeoordeling privacyorganisatie Belastingdienst
Verder lezen
Cy­ber­be­vei­li­gings­wet door Tweede Kamer
Verder lezen