'Medische AI Overview-antwoorden van Google brengen gebruikers in gevaar'

In dit artikel:

Google’s AI Overview in Zoeken toont bij medische vragen vaak geen directe waarschuwing om een arts te raadplegen; die disclaimer verschijnt pas als je het antwoord verder uitklapt. The Guardian ontdekte dit probleem en de redactie van dit artikel reconstrueerde het: Google zegt dat AI Overview bedoeld is om te informeren en dat er een belangrijke melding staat, maar die melding blijft vaak verborgen totdat gebruikers doorklikken.

AI-experts waarschuwen dat dit risico’s met zich meebrengt. Onderzoekers noemen dat AI-modellen kunnen hallucineren, onjuiste informatie geven en vaker gericht zijn op het ‘tevreden stellen’ van gebruikers dan op medische nauwkeurigheid. Daarnaast zouden AI Overviews vooral op snelheid zijn gebouwd en niet op precisie, wat gevaarlijk kan zijn bij gezondheidsthema’s.

Na publicatie heeft Google de AI-overzichten op sommige gezondheidsonderwerpen uitgezet, maar bij tests (bijvoorbeeld zoeken op “vastzittende hoest” of “vastzittende hoest met pijn”) gaf het systeem nog steeds diagnoses en advies — met de waarschuwing pas na doorklikken. In die gevallen suggereerde de AI mogelijk taai slijm of bronchitis en raadde contact met de huisarts pas na dagen of zelfs weken aan, wat volgens experts problematisch kan zijn.

Kortom: medische informatie uit AI-overzichten in Google Zoeken verdient terughoudendheid. Gebruikers moeten alert zijn op ontbrekende of vertraagde disclaimers, kritisch blijven ten opzichte van dergelijke antwoorden en bij twijfel rechtstreeks een zorgprofessional raadplegen.