Daarom is de belangrijkste vraag niet langer óf kunstmatige intelligentie de zorg gaat veranderen. De vraag is wie richting geeft aan die verandering. Want het grootste risico van AI in de zorg is niet dat machines zelfstandig verkeerde beslissingen nemen. Het grootste risico is dat professionals geleidelijk afleren om beslissingen ter discussie te stellen. Dat maakt AI-implementatie geen technisch project, maar een kwaliteitsvraag.
De verschuiving van gezag
Een algoritme presenteert zijn advies doorgaans zonder twijfel, aarzeling of zichtbare onzekerheid. Op een scherm verschijnt een risicoscore, classificatie of behandelvoorstel. Dat ziet er nauwkeurig en objectief uit. Maar achter die ogenschijnlijke precisie gaan keuzes schuil: welke gegevens zijn gebruikt, welke uitkomst is geoptimaliseerd, welke patiënten waren vertegenwoordigd in de trainingsdata en welke werkelijkheid werd niet meegenomen?
Een algoritme kan patronen herkennen die voor een mens nauwelijks zichtbaar zijn. Maar het kent niet vanzelf het volledige verhaal van de patiënt. Het weet niet altijd wat ziekte betekent in het dagelijks leven van iemand. Het herkent mogelijk een statistisch risico, maar niet zonder meer de angst van een patiënt, de draagkracht van een gezin of de reden waarom iemand zijn klachten kleiner maakt dan ze zijn.
Toch krijgt het advies van technologie gemakkelijk gezag. Zodra een algoritmische aanbeveling in het zorgproces verschijnt, verandert er iets wezenlijks. Niet het volgen van het advies, maar het afwijken ervan moet steeds vaker worden uitgelegd. Daarmee verschuift de bewijslast. De professional mag formeel misschien nog steeds zelf beslissen, maar ervaart in de praktijk een steeds sterkere norm. Waarom heeft u het advies van het systeem niet gevolgd? Waarom koos u een andere behandeling? Waarom vertrouwde u op uw klinische oordeel? AI hoeft de beslissing dus niet formeel over te nemen om toch beslissend te worden.
Wanneer ondersteuning verandert in gehoorzaamheid
Dat risico kennen we al uit andere vormen van standaardisering. Protocollen en richtlijnen zijn ontwikkeld om ongewenste variatie te verminderen en kwaliteit te vergroten. Dat heeft de zorg veel gebracht. Maar we hebben ook gezien hoe een hulpmiddel ongemerkt kan veranderen in een voorschrift en een voorschrift in een verantwoordingsnorm.
Met AI kan dat proces zich nog sneller voltrekken. Een algoritme bezit immers een gezag dat een papieren richtlijn niet heeft. Het analyseert grote hoeveelheden data, reageert onmiddellijk en presenteert een individueel advies. Dat maakt het verleidelijk om te denken dat het systeem meer ziet dan de professional.
Verder lezen?
Ben je jouw wachtwoord vergeten? Klik dan hier.
Meer artikelen lezen?
Ben jij verantwoordelijk voor QHSE binnen jouw organisatie? Dan is Kwaliteit in Bedrijf voor jou dé bron om geïnformeerd te blijven over jouw vakgebied. Word lid van Kwaliteit in Bedrijf en krijg toegang tot dit artikel én honderden andere verdiepende artikelen, praktijkverhalen en inzichten voor jouw vakgebied.







