Artsen op de intensive care krijgen een AI-hulpmiddel dat wél uitlegt hoe het tot een oordeel komt. Computerwetenschappers en medici van de Universiteit Leiden hebben een model ontwikkeld dat niet alleen inschat hoe groot de kans is dat een van de IC ontslagen patiënt opnieuw moet worden opgenomen, maar ook zichtbaar maakt op welke criteria die inschatting rust. Het model is een samenwerking tussen het Leiden Institute of Advanced Computer Science (LIACS) en het Leids Universitair Medisch Centrum (LUMC). Postdoctoraal onderzoeker Lincen Yang, die eerder aan de theorie werkte, bracht het van het lab naar de klinische praktijk.
- Leidse onderzoekers ontwikkelden een transparant AI-model voor de intensive care.
- Het model voorspelt de kans op heropname na ontslag én toont de onderliggende criteria.
- Het algoritme is getraind op tien jaar aan data van IC-patiënten.
Waarom transparantie op de IC letterlijk levens raakt
De inzet van kunstmatige intelligentie en algoritmes staat steeds meer onder de loep. Voor sommige toepassingen doet het weinig ter zake wat er precies onder de motorkap gebeurt. Maar op de intensive care nemen artsen beslissingen die uiteindelijk over leven en dood kunnen gaan. Zij willen daarom exact weten hoe een risico-inschatting is opgebouwd.
Volgens Yang schiet het bestaande aanbod juist op dat punt tekort. “Het probleem voor artsen op de intensive care is dat de meeste modellen in twee varianten komen. Ze zijn erg goed in het aanwijzen van patiënten met een hoog risico, maar zonder uit te leggen waarom. Of ze geven wel een verklaring, maar die is volgens de artsen onjuist.”
Hoe het model werkt: regels zonder verborgen volgorde
Het model is gebaseerd op zogeheten ongeordende regels. Een algoritme kan een set regels leren en die gebruiken om voorspellingen te doen. Meestal krijgen die regels een vaste volgorde, waarbij de ene regel een voorwaarde wordt voor het toepassen van de volgende. Daardoor worden modellen lastig te interpreteren, omdat elke beslissing van een eerdere afhangt. De ongeordende regels in dit model staan los van elkaar en zijn daardoor eenvoudiger te volgen.
Yang onderzocht de aanpak al in 2023 samen met Matthijs van Leeuwen, hoogleraar Explainable Machine Learning. “Het ging niet zozeer om de vraag of mijn model nauwkeuriger was dan andere modellen. De kernvraag was: is de uitkomst logisch en goed onderbouwd?”, aldus Yang.
Ondersteunen in plaats van vervangen
De onderzoekers zochten nadrukkelijk geen systeem dat het werk van artsen overneemt, maar één dat hen ondersteunt. “Ons algoritme is getraind met tien jaar aan data van IC-patiënten. Het is voor een arts onmogelijk om al die gegevens te onthouden en te beoordelen. Maar een algoritme ziet de individuele patiënt niet. Dankzij hun jarenlange ervaring kunnen artsen hun oordeel ook baseren op wat ze aan het bed zien”, zegt Yang.
Het model geeft IC-artsen een risico-inschatting die ze kunnen volgen, waarna ze zelf beslissen of een patiënt de afdeling mag verlaten.
Dat een AI-systeem uitlegbaar is, sluit aan bij een bredere maatschappelijke en politieke discussie over verantwoord gebruik van algoritmes. Voor de zorg betekent uitlegbaarheid dat een arts elke stap kan controleren en de eindverantwoordelijkheid houdt — juist in een omgeving waar een verkeerde beslissing grote gevolgen kan hebben.
Samenwerken over vakgebieden heen kostte tijd
De brug tussen informatica en geneeskunde bleek niet vanzelfsprekend. “In het begin dacht ik: dit is makkelijk. Mijn model, hun data. Klaar. Maar interdisciplinair onderzoek vraagt ook om andere dingen, zoals wederzijds begrip. Het vermogen om met elkaars systemen te werken. En dat kost tijd”, vertelt Yang. Hij merkte dat iedereen die tijd ook nam. “Ik vind het schitterend om te zien dat onderzoekers in Leiden dezelfde waarden delen. Ze werken nauwkeurig en zorgvuldig, want dit is een kritisch vakgebied.”
Yang wil af van wat hij ‘magische parameters’ noemt. “Het is belangrijk dat gebruikers begrijpen wat er gebeurt. Dat elke stap te herleiden is. Vroeger hadden fabrieken machines die alleen de technici begrepen. Zij wisten welke knoppen ze moesten indrukken om de output te veranderen. In dit model wilde ik die magische parameters kwijt. Transparantie van algoritmes is niet alleen belangrijk voor gebruikers, maar ook voor de overheid en de samenleving.”
Zou u er als patiënt op vertrouwen dat een arts mede op basis van een AI-model beslist over uw ontslag van de intensive care? Deel uw mening hieronder.
