Een internationaal team van onderzoekers, artsen, opleiders, ethici en patiëntpartners heeft een antwoord geformuleerd op de vraag hoe zorgverleners en opleiders veilig moeten omgaan met kunstmatige intelligentie. In het tijdschrift JMIR Medical Education presenteren zij het Health CARE-AI Framework, een breed gedragen leidraad die moet helpen bij het verantwoord integreren van AI in het volledige traject van zorgopleiding tot patiëntenzorg. Het kader kwam tot stand via een uitvoerig consensusproces met 303 internationale deelnemers en kreeg bijna unanieme steun van de betrokken experts.
- Het Health CARE-AI Framework bundelt tien kernprincipes in vier samenhangende domeinen.
- Aan het consensusproces namen 303 unieke internationale deelnemers deel.
- 96 procent van de deelnemers steunde de manier waarop het kader professionele verwachtingen rond AI omschrijft.
- Bij het kader hoort een praktische toolkit met scenario’s voor onderwijs, onderzoek en bestuur.
De afkorting CARE-AI staat voor Contextual, Accountable, Responsible, and Equitable Artificial Intelligence. Het initiatief wil de kloof dichten tussen abstracte ethische principes en de dagelijkse praktijk. Organisaties zoals de Wereldgezondheidsorganisatie (WHO) en UNESCO hebben weliswaar brede ethische uitgangspunten voor AI opgesteld, maar artsen en opleiders missen vaak concrete houvast wanneer ze te maken krijgen met patiëntenprivacy, vertekening in algoritmes, het beoordelen van studenten of het beheer van data.
Waarom AI meer is dan zomaar een nieuwe digitale tool
De studie benadrukt dat AI niet simpelweg een verlengstuk is van bestaande digitale of sociale media. Volgens de auteurs raakt de technologie aan fundamentele zaken als klinische autonomie, het onderlinge vertrouwen tussen zorgverlener en patiënt, en gelijkheid in de zorg. Het CARE-AI-initiatief wil daarom verder gaan dan waarden op papier en die vertalen naar concrete competenties, professionele verantwoordelijkheid en structurele afspraken die daadwerkelijk onderwezen, begeleid en verankerd kunnen worden.
Tien principes verdeeld over vier domeinen
Het kader ordent tien kernprincipes in vier met elkaar verbonden domeinen. Bij Waarden gaat het om het inzetten van AI als een gedeelde individuele en collectieve plicht, met transparantie, eerlijkheid en integriteit in AI-ondersteunde zorg en onderwijs. Onder Competentie valt de verplichting tot doorlopende, bij de rol passende AI-geletterdheid, waarbij het kritische menselijke oordeel behouden blijft. AI moet klinische en onderwijskundige besluitvorming aanvullen, niet vervangen.
Het domein Verantwoording beschouwt AI als een aanwezige “derde partij” tijdens interacties, met strikte naleving van juridische, privacy- en toestemmingsgrenzen en zorgvuldig databeheer. Ten slotte richt Structurele gelijkheid zich op het actief opsporen en beperken van vertekening in algoritmes, het inbouwen van gelijkheid in het ontwerp en bestuur van AI via co-creatie met betrokken gemeenschappen, en het bevorderen van duurzaamheid op het vlak van milieu en personeel.
Anders dan een statisch beleidsdocument gaat het kader vergezeld van een implementatiegids en toolkit met praktische scenario’s voor onderwijs, onderzoek en bestuur.
Wat dit voor opleidingen en zorginstellingen kan betekenen
Met die toolkit kunnen medische faculteiten, opleidingsprogramma’s en bestuurders van zorgsystemen hun eigen paraatheid beoordelen, hun lesprogramma’s bijstellen en de inzet van AI kritisch tegen het licht houden. Dit betekent dat instellingen niet hoeven te wachten op nieuwe regelgeving, maar zelf proactief kunnen toetsen of hun gebruik van AI aan de gestelde principes voldoet. Zo’n gevalideerd referentiekader biedt een bruikbaar houvast in een domein waar duidelijke standaarden tot nu toe grotendeels ontbraken.
Het onderzoek werd uitgevoerd volgens een driefasige, aangepaste Delphi-methode, een gestructureerde aanpak waarbij deskundigen in meerdere rondes naar consensus toewerken. De rapportage volgde bovendien de zogeheten ACCORD-richtlijnen voor het correct weergeven van consensusstudies.
Werkt u in de zorg het medisch onderwijs? Deel uw ervaring: helpt zo’n kader u bij het verantwoord inzetten van AI, of blijven de dagelijkse dilemma’s te complex voor richtlijnen op papier?
