De zorg staat onder grote druk en tegelijkertijd biedt kunstmatige intelligentie kansen. Tijdens deze editie van GoedeMorgenCommissaris stond de vraag centraal hoe toezichthouders en commissarissen zich moeten verhouden tot de snelle opkomst van AI in de zorg. Wat vraagt dit van strategie, toezicht en risicobewustzijn? En welke rol kunnen en moeten commissarissen hierin spelen?
Van technologie naar maatschappelijke impact
Moderator Onno Verkuyl ging in gesprek met twee gasten die elk vanuit een ander perspectief bij dit thema betrokken zijn. Erika Bakkum, arts van origine en ervaren toezichthouder, is onder meer plaatsvervangend voorzitter van de Onderzoeksraad voor Veiligheid en toezichthouder bij het Erasmus MC. Pieter Jeekel is voorzitter van de zorg- en gezondheidssector van de AI Coalitie voor Nederland, de grootste publiek-private samenwerking op het gebied van AI in ons land.
Jeekel schetste een helder beeld van de urgentie. De zorgvraag groeit sneller dan het aanbod, personeelstekorten nemen toe en zonder ingrijpen komt de toegankelijkheid van zorg verder onder druk te staan. AI kan hierin een wezenlijk verschil maken. In de radiologie fungeert AI inmiddels als tweede lezer bij scans, waardoor afwijkingen soms jaren eerder worden herkend. Ook spraakgestuurd rapporteren levert direct tijdswinst op, doordat administratieve lasten voor artsen aanzienlijk worden verminderd.
Tegelijkertijd is de realiteit weerbarstig. Buiten enkele domeinen, zoals radiologie, wordt slechts een klein deel van AI-innovaties daadwerkelijk opgeschaald. Niet omdat de technologie faalt, maar omdat implementatie complex is. Wet- en regelgeving, hertraining van systemen per instelling en beperkte AI-geletterdheid binnen organisaties vormen belangrijke barrières.
De rol van toezicht: richting geven zonder overnemen
Bakkum benadrukte dat het bewustzijn rond AI in raden van toezicht wel degelijk groeit, maar dat de mate waarin organisaties stappen zetten sterk verschilt. Cultuur, risicobereidheid en type organisatie spelen daarin een grote rol. AI is volgens haar geen ‘master move’, maar een ontwikkeltraject dat vraagt om gezamenlijke reflectie en stapsgewijze besluitvorming.
Binnen het Erasmus MC is bewust gekozen voor een gezamenlijke benadering van raad van bestuur en raad van toezicht. Er is expliciet gekeken naar de publieke waarde van AI-toepassingen, met kwaliteit en veiligheid van zorg als leidend criterium. Toezicht richt zich daarbij niet alleen op juridische en ethische randvoorwaarden, maar vooral op de vraag of AI daadwerkelijk bijdraagt aan betere zorg voor de patiënt.
Beide gasten waren het erover eens dat AI bestuurlijk verankerd moet zijn. Het helpt wanneer één bestuurder expliciet portefeuillehouder AI is, terwijl toezichthouders voldoende kennis ontwikkelen om de juiste vragen te stellen. Dat vraagt om investeren in AI-geletterdheid op alle niveaus, van bestuur tot werkvloer.
Risico’s, verantwoordelijkheid en menselijke maat
Uiteraard kwam ook de risicokant uitgebreid aan bod. Bakkum benoemde bekende risico’s zoals privacy, cybersecurity en datakwaliteit, maar wees ook op subtielere vraagstukken. AI-systemen leren van bestaande data, die niet altijd representatief zijn. Zonder goede borging kan dit leiden tot vertekende uitkomsten. Daarom is het essentieel dat er altijd duidelijke stopmomenten en verantwoordingsmechanismen zijn ingebouwd.
Jeekel vulde aan dat in de Nederlandse zorg vrijwel alle AI-toepassingen werken volgens het principe ‘human in the loop’. De technologie ondersteunt, maar de professional blijft eindverantwoordelijk. Dat biedt waarborgen, maar vraagt ook om blijvende alertheid van bestuur en toezicht.
Ook de vraag naar digitale en geopolitieke soevereiniteit kwam aan de orde. Volledige onafhankelijkheid is volgens Jeekel niet realistisch, maar organisaties moeten wel inzicht hebben in hun afhankelijkheden en scenario’s klaar hebben voor het geval systemen of leveranciers wegvallen. Europese samenwerking en bewuste diversificatie moeten daarbij helpen.
Opschalen door samenwerking en voorbeeldgedrag
Een terugkerend thema was samenwerking. Juist door gezamenlijk op te trekken kunnen zorgorganisaties leren van elkaars ervaringen en succesvolle toepassingen sneller opschalen. Bakkum gaf aan dat ook toezichthouders hierin een stimulerende rol kunnen spelen, bijvoorbeeld door het gesprek over AI expliciet te agenderen of zelf ervaring op te doen met toepassingen zoals AI-ondersteunde verslaglegging.
Jeekel benadrukte dat Nederland in de zorg een sterke uitgangspositie heeft, met forse investeringen in infrastructuur, kennis en rekenkracht. Die potentie komt echter alleen tot wasdom als organisaties bereid zijn voorbij pilots te kijken en daadwerkelijk te sturen op impact.
Tot slot
De inzet van AI in de zorg is geen technologische bijzaak meer, maar een strategisch vraagstuk dat raakt aan kwaliteit, toegankelijkheid en betaalbaarheid van zorg. Voor commissarissen en toezichthouders ligt hier een duidelijke opgave: voldoende kennis opbouwen, richting geven vanuit maatschappelijke waarden en tegelijk ruimte laten aan professionals en bestuurders om te experimenteren en te leren. Zoals deze editie van GoedeMorgenCommissaris duidelijk maakte, vraagt dat niet om snelle antwoorden, maar om betrokken en geïnformeerd toezicht op een ontwikkeling die de zorg blijvend zal veranderen.
Voor meer informatie over ons wekelijks actualiteitenprogramma GoedeMorgenCommissaris zie hier.