De overheid moet kwaliteitseisen stellen aan de toepassing van kunstmatige intelligentie in de zorg en deze ook afdwingen. Gebeurt dit niet dan worden zorgvrager en zorgverlener te afhankelijk van dominante private partijen en kunnen publieke belangen geschaad worden.
Dat stelt de Raad voor Volksgezondheid en Samenleving (RVS) in een verkennend advies over het gebruik van artificial intelligence (AI) in de zorg. AI is naar het oordeel van de Raad een waardevolle technologie. AI kan zowel de kwaliteit, de toegankelijkheid en pluriformiteit als de betaalbaarheid en solidariteit van de zorg doen toenemen. Tezelfdertijd kan AI volgens de RVS diezelfde publieke belangen ondermijnen.
Kwaliteitseisen
Om de verdere invoering van AI in de zorg in goede banen te leiden en te voorkomen dat de zorg afhankelijk wordt van dominante private partijen, moet de overheid om te beginnen kwaliteitseisen aan AI-toepassingen in de zorg stellen en deze ook daadwerkelijk afdwingen. Het fundament van deze eisen zou wat de RVS betreft moeten worden gevormd door kernwaarden van het Nederlandse zorgstelsel, zoals brede toegankelijkheid en solidariteit. Eén en ander vergt wel aanscherping van het wettelijk instrumentarium aangezien AI-aanbieders als producenten van niet -medische hulpmiddelen buiten het bereik van bijvoorbeeld de Wet Toelating Zorginstellingen (WTZi) vallen.
Inzage
Daarnaast moet de datacontinuïteit van patiëntengegevens gegarandeerd zijn. Bedrijven kunnen failliet gaan. In dat geval moeten patiënten over hun gegevens kunnen blijven beschikken. Een verplichte gratis downloadmogelijkheid voor patiënten zou uitkomst kunnen bieden. Ook moeten burgers kunnen zien waar hun medische gegevens zijn opgeslagen en met wie ze worden gedeeld.
Onderwijs
Met het oog op de langere termijn moet de overheid AI-ontwikkelingen programmatisch volgen en daarop aansluitend kennis over AI genereren en delen, zo adviseert de RVS. Naast burgers informeren zou de overheid zich sterk moeten maken voor aandacht voor AI in het zorgonderwijs. In de verschillende opleidingen is specifieke aandacht nodig voor AI, zowel voor wat betreft het leren doorgronden van algoritmen als voor de interactie tussen mens en technologie. Zorgverleners en patiënten van de toekomst zullen met AI moeten kunnen omgaan.
‘Waarde(n)volle technologie’
De Raad houdt in het advies een flinke slag om de arm. Rond AI bestaat nog veel onduidelijkheid en onzekerheid. Gezien de potentiële gevolgen voor de zorg én de mogelijkheden en de risico’s vindt de RVS afwachten geen optie. Daarbij wil de RVS benadrukken dat technologie nooit neutraal is, maar altijd waarde-geladen. Om die reden spreekt de RVS dan ook van ‘waarde(n)volle technologie’. Door technologie te presenteren als een onomstreden wondermiddel dreigen achterliggende keuzes uit zicht te verdwijnen, zo waarschuwt de RVS. Een complicerende factor hierbij is dat de ontwikkelingen zich veelal buiten het reguliere zorgstelsel binnen een uitgesproken internationale context afspelen, maar er wel invloed op uitoefenen en uiteindelijk het stelsel ingrijpend kunnen veranderen.