Beeld: VRVIRUS / Stock.adobe.com
“Wij vinden dit een goed moment om het zorgveld te laten weten hoe wij als toezichthouder aankijken tegen de opkomst van generatieve AI”, zegt Johan Krijgsman, coördinerend inspecteur digitale zorg. “Het aantal toepassingen groeit snel en sommige zorgorganisaties experimenteren daar al mee. Wij krijgen signalen van zorgaanbieders die zich afvragen hoe ze het moeten aanpakken.”
Aandachtspunten
Gevallen waarbij het misgaat, zijn bij de inspectie momenteel niet bekend. De publicatie moet helpen dat te voorkomen. Het biedt aandachtspunten voor de ontwikkeling of aanschaf, tijdens de implementatie en na ingebruikname. Vragen die zorgorganisatie moeten stellen zijn onder meer of gebruikers voldoende kennis hebben, welke data zijn gebruikt bij de ontwikkeling en hoe de werking en uitkomsten van de toepassing zijn te monitoren. De aandachtpunten hebben betrekking op de veiligheid en kwaliteit van de zorgverlening, maar de inspectie wijst ook op andere risico’s. “Denk aan informatiebeveiliging, zoals de bescherming van persoonsgegevens”, staat in het document.
Onbekende risico’s
De IGJ benadrukt dat generatieve AI zeker mogelijkheden biedt, maar dat de toepassingen relatief kort op de markt zijn en dat sommige effecten en risico’s nog onbekend zijn. “Een deel van de toepassingen is geen medisch hulpmiddel, er geldt dan ook geen CE-markering. Je zult als zorgaanbieder zelf een risicoanalyse moeten uitvoeren”, zegt inspecteur Joël Buiter. De publicatie laat er geen misverstand over bestaand dat zorgaanbieders die generatieve AI gebruiken wettelijk verantwoordelijk zijn voor een zorgvuldige implementatie en inzet ervan. Krijgsman: “Zeker kleinere organisaties zou ik wat dat betreft aanraden om vooral samen te werken.”
Kaders van Agema
De aandachtspunten van de IGJ vallen binnen het bestaande toetsingskader voor digitale zorg. Een definitief document voor verantwoord AI-gebruik is het niet. De Europese AI-act wordt dit jaar stapsgewijs van kracht en ook minister Agema heeft aangekondigd binnenkort met een aanpak en kaders voor AI-gebruik te komen. “Onze publicatie is gebaseerd op hetgeen er nu te vinden is”, zegt Krijgsman. “We hebben geen glazen bol, maar gaan er vanuit dat de minister met aandachtspunten komt en het veld richtlijnen aanpast voor veilige toepassing van AI. Indien nodig passen wij ons toezicht aan.”
Toekomstige richtlijnen
In de toekomst verwacht de inspecteur nog meer en uitgebreidere richtlijnen. “We zijn het met zijn allen aan het leren, wij dus ook. Onze boodschap is zeker niet dat zorgorganisaties er niet aan moeten beginnen, maar wel dat ze de kansen en risico’s met elkaar in balans moeten brengen.”
De nieuwe werkwijzen worden samen met de medewerkers ontwikkeld. “Daar komen mooie dingen uit, maar deze aanpak vraagt wel om tijd die we niet hebben” vertelt Van Nispen. “Daarom gaan we in een intensief traject van twaalf weken op locatieniveau versneld de belangrijkste interventies met de direct betrokkenen implementeren. Zo geven we de transitie, vanuit anders denken en doen, een enorme impuls. Waarschijnlijk is deze aanpak vrij uniek.”
Skipr masterclasses over artificial intelligence
1-daagse masterclass Artificial Intelligence in de zorg
Na deze dag bent u volledig op de hoogte van de laatste ontwikkelingen rondom artificial intelligence in de zorg.
2-daagse masterclass AI Essentials
Na de 2-daagse masterclass bent u volledig op de hoogte van de laatste ontwikkelingen rondom artificial intelligence in de zorg, heeft u hands-on ervaring met diverse tools en kunt u een AI-strategie vormen voor uw bedrijf.
