De Europese AI Act en verantwoordelijkheid van zorgbestuurders
De inzet van kunstmatige intelligentie (AI) in de gezondheidszorg opent de deur naar betere diagnoses, efficiëntere processen en meer gepersonaliseerde zorg. Tegelijkertijd brengt deze technologische vooruitgang ook nieuwe verantwoordelijkheden met zich mee, met name voor bestuurders.
Wat is de AI Act?
De AI Act is de eerste uitgebreide Europese wet voor het reguleren van AI en is in augustus 2024 van kracht geworden. De verordening wordt de komende twee jaar gefaseerd ingevoerd. Deze wetgeving heeft grote impact op zorgorganisaties – niet alleen bij het ontwikkelen, maar ook bij het inkopen en toepassen van AI-systemen.
Wat betekent dit voor zorgorganisaties?
De AI Act stelt duidelijke eisen aan de hele AI-keten: van ontwikkelaars tot gebruikers, importeurs en distributeurs. Voor zorginstellingen betekent dit onder andere dat inkoopvoorwaarden en contracten grondig herzien moeten worden. Transparantie over hoe een AI-systeem werkt, wie verantwoordelijk is voor de uitkomsten, en hoe gegevens worden opgeslagen en gelogd, is voortaan geen keuze meer, maar een wettelijke vereiste.
AI-systemen worden in de wet geclassificeerd op risiconiveau: van laag tot onacceptabel. Toepassingen in de zorg vallen vrijwel altijd onder de categorie "hoog risico". Dit betekent dat systemen moeten voldoen aan strikte eisen op het gebied van dataveiligheid, logging, menselijke controle en uitlegbaarheid.
Zorgsystemen en AI: altijd hoog risico
In de zorg gelden aanvullende regels via de Medical Device Regulation (MDR). Deze stelt eisen aan software die als medisch hulpmiddel wordt ingezet (Software as a Medical Device, SaMD). Systemen moeten vooraf grondig getest en gevalideerd worden, met verplichte monitoring na ingebruikname. Gezien de hoge privacy- en veiligheidsrisico’s in de zorg is dit essentieel. Transparantie, uitlegbaarheid en betrouwbaarheid zijn dan ook niet optioneel, maar fundamenteel.
Praktische uitdagingen
Een groeiende zorg is de afhankelijkheid van grote, niet-Europese AI-leveranciers zoals OpenAI, Gemini en Deepseek. Hun generatieve AI-diensten vallen onder buitenlandse wetgeving, wat tot risico’s leidt rondom de verwerking van gevoelige patiëntgegevens. Deze kunnen daardoor buiten de bescherming van Europese wetgeving vallen, wat in strijd is met de AI Act en de AVG.
Daarom stappen steeds meer zorginstellingen over op open source-oplossingen of ontwikkelen ze eigen Language Models (LLM’s). Hiermee behouden zij controle over hun data, krijgen zij inzicht in de gebruikte algoritmes en kunnen zij gegevens opslaan binnen de eigen jurisdictie. Deze aanpak vraagt echter om eigen verantwoordelijkheid op het gebied van compliance en risicobeheer.
HealthTalk: compliant, soeverein en veilig
HealthTalk werkt met een eigen AI-omgeving in Amsterdam, op eigen hardware en met eigen AI-modellen, volledig aangedreven door NVIDIA-technologie. Hierdoor zijn wij volledig GDPR-compliant, garanderen we gegevenssoevereiniteit en leveren we realtime prestaties. Daarnaast zijn wij ISO-, NEN- én MedMij-gecertificeerd. Dankzij onze MedMij-certificering voldoen wij ook aantoonbaar aan de eisen rond veilige en transparante gegevensuitwisseling, inclusief de verplichte datalogging zoals voorgeschreven in de AI Act.
Wij verwachten eind 2025 ook de MDR-certificering te behalen. Zorgverleners behouden bij ons volledige controle over medische data, terwijl ze voldoen aan alle geldende wet- en regelgeving.
AI als versneller van innovatie en verlichting in de zorg
Ondanks de uitdagingen biedt AI enorme kansen. Door administratieve lasten te verminderen en repetitieve taken te automatiseren, krijgen zorgprofessionals weer ruimte voor wat echt telt: de patiënt. AI-innovaties zorgen bovendien voor gebruiksvriendelijkere toepassingen en beter uitlegbare algoritmes, wat de acceptatie in de praktijk versnelt.
Zorgminister Fleur Agema heeft als doel gesteld dat zorgverleners in 2030 de helft minder tijd kwijt zijn aan administratie. Daarom investeert zij twee jaar op rij 400 miljoen euro in AI en zorginnovatie.
Tot slot
De samenwerking tussen zorgprofessionals en AI-ontwikkelaars is cruciaal om deze technologie op een veilige, verantwoorde en effectieve manier te integreren. Alleen dan kunnen we het volledige potentieel van AI in de zorg benutten. Welke bestuurders durven de eerste stap te zetten?