In een recent artikel in het tijdschrift npj Digital Medicine van Nature beschrijven Oscar Freyer en collega’s hoe de regulering van kunstmatige intelligentie (AI) in de intensive care (ICU) onder druk staat door de verschuiving van smalle toepassingen naar meer algemene en geïntegreerde systemen. Deze afdeling kenmerkt zich door continue monitoring van patiëntgegevens, zoals hartslag, bloeddruk en ademhaling, en door snelle besluitvorming met directe impact op de patiënt. Zorgverleners moeten grote hoeveelheden informatie in korte tijd interpreteren. AI kan hierbij helpen door patronen te herkennen en risico’s te voorspellen en wordt daarom steeds vaker ingezet in deze omgeving.
Tot nu toe bestaat AI in de ICU vooral uit systemen met één duidelijke taak. Denk aan software die hartritmestoornissen herkent op een ECG (hartfilmpje) of die voorspelt of een patiënt een complicatie, zoals sepsis (een ernstige infectiereactie), ontwikkelt. Van dit soort toepassingen zijn er inmiddels meer dan duizend AI-ondersteunde medische hulpmiddelen goedgekeurd, vooral in de Verenigde Staten, waarvan een deel in de ICU wordt gebruikt.
De ontwikkeling van AI gaat echter verder en kan worden beschreven aan de hand van vijf stappen (paradigma’s):
- Single patient; narrow AI: Eerst zijn er systemen die één taak uitvoeren voor één patiënt, zoals een algoritme dat op basis van bloeddrukmetingen voorspelt of een patiënt binnen korte tijd een gevaarlijke daling (hypotensie) krijgt, of software die op een röntgenfoto een klaplong herkent.
- Multiple patients; narrow AI: Daarna komen systemen die nog steeds één taak hebben, maar meerdere patiënten tegelijk beïnvloeden, bijvoorbeeld een model dat alle patiënten op de afdeling rangschikt op risico op verslechtering, zodat zorgverleners weten wie als eerste aandacht nodig heeft.
- Single patient; broad AI: In de volgende stap ontstaan systemen die meerdere taken combineren voor één patiënt, zoals een AI-assistent die vitale waarden, labuitslagen en medische notities samenbrengt, deze samenvat en mogelijke diagnoses of vervolgstappen voorstelt.
- Multiple patients; broad AI: Daarna volgen systemen die dit voor meerdere patiënten tegelijk doen, bijvoorbeeld een systeem dat continu de hele afdeling analyseert, signalen van verslechtering detecteert en per patiënt een overzicht geeft van aandachtspunten voor het team.
- Orchestrating AI: In de vijfde en laatste stap, die nog vooral toekomstmuziek is, werken verschillende AI-systemen samen en sturen ze processen op de afdeling aan, bijvoorbeeld systemen die in theorie automatisch aanvullende diagnostiek kunnen starten, het juiste team waarschuwen en acties vastleggen in het dossier. Dit wordt ook wel een ‘orchestrerend systeem’ genoemd: een systeem dat andere systemen coördineert.
In de praktijk bevinden de meeste toepassingen zich nog in de eerste twee stappen. Voorbeelden zijn systemen die sepsis voorspellen, longproblemen herkennen op röntgenbeelden of vitale waarden combineren tot één risicoscore. Tegelijkertijd ontstaan er platforms die meerdere AI-toepassingen samenbrengen. Een voorbeeld is aiOS, een systeem dat automatisch verschillende algoritmen toepast op medische beelden en patiëntdata en de resultaten in de workflow presenteert, waarbij de uitkomsten nog steeds afzonderlijk door zorgverleners worden beoordeeld. In één toepassing analyseerde zo’n systeem meer dan 200.000 patiëntcases en signaleerde het meer dan 10.000 mogelijk klinisch relevante bevindingen.
Deze ontwikkeling brengt ook uitdagingen met zich mee. Sommige nieuwe AI-systemen, zoals generatieve AI, kunnen in bepaalde gevallen foutieve of inconsistente output geven. Ook wordt het moeilijker om te bepalen wie verantwoordelijk is als meerdere systemen samenwerken en beslissingen beïnvloeden. De huidige regels zijn vooral gemaakt voor losse hulpmiddelen en sluiten minder goed aan op deze geïntegreerde en samenwerkende systemen. Daarnaast blijkt het in de praktijk lastig om AI goed in te voeren door technische beperkingen, gebrek aan ervaring en onduidelijkheid over aansprakelijkheid. Naarmate AI-systemen breder en meer geïntegreerd worden, verschuift de complexiteit van de technologie zelf naar de onderliggende organisatie, processen en interacties, de ‘ijsberg onder AI’.
De belangrijkste conclusie is dat AI in de ICU verandert van losse hulpmiddelen naar systemen die een bredere rol spelen in de zorg. Dit vraagt om andere manieren van reguleren en organiseren. Het is belangrijk om AI stap voor stap in te voeren, goed te blijven controleren hoe systemen presteren en duidelijke afspraken te maken over wie waarvoor verantwoordelijk is. Menselijke eindverantwoordelijkheid blijft nodig.
Bronnen
- Freyer, O., Mathias, R., Muti, H. S., Orlovsky, H., Buch, S., Ostermann, M., Schönfelder, A., Poncette, A.-S., Bassily-Marcus, A., & Gilbert, S. (2026). The regulation of artificial intelligence in intensive care units: From narrow tools to generalist systems. npj Digital Medicine, 9, 246.
- Freyer, O. (2026, 24 maart). The regulation of artificial intelligence in intensive care units: From narrow tools to generalist systems [LinkedIn-post].
- Aidoc. (2025). Proven AI gains in radiology lead WellSpan Health to expand Aidoc aiOS across enterprise.
- Derksen, M. (2026, 20 maart). De ijsberg onder AI. Koneksa Mondo.
