Jaarthema 2018: Responsible AI

Responsible AI in de zorg

Focus op wensen en verwachtingen van zorgverleners en patiënten

Interview met Joanna Klopotowska / AI will see you nowResponsible AI / 17 juli 2018

In het kader van ons jaarthema zijn we op zoek naar projecten op het gebied van Responsible AI. Wat is de rol van AI in ons leven en welke invloed hebben we hier op? Wat betekent AI voor de verhouding tussen mens en technologie? Projecten die hierop inspelen nodigen we van harte uit een aanvraag in te dienen (deadline 17 september 2018, 13.00 uur)!

‘Artificiële Intelligentie (AI) in de spreekkamer’ is een van de ondersteunde projecten uit call 1 van 2018. Het is een project van een multidisciplinaire team van Amsterdam UMC, onderzoekers met passie voor het bestuderen van processen van informatie-uitwisseling tussen artsen en hun patiënten. Joanna Klopotowska, Danielle Sent en Ameen Abu-Hanna brengen expertise in vanuit klinische informatiekunde, Dave Dongelmans vanuit Intensive Care, Ellen Smets vanuit medische psychologie en Dick Willems vanuit medische ethiek. Het team heeft uitgebreide ervaring in de ontwikkeling en validatie van prognostische modellen in de zorg en de maatschappelijke en ethische aspecten van end-of-life care en informatie technologie. 

Projectleider Joanna Klopotowska is academisch onderzoeker op het gebied van computerized clinical decision support, ehealth en patiëntveiligheid. Ze heeft grondige kennis van complexe ziekenhuisprocessen en kan dit vertalen naar hulpmiddelen voor artsen en patiënten met als doel de patiëntveiligheid te optimaliseren.

We stelden haar een aantal vragen over het project.

Wat gaan jullie doen met het project ‘Artificiële Intelligentie (AI) in de spreekkamer’?

We willen inzicht krijgen in wat Responsible AI betekent vanuit het perspectief van de arts en vanuit dat van de patiënt en familie. De huidige inzichten in de behoeften en verwachtingen op dit gebied zijn zeer beperkt. Met dit project willen we vooral de ethische, psychosociale en juridische aspecten onderzoeken.

Wie of wat draagt de verantwoordelijk voor de adviezen van AI? Wie is straks de behandelaar – de arts of AI? Welke invloed zal AI hebben op de arts-patiëntrelatie? Dit zijn slecht enkele van de vragen die we aan artsen en patiënten willen voorleggen. Door middel van semi-gestructureerde interviews en focusgroepen.  Hebben we tot doel de contouren te schetsen van een richtlijn voor Responsible AI in de spreekkamer; een richtlijn die als basis kan dienen voor verantwoorde en verantwoordelijke ontwerp en toepassing van AI algoritmen in de zorg.

In dit project gebruiken we een algoritme dat de overlevingskansen van Intensive Care (IC) patiënten kan voorspellen. Dit is een zogenaamde prognostisch algoritme. Opname op een IC afdeling gaat gepaard met hoge kosten, zowel economisch als emotioneel. De kosten van IC zorg in Nederland worden geschat op ongeveer 20% van het totale ziekenhuisbudget. De emotionele kosten van IC-behandeling zijn ook erg hoog, waarbij patiënten niet noodzakelijkerwijs de voorkeur geven aan intensieve, levensbehoudende behandelingen. Een betrouwbare inschatting kunnen maken van de prognose op overleving met acceptabel geachte kwaliteit van leven, in overeenstemming met de voorkeuren van de patiënt, is dus van essentieel belang voor optimale patiëntenzorg.

Uit ons eerder onderzoek blijkt dat IC-artsen grote behoefte hebben aan objectieve informatie in vorm van een algoritme om kans op overleving objectiever in te kunnen schatten. Bovendien kan prognostische informatie de patiënten en hun vertegenwoordigers helpen om deel te nemen aan het besluitvorming proces (shared decision making).

Wat is jouw motivatie geweest om dit voorstel in te dienen bij SIDN fonds?

Het toepassen van (prognostische) algoritmen in de zorg is niet nieuw. Vooral daar waar moeilijke beslissingen moeten worden genomen, vaak ook onder tijdsdruk, wordt hier gebruik van gemaakt. Echter, huidige algoritmen zijn vaak ontoereikend, o.a. door het beperkte aantal en soort gegevens die worden gebruikt voor de berekeningen. Door onder meer de sterke toename van het gebruik van elektronische patiënten dossiers en consumenten eHealth is de hoeveelheid medische gegevens de afgelopen jaren exponentieel gegroeid. Het combineren van deze grote hoeveelheden verschillende typen gegevens en het inzetten van artificiële intelligentie om kennis uit deze gegevens te genereren, wordt gezien als DE oplossing om gezondheidszorg veilig, toegankelijk en betaalbaar te houden. Commerciële bedrijven die AI oplossingen voor ziekenhuizen aanbieden schieten als paddenstoelen uit de grond en het lijkt erop dat AI geen tool maar een doel in zichzelf wordt.

Echter, voor de meeste technologische innovaties in de zorg geldt dat het vertrouwen van de eindgebruikers en het ervaren van nut in de dagelijkse praktijk, de twee belangrijkste voorwaarden zijn voor een succesvolle implementatie. Maar hoe sterk je het vertrouwen van de artsen en patiënten in AI? Is dat door het borgen van privacy, behouden van autonomie, maximale transparantie van algoritmen? En voor welke problemen in de zorg zouden we AI moeten willen inzetten en voor welke niet? Het jaarthema Responsible AI van SIDN fonds biedt een uitstekende kans om voorbij de technologie te kijken naar de wensen en verwachtingen van zorgverleners en patiënten zodat AI de beloftes in kan lossen.

Welke bijdrage hoop je dat jouw project levert aan de discussie over Responsible AI?

We hopen vooral om een dialoog op gang te brengen tussen zorgverleners, patiënten en familie van patiënten over wat Responsible AI in de spreekkamer zou moeten zijn. De inzichten uit deze gesprekken kunnen helpen om een gezamenlijke visie te vormen en die te vertalen naar een richtlijn. Zouden we bijvoorbeeld een prospectieve risico analyse verplicht moeten stellen voordat we überhaupt aan de slag gaan met het ontwerpen van een AI algoritme voor zorg gerelateerd vraagstuk? Dergelijke analyses zijn immers gebruikelijk in het ziekenhuis om mogelijke risico’s en barrières vroegtijdig op te sporen voordat veranderingen in bijvoorbeeld zorgprocessen worden doorgevoerd. 

Welke vragen of welke vraagstukken hoop je dat andere projecten nog adresseren?

De verschillen in gezondheid tussen mensen met een hoge en een lage sociaaleconomische status (SES) nemen de laatste tijd toe. Mensen met een lage SIS leven momenteel achttien jaar minder lang in een goede gezondheid en hebben een zeven jaar kortere levensverwachting ten opzichte van mensen met een hoge SES. Door technologische innovaties dreigt deze kloof alleen maar groter te worden. Echter, het betrekken van patiënten met een lage SES bij wetenschappelijk onderzoek naar technologische innovaties, blijkt in de dagelijkse praktijk erg lastig.

Ik hoop dat andere projecten ons hulpmiddelen kunnen aanreiken om deze groep patiënten beter te kunnen bereiken.