Hoe kunnen arts en patiëntAI-technologie gebruiken zonder de grip op de besluitvorming te verliezen?
Het ELSA-lab van de Radboud Universiteit onderzoekt met steun van SIDN fonds we wat er nodig is – zowel technisch, juridisch als medisch-ethisch – om er voor te zorgen dat arts en patiënt op een betrouwbare en verantwoordelijke manier gebruik kunnen maken van AI-technologie zonder de grip op hun eigen besluitvorming te verliezen.
Het gebruik van AI kan bijdragen aan betere en efficiëntere zorg. Beslissingsondersteunende systemen helpen arts en patiënt om scenario’s door te rekenen, alternatieven af te wegen, en in het bijzonder om individuele keuzes te maken over behandelingen die impact hebben op de kwaliteit van leven en risico’s en impact af te wegen.
Zo wordt bij de behandeling van baarmoederkanker bijvoorbeeld met behulp van AI de kans op uitzaaiing van de tumor naar de lymfeklieren bepaald, en wordt de impact van preventieve verwijdering samen met de patiënt afgewogen tegen dit risico.
AI-technologie in de zorg, echter, neemt een stukje van de verantwoordelijkheid van de arts over: de arts kent niet alle ins en outs en details van de technologie maar moet kunnen vertrouwen op de kwaliteit van het advies.
Dit verandert ook de relatie tussen arts en patiënt. Het is van groot maatschappelijk en economisch belang om alle stakeholders actief te betrekken bij het begrijpelijk en betrouwbaar maken van deze toepassingen.
Binnen dit project onderzoekt het ELSA-lab van de Radbouduniversiteit wat er nodig is – zowel technisch, juridisch als medisch-ethisch – om er voor te zorgen dat arts en patiënt op een betrouwbare en verantwoordelijke manier gebruik kunnen maken van AI-technologie zonder de grip op de besluitvorming te verliezen.
Het lab werkt daarbij samen met de Universiteit Utrecht, Hanze Hogeschool, ConnectedCare Services B.V en ICTRecht Amsterdam BV. Dat maakt project een multidisciplinaire samenwerking tussen juristen, reguleringsexperts, oncologen, ethici, patiënten, designers, en AI-specialisten. Zij kijken samen naar het samenspel tussen technologische- en interactiemogelijkheden, maatschappelijke zorgen, ethische randvoorwaarden, juridische kaders, en medische wensen.
Ze zoeken daarbij het spanningsveld op tussen ‘kijk eens wat er kan!’ en ‘moet je dat wel willen?’. Ook betrekken ze alle stakeholders bij de interactie tussen wet, regelgeving, norm, en de handhaving daarvan. Zo zetten ze stappen naar een nieuwe generatie van systemen voor beslissingsondersteuning die bijdraagt aan het samen beslissen over individuele zorg.
SIDN fonds ondersteunt dit project na een oproep om voorstellen in te dienen die zich richten op ‘Responsible AI in de praktijk'. We waren voor deze themacall op zoek naar vernieuwende onderzoeksprojecten die praktijkoplossingen bieden voor responsible AI.
Samen met Topsector ICT selecteerden we in totaal tien projecten.