gestructureerde procedure om periodiek waarmee organisaties kunnen beoordelen of een algoritme of AI-toepassing nog goed functioneert
Steeds meer organisaties gebruiken AI en algoritmes, maar hoe zorg je ervoor dat deze technologieën eerlijk, betrouwbaar en verantwoord functioneren? Functioneringsgesprek voor AI is een gestructureerde procedure om periodiek te beoordelen of een algoritme of AI-toepassing nog goed functioneert.
Steeds meer organisaties gebruiken AI en algoritmes. Maar hoe zorg je ervoor dat deze technologieën eerlijk, betrouwbaar en verantwoord functioneren? Toezichthouders houden toezicht op het gebruik van AI, maar organisaties moeten zelf ook kunnen aantonen dat hun systemen goed presteren. Tot nu toe ontbreekt een wetenschappelijk gevalideerde methode die zowel technische als sociale aspecten van AI beoordeelt gedurende de hele levenscyclus.
Daarom ontwikkelt de Data School van de Universiteit Utrecht het Functioneringsgesprek voor AI. Dat is een gestructureerde procedure om periodiek te beoordelen of een algoritme of AI-toepassing nog goed functioneert. Via een vragenlijst kunnen organisaties inzicht krijgen in vier belangrijke thema’s. Zo kunnen ze problemen tijdig signaleren, verbeteringen doorvoeren en transparant zijn tegenover toezichthouders, auditors en het publiek. Dat draagt bij aan vertrouwen in verantwoord AI-gebruik.
Het eerste prototype van het Functioneringsgesprek voor AI is al ontwikkeld door Universiteit Utrecht, de Nederlandse Voedsel- en Warenautoriteit en de Rijksinspectie Digitale Infrastructuur. Het huidige project richt zich op drie doelen: wetenschappelijk onderzoek, kennisdeling en de ontwikkeling van een toegankelijke applicatie.
De resultaten bestaan uit een open source webapplicatie, een rapport met best practices en wetenschappelijke publicaties.
Organisaties die werken met hoog-risico AI kunnen hiermee hun systemen monitoren en bijsturen. Ook toezichthouders kunnen het instrument gebruiken. Zo versterkt het Functioneringsgesprek het AI-ecosysteem en stimuleert het verantwoorde innovatie.
SIDN fonds ondersteunt dit project na een oproep om voorstellen in te dienen die zich richten op ‘Responsible AI in de praktijk'. We waren voor deze themacall op zoek naar vernieuwende onderzoeksprojecten die praktijkoplossingen bieden voor responsible AI.
Samen met Topsector ICT selecteerden we in totaal tien projecten.