Slimme technologieën nemen een groeiend aantal overheidstaken over, van verkeersregeling tot voorspellende algoritmes in zorg en handhaving. Hoewel deze systemen vaak worden gepresenteerd als neutrale efficiëntiewinst, verschuiven ze in werkelijkheid publieke macht van uitvoerders naar de technologieën en hun ontwikkelaars.
Beslissingen, zoals wie voorrang krijgt of welke data worden verzameld, raken daarmee buiten publieke controle. Gemeenten beschikken echter nog zelden over een praktisch kader om dit soort politieke en maatschappelijke implicaties systematisch te beoordelen.
Vertaling normatieve concepten naar meetbare indicatoren
Het project Democratie in het Verkeer ontwikkelt een 5-sterrenmodel waarmee overheden kunnen toetsen of, en hoe goed, datagedreven technologieën democratisch verantwoord zijn ingericht. Het model vertaalt normatieve concepten zoals Meaningful Human Control en vrijheid als non-dominantie naar concrete, meetbare indicatoren voor transparantie, verantwoordelijkheid, contestatie en publieke participatie.
Eerste use-case: slimme verkeerslichten (iVRI's)
Als eerste use-case nemen we intelligente verkeersregelinstallaties (iVRI’s): slimme verkeerslichten die real-time data gebruiken om bepaalde weggebruikers voorrang te geven. Via literatuurstudie, expertinterviews, focusgroepen en pilots onderzoeken we welke waarden en besluitmomenten in iVRI-ontwerp cruciaal zijn, en hoe zij publiekelijk gelegitimeerd kunnen worden.
Deze inzichten voeden het bredere model, dat vervolgens toepasbaar is op andere gemeentelijke AI-toepassingen, zoals slimme handhaving of datagedreven mobiliteitsdiensten.
Voor beleidsmakers, ontwerpers en burgers
Het project is een samenwerking tussen de Rijksuniversiteit Groningen en The Green Land. Ons doel is een openbaar, schaalbaar instrument te ontwikkelen dat beleidsmakers, ontwerpers en burgers helpt slimme technologie op een transparante, rechtvaardige en controleerbare wijze te implementeren en daarmee het vertrouwen in een digitale overheid te versterken.
Responsible AI in de praktijk
SIDN fonds ondersteunt dit project na een oproep om voorstellen in te dienen die zich richten op ‘Responsible AI in de praktijk'. We waren voor deze themacall op zoek naar vernieuwende onderzoeksprojecten die praktijkoplossingen bieden voor responsible AI.
Samen met Topsector ICT selecteerden we in totaal tien projecten.
