aanpassen leeromgeving waarmee communicatieprofessionals online polarisatie en desinformatie kunnen ontdekken en analyseren
De Hogeschool Utrecht, de Gemeente Utrecht, Rijksdienst voor Ondernemend Nederland, Provincie Utrecht, Politie Nederland en V&R ontwikkelen een leeromgeving voor communicatieprofessionals om online polarisatie en desinformatie beter te analyseren.
Het lectoraat Sociale Interactie in de Publieke Ruimte (SIPR) van de Hogeschool Utrecht (HU) doet onderzoek naar het publieke gesprek. Door middel van een leeromgeving – genaamd de BEP – probeert het SIPR-lectoraat de communicatieprofessional handvatten te bieden om het publiek debat beter te begrijpen.
De BEP bevat een analysetool waarmee de gebruiker berichten kan analyseren op escalerend taalgebruik. In deze analysetool zitten verschillende algoritmes die zijn getraind op datasets van online escalatie, om taalstrategieën die mogelijke bijdragen aan mobilisatie en geruchtvorming te identificeren en te categoriseren. Daarmee maakt de BEP gebruik van AI.
Deze leeromgeving inclusief analysetool is voor de onderzoekers van het lectoraat geen black box. Zij snappen de processen van annotatie, dataverwerking, visualisatie, algoritmes bouwen en trainen, en ook hoe deze processen bijdragen aan de uitkomsten van de analyses.
De BEP is dus een voorbeeld van ‘responsible AI’. Toch geven de beoogde gebruikers – omgevingsanalisten in newsrooms van publieke organisaties – aan dat zij behoefte hebben aan een meer beschouwelijke leeromgeving, en meer begrip van de invloed van de algoritmes op hun analyses. Zij hebben, met andere woorden, behoefte aan ‘explainable AI’ (XAI).
In dit project ontwikkelt de Hogeschool Utrecht een nieuwe leeromgeving waarvan de AI naast responsible ook explainable zal zijn. De onderzoekers zullen de menselijke beslissingen, achterliggende modellen, en potentiële bias van AI, inzichtelijk maken voor de gebruikers, en waarde-gedreven gebruik stimuleren.
Zij zullen dit doen door de leeromgeving niet enkel transparant maar ook ‘bespiegelend’ te maken. De gebruiker leert in de leeromgeving niet enkel over het publiek debat en hoe je escalerend taalgebruik ontdekt, maar bovendien over algoritmisch gedreven analyses en AI.
Binnen BEP (Bird’s Eye Perspective onderzoek) ontwikkelt de Hogeschool Utrecht een leeromgeving 3.0 waarin zij de mogelijkheden van conversatie-analyse en algoritmes toepassen op sociale media-berichten. De leeromgeving traint communicatieprofessionals in het opmerken van opkomende issues in het online gesprek.
SIDN fonds ondersteunt dit project na een oproep om voorstellen in te dienen die zich richten op ‘Responsible AI in de praktijk'. We waren voor deze themacall op zoek naar vernieuwende onderzoeksprojecten die praktijkoplossingen bieden voor responsible AI.
Samen met Topsector ICT selecteerden we in totaal tien projecten.