“Hoe fijn zou het zijn als het internet een plek is waar iedereen zich vrij en veilig voelt? Sociale media, apps en andere online omgevingen kunnen mensen uitsluiten, maar soms juist ook kracht geven”, schrijft hoogleraar en directeur van het Rathenau Instituut Eefje Cuppen in de inleiding van het rapport Inclusief online: naar een ontwerp van apps en omgevingen waar mensen vrij en veilig kunnen zijn.
Een grote rol hierbij speelt het ontwerp van deze omgevingen en de keuzes die ontwikkelaars aan de achterkant maken, aldus de onderzoekers. "Denk bijvoorbeeld aan het verdienmodel, de governance en datacollectie", zegt hoofd-auteur Wouter Nieuwenhuizen.
Cuppen: "Net zoals dat het ontwerp van een fysieke omgeving, met verlichting, parkeerplaatsen voor mindervaliden en genderneutrale toiletten, bepalend is voor hoe mensen zich vrij en veilig voelen, zo doet ook het ontwerp van een online omgeving ertoe. Dan gaat het bijvoorbeeld over of je een pseudoniem kunt gebruiken, of je zelf in controle bent over wat je online ziet, en of je met een menselijke moderator kunt communiceren."
Speculatieve prototypes: ontwerpen waarin mensen wel zichzelf kunnen zijn
De onderzoekers van het Rathenau Instituut doen een aantal voorstellen voor het ontwerpen van online omgevingen waarin mensen wel zichzelf kunnen zijn, doordat ze waarden als zelf-expressie, veiligheid en autonomie als uitgangspunt hebben, waaronder:
Control over sharing geeft gebruikers controle over wie hun content ziet en waarschuwt bij onverwachte viraliteit. Het verschilt daarmee wezenlijk van huidige online omgevingen die gericht zijn op schaal en data-verzameling.
Human in the loop maakt het moderatieproces transparant en menselijk, met inzicht in beslissingen en de mogelijkheid tot gesprek met een moderator. Dit is een fundamenteel andere aanpak dan de geautomatiseerde, afstandelijke systemen van nu.
Om tot hun voorstellen te komen analyseerden de onderzoekers meer dan 130 publicaties, interviewden meer dan 20 wetenschappers en experts en voerders gesprekken met TikTok, Meta en Match Group (Tinder, Hinge). Ook interviewden ze Nederlandse lhbtiq+-ers over hun ervaringen met online haat en betrokken deze groep bij een aantal ontwerpsessies voor meer inclusieve sociale omgevingen.
Voor iedereen een fijnere plek
De onderzoekers wijzen erop dat lhbtiq+-personen weliswaar online disproportioneel te maken krijgen met online haat, maar dat iedereen baat kan hebben bij inclusieve online omgevingen.
Nieuwenhuizen: “Zelfexpressie en verbinding zijn voor iedereen belangrijk. Ook andere groepen die hier in de fysieke wereld meer obstakels bij ondervinden, hebben baat bij inclusievere online omgevingen. De randvoorwaarden veiligheid en privacy, controle en autonomie en inclusieve contentmoderatie kunnen andere manieren van ontwerpen en reguleren inspireren die het internet voor iedereen een fijnere plek maken.”
Overheden en beheerders aan zet
Voor het versterken van inclusie binnen huidige online omgevingen bieden de onderzoekers een aantal handelingsopties. "Zowel overheden als beheerders van online omgevingen zijn daarvoor aan zet", zegt Nieuwenhuizen.
Zo is betere handhaving van bestaande kaders nodig is, onder meer binnen de Europese digitaledienstenverordening (DSA). Ook kunnen beheerders van online omgevingen een rol spelen, bijvoorbeeld door concrete maatregelen te nemen op het gebied van contentmoderatie.
Politiek en maatschappelijk debat
Maar behalve verbeteringen binnen huidige online omgevingen, is ook een debat nodig over systeemverandering, aldus de onderzoekers: "Een inclusiever en pluriform internet vraagt om een politiek en maatschappelijk debat over het inrichten van publieke digitale infrastructuur", zegt Nieuwenhuizen. "Er zijn fundamentele keuzes nodig op het gebied van verdienmodellen, ontwerpprincipes en governance."
Dit is een project uit de call ‘Grip op desinformatie 2’ (2022). Focus binnen deze call lag op tools of instrumenten (die inzicht geven in en/of grip geven op desinformatie) en bewustwordingsprojecten.
