Jaarthema 2018: Responsible AI

Responsible AI moet wegblijven van de techno-utopie

Interview met Merel Koning / Good AI for GoodResponsible AI / 3 juli 2018

In het kader van ons jaarthema zijn we op zoek naar projecten op het gebied van Responsible AI. Wat is de rol van AI in ons leven en welke invloed hebben we hier op? Wat betekent AI voor de verhouding tussen mens en technologie? Projecten die hierop inspelen nodigen we van harte uit een aanvraag in te dienen (deadline 17 september 2018, 13.00 uur)!

Good AI for Good is een van de ondersteunde projecten uit call 1 van 2018. Het is een project van Merel Koning, Jochem van Schip en Jurre van Bergen. Zij hebben allen een andere achtergrond, maar een gezamenlijke passie voor kunst, technologie en mensenrechten. Merel en Jochem maakten in 2016 het CODE/COAT project over offline en online anonimiteit voor klokkenluiders. Ze wonnen hiermee onder meer de Manifestations Young Talent Award op de Dutch Design Week en de Thingscon Talent Award.

Projectleider Merel Koning is academisch onderzoeker en adviseur op het gebied van gegevensbescherming, mensenrechtenwetgeving en technologie. Ze heeft een grondige kennis van zeer complexe technologische en juridische concepten en kan dit vertalen naar toegankelijke taal voor een breed publiek. Merel heeft een grote interesse in het opbouwen van interdisciplinaire allianties die gegevensbescherming en mensenrechten bevorderen. We stelden haar een aantal vragen over het project.

Wat gaan jullie doen met Good AI for Good?

We maken een ethisch startmanifest vóór artificial intelligence dóór artificial intelligence. Vervolgens gaan we op een slimme manier dit manifest distribueren door het in allerlei databanken te smokkelen, in de hoop dat de algoritmen van de toekomst de ethische boodschap uit het manifest oppikken en toepassen. Tijdens het creatieproces van het manifest zullen we tegen allerlei vragen aan lopen. Bijvoorbeeld: wat moet er in het manifest komen te staan? Maar ook de huidige stand van AI techniek zal aan bod komen. Deze vragen, en de oplossingen die we hiervoor aandragen, maken we inzichtelijk voor het grote publiek. Hiermee hopen we mensen voor te lichten over kunstmatige intelligentie en hopen we aan te zetten tot nadenken over de rol van AI in ons leven en de invloed die we hier wel of niet op hebben.

Een voorbeeld van zo’n vraag is: wat is nou eigenlijk Responsible AI? Hier zijn al decennia lang discussies over. Deze discussies hebben inspirerende teksten opgeleverd maar geen consensus onder besluitvormers, ethici en AI engineers. Het enige punt waar men het over eens is, is dat AI niet enkel en alleen voor winstmaximalisatie mag worden ingezet. Good AI for Good heeft een pragmatische aanpak waarin we die consensus als startpunt nemen en de boodschap van ‘geen winstmaximalisatie’ in het manifest opnemen en breed communiceren naar de algoritmen van de toekomst. Vervolgens komt de vraag: wat betekent ‘geen winstmaximalisatie’? Deze vraag wordt beantwoord door AI zelf. We voeden een bibliotheek aan antikapitalistische literatuur aan een neuraal netwerk en de uitkomst daarvan bepaalt de inhoud van het manifest. Tijdens dit proces zullen wij als kunstenaars geconfronteerd worden met de speelruimte die een AI engineer normaal gezien heeft, en de machtspositie die dat geeft in de netwerkmaatschappij. We stellen kritische vragen bij het ethische kader van de huidige AI engineers, omdat zij geen antikapitalisten zijn maar juist medewerkers van op winst gefocuste grote, vaak beursgenoteerde, bedrijven.

De aanwezigheid van deze tegengestelde belangen is voor de gemiddelde burger onzichtbaar. Door de macht van de AI engineer inzichtelijk te maken, willen we bewustwording creëren onder het publiek.

Het laatste deel van het project gaat over de verspreiding van het manifest. Hierin bundelen we de hackerideologie die bij alle deelnemers van het project aanwezig is. Good AI voor Good codeert een browser plug-in die gebruikt maakt van de commerciële tracking infrastructuur. Tijdens het online browsen wordt een internetgebruiker door honderden adverteerders en databrokers gevolgd, geanalyseerd en geprofiled. Deze bedrijven maken veel gebruik van AI. Onze plug-in blokkeert dit volgen en draait de rollen om. De plug-in stuurt naar alle databrokers en adverteerders automatisch het manifest. Op deze manier worden internetgebruikers niet meer beïnvloed, maar beïnvloeden internetgebruikers via de infrastructuur de adverteerders en data brokers. Wij hopen dat het manifest door AI wordt geanalyseerd en dat de ethische boodschap wordt opgepikt door het algoritme. Ook hier kleven allerlei vragen aan: In hoeverre is het mogelijk om informatie die de internetgebruiker zelf wil verspreiden in de databanken te krijgen? En waarom is tracking en profiling eenrichtingsverkeer waarbij de gewone mens tot dataleverancier is bestemd?

Wat is jouw motivatie geweest om dit project in te dienen bij SIDN fonds?

SIDN fonds heeft cutting edge jaarthema’s en een interdisciplinaire visie, daar sluit dit onderzoek volledig op aan omdat we met design, onderzoek en coding werken in 1 project. Daarnaast geeft SIDN fonds ruimte om met een thema aan de slag te gaan en vertelt je niet met welke discipline je dat moet oplossen. SIDN fonds geeft daarmee artistieke en wetenschappelijke vrijheid.

Welke bijdrage hoop je dat jouw project levert aan de discussie over Responsible AI?

Met Good AI for Good stellen we kritische vragen over het ethisch kader van AI. Deze vragen delen we met een breed publiek. Daarnaast proberen we zoveel mogelijk mensen te betrekken bij ons onderzoek en proces. We hopen hiermee een bijdrage te leveren aan het maatschappelijk debat over de noodzaak van een beter gedefinieerd ethisch kader voor het inzetten van AI. Tevens willen we de invloed die burgers kunnen hebben op de ontwikkeling van AI inzichtelijk maken en een daadwerkelijke tool bieden om deze invloed uit te oefenen.

Welke vragen of welke vraagstukken hoop je dat andere projecten nog adresseren?

Ik hoop dat andere projecten wegblijven van techno-utopie waarin AI maatschappelijke problemen ‘wel even zal oplossen’. Het ontbreken van een ethisch kader voor AI zal tot vele grote sociale problemen leiden en ik hoop dat projecten hierop inspelen. Ik hoop dat de invloed van de AI engineer verder wordt geadresseerd. Daarbij hoop ik dat andere projecten AI als een menselijk product zien, en blijven bevragen wat de doelen zijn van degenen die deze algoritmen hebben gecreëerd.