Foto: Bastiaan van Musscher
Dystopische scenario’s
De Europese Unie waarschuwt dat “de hele samenleving” risico loopt door kunstmatige intelligentie. Maar wat betekent dat precies? In haar prijswinnende scriptie onderzoekt Lily Heisig hoe Brussel AI-risico’s definieert – en wie daardoor aan tafel zit of juist buiten beeld blijft. Haar les: “Als een beleidsstuk zegt dat ‘de hele samenleving’ risico loopt, moet je altijd vragen: wélk risico precies, en voor wíe?”.
Menselijke eigenschappen toegedicht aan AI
“Er worden dystopische scenario’s geschetst, maar de alledaagse, moeilijker zichtbare risico’s verdwijnen uit beeld,” stelt Heisig. “Denk aan discriminatie in algoritmen, ongelijke toegang tot technologie, de aanslag op het milieu, de schendingen van het kopierecht en de slechte arbeidsomstandigheden bij dataverwerking. Als je veiligheid uitsluitend technisch definieert, vallen de sociale gevolgen buiten de kaders.”
Heisig gelooft niet in het doembeeld van een superintelligente machine die “de wereld overneemt”. Waar ze wel bezorgd over is, is de manier waarop mensen menselijke eigenschappen toeschrijven aan systemen als ChatGPT en die gaan gebruiken als gesprekspartner of zelfs therapeut. “Dat is geen neutrale ontwikkeling: we gaan anders kijken naar wat menselijk is.”
Kwantumveilige cryptografie
De komst van kwantumcomputers kan de huidige internetbeveiliging gaan ondermijnen. Dirk Doesburg, winnaar van de tweede prijs in de KHMW Scriptieprijzen Responsible Internet, onderzocht hoe we ons daarop kunnen voorbereiden. Zijn boodschap is helder: “Omdat de overstap naar nieuwe, kwantumveilige cryptografie tijd kost, moeten we nu al nadenken over die transitie.”
Doesburg onderzocht welke cryptografie-algoritmes het best bestand zijn tegen kwantumaanvallen en hoe de technische migratie daarnaartoe het best kan worden uitgevoerd.
Verantwoord internet
Het internet is al lang niet meer alleen een instrument dat onderzoekers inzetten om informatie uit te wisselen. Het is een fundamenteel onderdeel geworden van ons leven en moet daarom op een verantwoorde manier worden ontwikkeld en ingezet. Maar wat een “verantwoordelijk internet” precies inhoudt, is minder eenvoudig vast te stellen. Een verantwoord internet is in ieder geval een internet dat veilig en voor iedereen toegankelijk is, met respect voor mensenrechten en publieke waarden. Daarnaast moet de technische infrastructuur van het internet veilig en betrouwbaar zijn.
Over de KHMW Scriptieprijs
De KHMW Scriptieprijzen Responsible Internet hebben tot doel onderzoek van (voormalige) masterstudenten dat op wetenschappelijke, innovatieve en heldere wijze aan deze thematiek bijdraagt, in het zonnetje te zetten met een eerste prijs ter waarde van €3000 en een tweede prijs ter waarde van €1000. Ze worden op voordracht van faculteiten, examencommissies en afstudeerdocenten toegekend door de Koninklijke Hollandsche Maatschappij der Wetenschappen en mogelijk gemaakt door SIDN fonds, The Sharing Group en Digitale Infrastructuur Nederland (DINL).
De prijswinnende scripties
Felicitaties aan de winnaars Lily Heisig en Dirk van Doesburg! Hun werk is een inspirerend voorbeeld van de waarde van gedegen onderzoek voor een beter internet.
Lily Heisig MA, Master European Studies on Society, Science and Technology, Maastricht University, voor haar scriptie When the Whole Society is at Risk: Analysing the Governance Discourse of General-Purpose AI models with Systemic Risk (GPAISR).
Dirk Doesburg MSc, Master Computing Science: Cyber Security, Radboud Universiteit, voor zijn scriptie Post-Quantum Cryptography for the RPKI.
