AI Forensics in 2025: van de onthulling van een Grok-schandaal op X tot een analyse van de huidige Europese AI-regulering

In 2025 haalde AI Forensics meermaals de internationale pers met hun onderzoek naar AI-manipulatie. Dat valt te lezen in hun jaarrapport over 2025. Een kleine greep uit hun resultaten:

• Tijdens de parlementsverkiezingen van 2025 werkte AI Forensics binnen het Hybrid Election Integrity Observatory (HEIO) mee aan onderzoek naar de integriteit van het verkiezingsproces. Binnen dit project, dat ondersteuning kreeg van SIDN fonds, deed AI Forensics technisch onderzoek en data-collectie. De resultaten uit het HEIO-onderzoek kregen uitgebreide media-aandacht.

• Tussen kerst en nieuwjaar 2025 ontvouwde zich een wereldwijd schandaal op X. AI chatbot Grok, die in het platform is geïntegreerd, werd gebruikt om tienduizenden vrouwen - waaronder minderjarige vrouwen - zonder hun toestemming virtueel te ontkleden. Op 5 januari, toen toezichthoudende organisaties wereldwijd het werk na de vakantie weer oppakten, had AI Forensics het bewijsmateriaal inmiddels al verzameld en geanalyseerd.

• In een rapport met de titel 'Governing AI search' beschreef AI Forensics waarom de huidige Europese AI-regulering faalt in het adresseren van AI-risico's.

Lees meer over deze en andere thema's in het volledige jaarrapport over 2025 van AI Forensics.

Het recht op ‘algoritmisch pluralisme’

SIDN fonds ondersteunde AI Forensics de afgelopen jaren binnen verschillende projecten.

• In 2026 ondersteunt SIDN fonds AI Forensics binnen het project "Interoperable Futures: Advancing Algorithmic Pluralism in the Netherlands and Europe". AI Forensics ontwikkelt binnen dit project interoperabele systemen die gebruikers in staat stellen te kiezen tussen verschillende aanbevelingsmodellen.

• In 2025 onderzocht AI Forensics de rol van TikTok-aanbevelingsalgoritme op het gebied van politieke polarisatie in Nederland. Hierbij werd gebruik gemaakt van innovatieve gebruikers-emulatie om algoritmische invloeden tijdens belangrijke politieke gebeurtenissen te analyseren.

• In 2024 deed AI Forensics onderzoek naar polariserende politieke content op TikTok en YouTube in Nederland en de rol van algoritmes hierin tijdens de EU-parlementsverkiezingen van 2024.