Verantwoorde AI in de bibliotheek (VAIB)

Generatieve AI verandert radicaal hoe mensen toegang krijgen tot informatie. Bibliotheken staan voor de uitdaging om hun collecties toegankelijk te maken voor een nieuwe generatie gebruikers die gewend zijn aan intuïtieve, AI-gestuurde interfaces. Dit project bouwt voort op Boekbot – een AI-assistent waarmee bibliotheekgebruikers in natuurlijke taal een gesprek kunnen voeren over boeken en een passend boek aangeraden kunnen krijgen.

Drie kernproblemen

Met Boekbot hebben de Brainport-bibliotheken al veel praktijkervaring met AI opgedaan. Deze ervaring leert ons dat AI-toepassingen alleen effectief en verantwoord zijn als ze transparant, begrijpelijk en eerlijk zijn voor eindgebruikers. Het huidige systeem kent drie kernproblemen:

1. Gebruikers krijgen geen inzicht in hoe de AI tot boekaanbevelingen en antwoorden komt, waardoor ze niet kunnen beoordelen of deze betrouwbaar en eerlijk zijn.

2. Er is behoefte aan concrete richtlijnen en ontwerpprincipes voor het ethisch verantwoord toepassen van AI in de bibliotheeksector.

3. AI heeft een hoog black-box gehalte wat een betrouwbare, begrijpelijke en transparante informatievoorziening in de weg staat.

Transparantie, eerlijkheid en gebruikersinzicht

Dit project streeft naar uitlegbare en verantwoorde AI in bibliotheken dat uitgaat van ontwerpprincipes als transparantie, eerlijkheid en gebruikersinzicht. We ontwikkelen methoden om AI-systemen inzichtelijk te maken voor eindgebruikers en vertalen dit naar concrete, praktische richtlijnen voor implementatie van AI in de bibliotheeksector. Dit resulteert in een nieuwe aanpak voor uitlegbare en verantwoorde AI zonder filterbubbels, dat aansluit bij veranderend digitaal gedrag onder jongere generaties die verwachten via conversaties in natuurlijke taal toegang te krijgen tot informatie. Het project draagt bij aan de transformatie van bibliotheken van traditionele collectiebeheerders naar neutrale, betrouwbare gidsen in een complexe informatiewereld.