Morele Mario

De veiligheid en controleerbaarheid van artificiële intelligentie (AI) wordt steeds belangrijker. Maar hoe test je AI algoritmes op veiligheid en controleerbaarheid? Dit project ontwikkelt een benchmark op basis van een SuperMario omgeving. Een zelflerende Mario komt in verschillende levels veiligheidsproblemen tegen, aan de hand waarvan AI algoritmes langs de meetlat van veiligheid en controleerbaarheid worden gelegd. Ontwikkelaars kunnen zo testen of hun Mario niet alleen Super maar ook Moreel is. Door een omgeving te creëren waar AI algoritmen getest worden, draagt het project ook bij aan een gerichtere discussie over wat veilige en controleerbare AI algoritmen zijn. (Call 2, 2018) 

Afbeelding (bewerkt): Ammon Beckstrom / Itsa Me, Mario! / CC BY

Bewustwording & Empowerment Artificial Intelligence Pionier 2018