morelemario_880

Morele Mario

De veiligheid en controleerbaarheid van artificiële intelligentie (AI) wordt steeds belangrijker. Maar hoe test je AI algoritmes op veiligheid en controleerbaarheid? Dit project ontwikkelt een benchmark op basis van een SuperMario omgeving. Een zelflerende Mario komt in verschillende levels veiligheidsproblemen tegen, aan de hand waarvan AI algoritmes langs de meetlat van veiligheid en controleerbaarheid worden gelegd. Ontwikkelaars kunnen zo testen of hun Mario niet alleen Super maar ook Moreel is. Door een omgeving te creëren waar AI algoritmen getest worden, draagt het project ook bij aan een gerichtere discussie over wat veilige en controleerbare AI algoritmen zijn. (Call 2, 2018) 

Het project is afgerond (juli 2019). Er is een opzet gemaakt voor een zelflerende Mario omgeving waar veilige AI bestudeerd kan worden. Er zijn verschillende omgevingen beschikbaar en verschillende oplossingen uit de techniek, inclusief het eigen ontwikkelde empathic Deep Q-Learning algoritme (gevalideerd in een grid world omgeving maar nog niet succesvol in de Mario omgeving). Het rapport en de software module, zijn beschikbaar voor andere onderzoekers in dit vakgebied. 

Afbeelding (bewerkt): Ammon Beckstrom / Itsa Me, Mario! / CC BY

Sorry

De versie van de browser die je gebruikt is verouderd en wordt niet ondersteund.
Upgrade je browser om de website optimaal te gebruiken.