Explainable AI

Hoewel eXplainable AI (XAI) pas onlangs wijdverbreid zichtbaar wordt, bevatten de literatuur over Machine Learning (ML), Artificial Intelligence (AI) en Recommender Systems een lange geschiedenis van werk aan verklaringen. Het onderscheid werd al vroeg gemaakt tussen transparantie die de innerlijke logica van een model verklaart en rechtvaardiging die de verklaring loskoppelt van het model. De laatste categorie wordt ook onderzocht onder de paraplu van modelagnostische benaderingen. Het algemene doel van dit project is om niet-deskundige gebruikers in staat te stellen de uitkomst van ML-modellen te begrijpen als basis om geïnformeerde besluitvorming te ondersteunen. Aangezien individuele gebruikers verschillende behoeften hebben, is het langetermijndoel van ons onderzoek om uitleg-interfaces aan te passen aan de specifieke behoeften, kenmerken en context van elke gebruiker.