Spiegazioni controfattuali globali: analisi comparativa di approcci tradizionali e generativi

Modelli predittivi di Machine Learning (ML) vengono sempre più utilizzati all’interno dei processi decisionali in diversi ambiti come l'approvazione di prestiti, la previsione del reddito o la previsione sulla recidiva dei criminali. Diventa quindi un aspetto fondamentale sviluppare metodi ed algoritmi in grado di spiegare come il sistema sia arrivato alla sua conclusione ed eventualmente suggerire azioni in grado di capovolgere questa decisione allo scopo di ottenere un risultato favorevole, ma anche analizzare ed interpretare il modello predittivo per garantire che le soluzioni offerte non siano discriminatorie prima che questo venga implementato nel mondo reale. Le spiegazioni controfattuali sono parte del settore di ricerca noto come eXplainable Artificial Intelligence (XAI) ed individuano le minime modifiche necessarie da applicare ad un input per ottenere un determinato output, rispondono quindi alla domanda: “cosa avrebbe dovuto essere diverso affinché si verificasse un certo risultato?” e possono essere un importante elemento di supporto al processo decisionale. L’obiettivo di questo lavoro è sperimentare con diversi metodi esistenti per la generazione di spiegazioni controfattuali locali e globali, vengono selezionate e definite metriche quantitative per la valutazione dei controfattuali globali allo scopo di realizzare uno studio comparativo, confrontando i vari approcci globali su datasets esistenti comunemente utilizzati come benchmark in questo settore. Infine, è stata sperimentata l'integrazione dei large language models (LLMs) per la generazione di spiegazioni controfattuali locali e globali, vengono implementati due approcci globali che sono valutati utilizzando le stesse metriche quantitative definite in precedenza e quindi confrontati con i metodi globali esistenti.