Trasparenza e fiducia, le parole d’ordine dell’AI Spiegabile
Nonostante i benefici indiscutibili dell’Intelligenza artificiale, gli esseri umani hanno tipicamente poca visibilità e conoscenza sulle modalità in cui questi sistemi prendono qualsiasi decisione o previsione a causa del cosiddetto “effetto scatola nera” o black-box effect che riguarda molti degli algoritmi di machine learning e deep learning.
I meccanismi alla base dei sistemi AI non sono esattamente trasparenti, e man mano che gli algoritmi diventano più complicati, i timori di pregiudizi, errori e incomprensioni che si insinuano nel processo decisionale, tendono a crescere soprattutto in un settore come il manifatturiero in cui le decisioni automatizzate possono avere un impatto significativo sulla sicurezza e sulla produttività.
In questo contesto, l’Explainable AI (XAI) o AI spiegabile è oggi un campo emergente che si pone l’obiettivo di consentire agli esseri umani di comprendere appieno il processo decisionale delle macchine con cui si interfacciano, il che impatta direttamente sulla fiducia nelle potenzialità delle nuove tecnologie.
Sfruttare il valore latente dei dati in modo sicuro e affidabile
Il progetto europeo XMANAI mira a mettere il potere dell’AI spiegabile al servizio della produzione e del progresso umano, adottando un approccio “centrato sull’uomo”, affidabile, basato sulla fiducia e che rispetta i valori e i principi europei. L’idea alla base è che “our AI is only as good as we are”.
XMANAI, dimostrato in quattro casi di studio nel settore manifatturiero, aiuterà la catena del valore manifatturiero a spostarsi verso una nuova era dell’AI accoppiando modelli “glass box” (trasparenti e spiegabili) che producono spiegazioni basate sul valore, con complesse tecnologie per la gestione, condivisione e sicurezza degli asset AI (dati e modelli) per moltiplicare il valore latente dei dati in modo fidato, e app di produzione volte a risolvere problemi concreti nell’industria.
Il valore dell’AI Spiegabile per il manifatturiero
Deep Blue, riconosciuta come la principale PMI italiana per progetti di ricerca e innovazione vinti e realizzati all’interno del programma quadro Horizon, collabora con il consorzio europeo del Progetto XMANAI, coordinato da TXT E-Solutions spa, per rendere il comportamento degli algoritmi di Intelligenza artificiale più affidabile, comprensibile e rilevante, promuovendo così la fiducia e l’efficacia nell’interazione tra macchine e operatori sul campo.
Nel contesto del progetto, Deep Blue si dedica a delineare scenari futuri in cui l’AI Spiegabile gioca un ruolo cruciale, studiando le interazioni tra utenti e AI per massimizzare la trasparenza, ridurre l’errore umano e migliorare l’efficienza complessiva. Questo impegno si concretizza nella ricerca e nello sviluppo di strumenti e metodologie per progettare esperienze d’uso innovative delle AI.
Quattro i casi studio specifici del settore manifatturiero affrontati nel progetto, tutti con applicazioni su diversi ambiti del business aziendale:
1. sostegno alla manutenzione preventiva e alla risoluzione dei problemi delle macchine a controllo numerico;
2. ottimizzazione della produzione di una catena di montaggio, per valutare quali fattori incidono sul raggiungimento o meno degli obiettivi di produzione;
3. supporto alla business intelligence, per fare una previsione della domanda a supporto del piano operativo aziendale;
4. supporto agli operatori nello svolgere operazioni di misurazione complesse e migliorarne l’accuratezza.
Visualizzazione dei dati per una maggiore trasparenza e comprensione dell’AI
“In XMANAI abbiamo lavorato alla visualizzazione dei dati, testando rappresentazioni dell’esito di alcuni passaggi interni e dei risultati delle analisi dei modelli di IA. Questo ci ha permesso di supportare la comprensione del processo decisionale degli algoritmi e di evidenziare quali input hanno guidato le previsioni, fornendo così una chiara spiegazione dei risultati ottenuti e garantendo una maggiore trasparenza e comprensione. Questo risultato si inserisce all’interno dell’idea che abbiamo in Deep Blue di sviluppare strumenti e metodologie per la progettazione di esperienze d’uso innovative delle IA, in special modo nel settore manufatturiero” ha commentato Linda Napoletano, Director e responsabile dell’Area Manufacturing in Deep Blue.
Sviluppato all’interno del progetto, il tool UXAI consente di suggerire le migliori visualizzazioni di dati per fare previsioni, creare scenari, controllare la produzione o analizzare modelli e tendenze. Seguendo le indicazioni del tool, per esempio, sono state progettate e testate interfacce che permettono agli operatori di esplorare anomalie, fare previsioni e analizzare tendenze in modo intuitivo e informativo, migliorando così l’efficacia delle decisioni aziendali, come nel caso italiano di CNH Industrial, un’azienda di macchinari, tecnologie e servizi che opera nei segmenti agricoltura, movimento terra e servizi finanziari.
Ecco come l’AI Spiegabile migliora il rapporto tra macchine e operatori
Lavorando con i partner europei del progetto XMANAI, è stato implementato un caso di studio presso lo stabilimento di Modena di CNH, in collaborazione con i colleghi di R&D della sede di San Matteo. Un sito che attualmente produce 15.000 treni di trasmissione all’anno, che vengono montati su trattori assemblati in impianti CNH in tutto il mondo.
Il case study ha posto l’attenzione sui tempi di fermo macchina che interrompono la produzione, e sulla programmazione della manutenzione, un problema comune a tantissime aziende manifatturiere e che potrebbe essere risolto con l’uso della piattaforma XMANAI.
Grazie al supporto della AI Spiegabile, gli operatori sono in grado di diagnosticare gli errori della macchina e prevedere il fine vita dei componenti in modo da rifornire in tempo utile i pezzi a magazzino per effettuare tempestivamente gli interventi manutentivi e ottimizzare l’efficienza produttiva globale dello sito, riducendo tempi e costi associati ai fermi non pianificati.
