Il rapporto tra etica e innovazione può essere colto in modo particolare nel momento in cui si focalizza l’attenzione sul rapporto tra conoscenza e intermediazione tecnologica. Questo rapporto è senza dubbio complesso, ha vissuto e vive una profonda trasformazione e rappresenta una sorta di relazione tra mondo materiale e mondo immateriale. La rappresentazione della realtà attraverso il digitale determina un rapporto completamente nuovo verso la conoscenza: la può aumentare, la può accelerare, la può estendere in modo più efficace verso nuovi territori, ma nello stesso la cambia. E cambiando il rapporto con la conoscenza si introduce una ulteriore trasformazione.
Il rapporto tra tecnologia e persone deve dunque essere letto come una evoluzione del valore della conoscenza, in un cammino che è in buona misura condizionato da tante e diverse forme di intermediazione frutto dell’innovazione digitale. Per comprenderne la prospettiva è necessario mettere in diretta relazione i percorsi dell’innovazione tecnologica con quelli dell’evoluzione delle scienze umanistiche e sociali. In questo scenario torna ad essere necessario rispondere ad alcune domande fondamentali, da “Cos’è la conoscenza?” a “Che caratteristiche ha o deve avere la conoscenza scientifica rispetto agli altri tipi di conoscenza?” per arrivare a “Come si pone l’uomo di fronte a un percorso di conoscenza che è sempre più intermediato da una tecnologia che ‘rischia’ di essere essa stessa parte del contenuto?”
Uno dei punti di attenzione di “Umano Digitale – Verso un’etica dell’innovazione” edito da In Dialogo è rappresentato dall’intervista con Viola Schiaffonati, Docente di Logica e filosofia della scienza al Politecnico di Milano, Dipartimento di Elettronica, Informazione e Bioingegneria. In questo articolo vengono ripresi alcuni dei punti chiave di quel confronto, disponibile in forma integrale all’interno del libro.
Innovazione tecnologica, conoscenza e centralità della persona
La relazione dialettica che governa il mondo dell’innovazione tecnologica e quello della conoscenza necessita dunque sempre di più di essere completata e integrata dalla conoscenza umanistica e sociale. Questa rappresenta una delle principali ragioni che sta portando l’etica della tecnologia a diventare una componente essenziale delle discipline digitali.
La velocità con cui vediamo evolvere costantemente le tante forme di innovazione del digitale può creare situazioni di difficoltà e di disorientamento in chi le utilizza, ma soprattutto impone di gettare una nuova luce su domande filosofiche che vengono da lontano e che hanno bisogno di essere riprese e “aggiornate”.
La prima e più importante, nelle riflessioni di Viola Schiaffonati, riguarda proprio il senso della conoscenza e più precisamente “Cosa è adesso la conoscenza?” Ovvero come sta cambiando il concetto di conoscenza in relazione al ruolo dell’innovazione tecnologica.
Per capire le potenzialità dell’innovazione appare oggi fondamentale analizzare non solo l’etica in rapporto al ruolo delle discipline tecnologiche che favoriscono o accelerano la conoscenza, ma anche il cambiamento del senso stesso che sta vivendo la conoscenza, sollecitata da questo potenziamento e da queste forme di accelerazione. Una delle domande che sorge spontanea è se il rapporto tra queste due forme di conoscenza si possa configurare come arricchimento reciproco.
Una opportunità a cui corrisponde anche il rischio di considerare che determinati compiti siano “idealmente” da delegare alla “macchina”, con il pericolo di “perdere” questa parte importante di conoscenza. Anche per queste ragioni la formazione rappresenta una componente fondamentale e prioritaria rispetto ai temi dell’etica della tecnologia e riguarda innanzitutto i giovani che dovranno vivere in un contesto che sta cambiando velocemente e dovranno gestirlo adeguatamente. La formazione tuttavia è anche il contesto in cui certi temi si possono sperimentare con più attenzione e flessibilità di quanto non possa avvenire nel mondo del lavoro.
In concreto il rapporto tra innovazione tecnologica ed etica va dunque letto prima di tutto come un rapporto tra persone, conoscenza e strumenti di conoscenza. Il periodo in cui viviamo impone di cercare un nuovo equilibrio, tutti devono avere la chiara consapevolezza di quanto sono importanti queste dimensioni che concorrono alla creazione di una nuova cultura professionale. La dimensione umanistica, sottolinea Schiaffonati, associata a quella tecnologica consente di affrontare i problemi sotto diverse dimensioni, aiuta a meglio comprendere i problemi e sostiene lo sviluppo di ambienti popolati da competenze diverse.
Non si tratta solo di gestire un avvicinamento del mondo tecnologico a quello umanistico. Si tratta di un rapporto che “va in entrambe le direzioni”: anche gli umanisti devono far crescere la consapevolezza sull’importanza del ruolo delle conoscenze tecnologiche, sulla base della considerazione che ci sono e ci saranno sempre più scelte che arriveranno da una sintesi vera tra queste due dimensioni. Il punto di partenza di questo percorso di collaborazione tra conoscenza tecnologica e conoscenza umanistica è nel principio legato al diritto alla spiegazione o Explainable AI (XAI).
Un principio in base al quale chiunque, a prescindere dalle competenze e dalla professione, deve essere nella condizione di comprendere per quali ragioni una determinata soluzione tecnologica ha “preso una certa decisione”. Lo scopo è rendere trasparenti e chiari i meccanismi, scelti da un umano, in base ai quali la tecnologia ha adottato un certo comportamento. Il rapporto tra conoscenza e innovazione tecnologica deve infatti partire da questo presupposto che è a sua volta anche un presupposto di conoscenza.
Per quanto importante, anche questo aspetto da solo non basta. Occorre avere la chiara consapevolezza che il rapporto con la tecnologia non è mai neutrale. C’è sempre e inevitabilmente una dimensione etica e politica che viene amplificata e aumentata dall’innovazione digitale e da una sorta di meccanismo in base al quale più aumenta la capacità di conoscenza collegata all’utilizzo di innovazioni tecnologiche e più si è nella condizione di dover affrontare e risolvere nuove dimensioni che chiamano in causa aspetti di governance, di politica, di gestione delle relazioni.
Intelligenza Artificiale e robotica chiamano naturalmente in causa l’etica
Quando parliamo di robotica o di strumenti che svolgono – in autonomia – diversi compiti, siamo nella condizione di vedere in modo chiaro i risvolti legati alla dimensione etica. Sono ambiti nei quali la tecnologia richiama esplicitamente una forma di attenzione rispetto al rapporto tra intelligenza e sensibilità umana e intelligenza artificiale, sia per ragioni morfologiche (ad esempio nel caso di azioni svolte da robot antropomorfi), sia in ragione del tipo di attività che il robot è chiamato a svolgere assumendo determinate decisioni. In tutti questi casi siamo “naturalmente” sensibilizzati ad assumere un atteggiamento di attenzione e a interrogarci sul tipo di relazione che governa il nostro rapporto con quelle forme di innovazione.
Ci sono poi tanti esempi di soluzioni e applicazioni che sono intermediate da una tecnologia innovativa basata su forme di Intelligenza artificiale senza che ne abbiamo la consapevolezza. Il rapporto con la tecnologia in questi casi non dipende da noi, ma dal “governo” della normativa nella quale ci troviamo. E qui si colloca uno dei nodi più controversi: l’etica viene troppo spesso presa in considerazione solo al termine di un processo di innovazione, quando la tecnologia ha dimostrato di funzionare come tecnologia, quando ha provato di non avere falle tecniche, quando ha garantito che può essere adottata, utilizzata, sfruttata e dunque può portare i vantaggi economici sperati o pianificati. In questa fase si alza un livello di attenzione verso i temi dell’etica, con un intervento senza dubbio importante, ma che rischia però di arrivare in ritardo perché si possa effettivamente agire sulle logiche che determinano il funzionamento di una soluzione. In questa fase, qualsiasi intervento rappresenta una correzione che va a modificare e cambiare l’approccio del prodotto o del servizio.
Il vero punto del rapporto tra etica e innovazione tecnologica sta dunque anche nel fattore tempo, ovvero nella capacità di interrogarsi sul rapporto tra quella specifica tecnologia e le persone che la utilizzano nel momento in cui quella tecnologia viene progettata e disegnata. E questa modalità operativa è strettamente legata proprio alla capacità di far crescere la conoscenza su questi temi. Dunque, uno dei punti chiave nel rapporto tra etica e tecnologia risiede nella ricerca di una tecnologia che sia pensata per essere etica, ovvero che sia – nei limiti del possibile – una etica by design, che non deve essere oggetto di interventi o correzioni.
Verso una Responsabilità attiva
Nell’ambito della riflessione accademica, relativamente ai temi dell’ingegneria di prodotti e servizi e delle tecnologie necessarie, riflette Schiaffonati, si sta appunto diffondendo una prospettiva che invita a pensare ai problemi dell’impatto etico, sociale e politico nella fase stessa del concepimento di questi prodotti. Ma il vero passaggio “etico”, la vera fase che abbiamo davanti in questo percorso è legata alla capacità di progettare nuove tecnologie che non solo si pongano l’obiettivo di fornire un certo beneficio, di svolgere con un certo servizio, ma che sappiano considerare in modo nativo una propria capacità di impatto.
Occorre passare a quella che a livello accademico si chiama “Responsabilità attiva”, ovvero realizzare progetti già pensando a come amplificare i possibili effetti positivi di una tecnologia e ridurre quelli negativi.
L’etica a questo punto cessa di essere un “soggetto terzo” che sorveglia e che richiama l’attenzione sui principi fondamentali, ma diventa a tutti gli effetti una sorta di “attore” rispetto a certe scelte. Non è più un “semplice” punto di osservazione che interviene per correggere “a valle”, ma un insieme di competenze, di sensibilità, di attenzione e di rispetto di determinati valori che invita una lettura dei processi tecnologici e organizzativi che incidono direttamente sui processi di innovazione. In questo contesto chi è chiamato a svolgere un ruolo attivo in termini di progettazione rispetto al progresso tecnologico deve avere anche una consapevolezza etica o gli strumenti per dialogare con chi ha il compito di portare una consapevolezza etica in queste fasi di progettazione.
La velocità dell’innovazione e i tempi della consapevolezza
L’innovazione tecnologica e in particolare il digitale è molto rapida, vive delle progressioni sempre più intense e determina un forte impatto sulle nostre vite e sulle nostre società. I cambiamenti sono veloci e spesso ci si trova immersi in situazioni in cui si sperimentano direttamente le conseguenze che si concretizzano e le si vive direttamente, senza nessuna preparazione. In “presa diretta”. La realtà è prevalentemente questa e la vera sfida per l’etica oggi è nella capacità di porsi come valore di riferimento per evitare che questo “succedersi costante di eventi e di innovazione” possa comportare il rischio di un “determinismo tecnologico”.
Il determinismo tecnologico si basa sulla convinzione che lo sviluppo tecnologico segua una sua strada e che noi possiamo esser solo osservatori passivi. Al contrario, è necessario consolidare la convinzione e la consapevolezza che gli esseri umani sono e devono restare gli attori principali e i responsabili di certe scelte. Scelte e decisioni che possiamo anticipare solo se ne siamo effettivamente consapevoli. La sfida è quella di portare l’etica all’interno dei “meccanismi” che governano lo sviluppo tecnologico, oppure quella di “rallentare i processi” di innovazione per arricchirli di conoscenza, ponendo dei dubbi, delle domande, introducendo dei punti di osservazione che permettano una valutazione più completa di ogni innovazione in relazione alle persone e al contesto nel quale saranno collocate.
Se un robot deve disporre di capacità di interazione con l’essere umano e deve entrare a far parte della “vita lavorativa” di determinate figure professionali, è necessario valutare quali saranno le conseguenze. Non si tratta solo di una valutazione della capacità produttiva e della sicurezza delle persone, non c’è solo il punto di vista delle performance tecnologiche e delle diverse relazioni uomo-macchina, ma si tratta di riflettere in termini di impatto sul percorso professionale delle persone, sui modelli organizzativi che possono essere sviluppati, sulle nuove competenze che occorre creare perché questi modelli possano essere sperimentati e attuati.
In questo senso l’innovazione tecnologica, grazie alla capacità costante di generare dati e alla capacità di trasformarli in conoscenza in tempi sempre più ridotti e con una precisione sempre maggiore,</s
