L’importanza dei dati e della capacità di elaborarli grazie a tecniche e metodi di analisi digitale sempre più sofisticati costituisce uno dei motori pulsanti dell’economia moderna. A fronte del quotidiano proliferare di informazioni è infatti essenziale per le organizzazioni dotarsi di strumenti completi e pervasivi, che consentano lo sviluppo dei propri prodotti e servizi in linea con le tendenze di mercato, con le scelte di consumo e le esigenze del proprio target.
Normativa, evoluzione tecnologica e sostenibilità
L’evoluzione normativa che ha affiancato il vertiginoso progresso tecnologico dell’ultimo ventennio ha dato vita a regolamentazioni in continua evoluzione, volte ad assicurare strumenti di tutela preventivi (mediante l’individuazione delle condizioni per l’utilizzo di tali dati), e correttivi (attraverso la costruzione di impianti sanzionatori da applicarsi in caso di mancata ottemperanza alle previsioni normative). Basti pensare ai numerosi sviluppi non solo a livello europeo ma anche mondiale in materia di trattamento di dati personali, ed alle previsioni in materia di sicurezza delle informazioni dettate da framework e best practice generali e settoriali.
È però importante porsi alcune domande: la mera adesione al dettato normativo può veramente ritenersi l’unico criterio da prendere in considerazione, a fronte di cittadini sempre più consapevoli e di previsioni legislative non sempre al passo con l’evoluzione tecnologica? Come dovrebbe agire un’organizzazione nei casi non (ancora) normati? L’innovazione quotidiana degli strumenti algoritmici fondati sull’utilizzo di intelligenza artificiale rende particolarmente urgente rispondere a tali quesiti, essendo quanto mai attuale la necessità di scegliere tra una posizione di piena libertà – che esuli da qualsiasi valutazione ulteriore rispetto all’adeguamento a prescrizioni di legge, ma con il rischio di una rapida obsolescenza – e una posizione più restrittiva, che richieda l’effettuazione di una valutazione etica nello sviluppo di soluzioni informatiche, in modo da bilanciare adeguatamente innovazione, sostenibilità e compliance. Gli effetti di tale decisione, applicati su larga scala, non impatteranno solo sul singolo operatore di mercato bensì sulla società nel suo complesso.
Cos’è l’etica digitale
La risposta a tali quesiti si può rinvenire nel concetto stesso di etica digitale, intesa quale ramo dell’etica che si focalizza sulla relazione tra la creazione, l’organizzazione, la diffusione, l’utilizzo di informazioni e gli standard e i codici etici che guidano la condotta umana nella società (Joan Reitz, “Information Ethics”, Online Dictionary for Library and Information Science). L’etica digitale può calata nel contesto aziendale come sistema di valori e principi morali che regola le interazioni tra imprese e persone lungo tutto il ciclo di vita dei dati in ottica proattiva, consentendo di mitigare i rischi del digitale.
La questione si pone a partire dal momento della progettazione degli strumenti digitali a supporto delle aziende e non può risolversi tramite mere raccomandazioni me deve essere affrontata ed integrata in processi di valutazione etica strutturati, per assicurarne una conduzione uniforme. In via preliminare è necessario che l’organizzazione definisca i principi etici che riconosce come propri – in applicazione di framework preesistenti o grazie ad una rielaborazione interna – e che preveda apposite attività formative rivolte agli sviluppatori deputati alla programmazione. Seguirà poi la definizione del processo di valutazione etica in senso stretto – da strutturarsi in linea con le specifiche esigenze legate al settore operativo dell’organizzazione – che dovrà essere applicato a partire dall’avvio di ogni nuovo progetto di sviluppo in perimetro, non solo fino alla conclusione dell’iter di programmazione, ma anche per tutto il corso del suo utilizzo.
Un processo ottimale di gestione dell’etica digitale dovrebbe infatti strutturarsi mediante un monitoraggio costante, scandito attraverso le varie fasi di progettazione, sviluppo e utilizzo, in modo tale da riuscire ad intercettare tempestivamente criticità ed opportunità di miglioramento.
Valutazione preliminare: etica digitale “by design” e formazione del personale
I professionisti che si occupano dello sviluppo degli algoritmi per la creazione di nuove soluzioni per il business devono operare in modo tale da non trasporre in essi preconcetti e pregiudizi che potrebbero comportare dei bias e delle imprecisioni nel funzionamento dei sistemi stessi.
Per rendere possibile tale elaborazione critica è indispensabile assicurare la formazione del personale dedicato, che deve essere posto nella condizione di rilevare le aree di maggior criticità sin dall’avvio della progettazione di ogni nuovo sistema, in modo tale da potervi intervenire in ottica preventiva. Al contempo, è necessario definire una procedura interna di valutazione etica, che accompagni tutto il processo di progettazione, programmazione, test e rilascio, fungendo da linea guida operativa che si integri con le procedure volte ad assicurare la compliance aziendale, in particolar modo sotto i profili della data protection e della sicurezza delle informazioni.
Filtro e definizione del contesto operativo
Disporre di modalità operative predefinite a livello aziendale consente inoltre di prevedere l’applicazione di filtri, volti ad assicurare che sia svolta un’analisi approfondita dei soli sistemi che effettivamente la meritino, in ragione delle loro caratteristiche e dei rischi posti da essi.
Nei primi step è essenziale tenere a mente le peculiarità e gli obiettivi del sistema, nonché i destinatari dello stesso, in modo tale da strutturare lo strumento in modo inclusivo, eventualmente anche mediante il coinvolgimento di rappresentanti di specifiche minoranze.
Addestramento dei sistemi e trasparenza decisionale
Altrettanto importante è il successivo addestramento dei sistemi: a fronte della capacità di computazione e rielaborazione che li caratterizza, addestrarli con dataset anche involontariamente parziali potrebbe portare a risultati viziati. Ciò condurrebbe nel concreto non solo ad un esito (probabilmente) non etico dell’operazione di analisi, ma anche (realisticamente) disallineato rispetto all’obiettivo aziendale iniziale e quindi inidoneo a raggiungerlo.
Per consentire le opportune verifiche sugli output forniti, il funzionamento del sistema deve essere quanto più trasparente possibile: se non lo fosse, sarebbe estremamente complesso risalire alle logiche che hanno condotto ad un determinato risultato e di conseguenza anche individuare eventuali scostamenti. La trasparenza decisionale si rivela inoltre un alleato prezioso anche nella gestione del rapporto con gli utilizzatori interni ed i soggetti terzi i cui dati saranno elaborati dai sistemi, sia in fase di informativa sia per rispondere ad eventuali richieste di chiarimento e/o reclami.
Fase di test, analisi dei risultati e rilascio
La fase di test mira verificare che il sistema programmato risulti funzionale non solo in senso meramente tecnico, ma anche sostanziale rispetto al risultato cui era preposto, assicurando la pronta rilevazione di eventuali risultanze anomale che possano far supporre un vizio decisionale. Superata anche la fase di test, si potrà dare avvio al rilascio del prodotto, eventualmente su un numero ridotto di utenti, al fine di ottenere dei feedback sull’utilizzo e sulle prestazioni dello strumento da parte dei diretti fruitori del sistema.
Monitoraggio degli output
Infine, il quadro di controllo si perfeziona prevedendo il costante monitoraggio dei risultati prodotti dal sistema e dei feedback ricevuti da utilizzatori e soggetti impattati, comprensivo ove opportuno di messa a disposizione di canali di segnalazione ad uso di tutti coloro che ritengono di aver rilevato dei malfunzionamenti.
Conclusioni
Se ad un primo momento strutturare un processo di valutazione etica aziendale ed optare per scelte più tutelanti per gli utenti e trasparenti nei confronti degli utilizzatori può apparire un costo importante per l’organizzazione, tale scelta potrà ripagare in termini di fiducia e fidelizzazione al brand, di ottimizzazione dei risultati, e di stabilità dell’operatività in caso di aggiornamenti normativi volti ad assicurare una maggior tutela degli interessati.
