DEEP: Dati, Etica, Errori, Previsioni

La crescente diffusione di modelli di Machine Learning, Deep Learning e Intelligenza Artificiale consentirà di ottenere una sempre maggiore capacità predittiva su fenomeni di qualsiasi natura (sociale, economica, medica, demografica, finanziaria, ecc.) a partire dall'analisi di dati complessi. L’utilizzo di tali tecnologie promette di avere effetti potenzialmente rivoluzionari e di migliorare sensibilmente la vita delle persone in molteplici dimensioni. Allo stesso tempo, tali benefici non sono certamente a rischio nullo. Il progressivo utilizzo di tecniche di analisi complesse alimentate da enormi masse di dati, spesso riferiti a singoli individui, e basate su modelli a scatola nera, quindi di difficile interpretabilità, pone degli importanti interrogativi, sui quali i/le professionisti/e dell’analisi dei dati devono necessariamente confrontarsi, e di cui l’intera cittadinanza deve prendere coscienza. La messa a punto di regolamenti come la GDPR nel 2018 e l’AI act nel 2024 rappresentano primi, importanti, passi per porre delle basi giuridiche che gli/le analisti/e devono rispettare. Tuttavia, il principio di legalità non sempre è sufficiente a identificare la correttezza e l’eticità di procedure e metodi: “Ethics is knowing the difference between what you have the right to do and what is right to do”. La cosiddetta ‘data ethics’ stimola a riflettere e discutere sulla costruzione e il rispetto di una dimensione etica nell’ambito dell’analisi dei dati, introducendo principi quali la correttezza, la trasparenza, il rispetto della privacy personale, la responsabilità individuale. Si tratta di temi di estrema rilevanza tenuto conto della molteplicità di implicazioni derivanti da un utilizzo automatico e ‘cieco’ di metodi e modelli. In questo senso, è necessario anche chiedersi anche come è destinata a cambiare la professione dell’analista dei dati in un’epoca in cui molte fasi di analisi potranno essere altamente automatizzate.