Consiglio di Stato su algoritmi (istruttori e decisori) e modelli predittivi

In termini generali dal diritto sovranazionale emergono tre principi, da tenere in debita considerazione nell’esame e nell’utilizzo degli strumenti informatici:

-conoscibilità;

-non esclusività della decisione algoritmica;

-non discriminazione algoritmica.

L’impiego di tali strumenti comporta in realtà una serie di scelte e di assunzioni tutt’altro che neutre: l’adozione di modelli predittivi e di criteri in base ai quali i dati sono raccolti, selezionati, sistematizzati, ordinati e messi insieme, la loro interpretazione e la conseguente formulazione di giudizi sono tutte operazioni frutto di precise scelte e di valori, consapevoli o inconsapevoli; da ciò ne consegue che tali strumenti sono chiamati ad operano una serie di scelte, le quali dipendono in gran parte dai criteri utilizzati e dai dati di  riferimento utilizzati, in merito ai quali è apparso spesso difficile ottenere la necessaria trasparenza.

Anche al fine di applicare le norme generali e tradizionali in tema di imputabilità e responsabilità, occorre garantire la riferibilità della decisione algoritmica finale all’autorità ed all’organo competente in base alla legge attributiva del potere.

Consiglio di Stato, Sezione sesta, sentenza del 4.2.2020, n. 881