I modelli predittivi dipendono dai criteri utilizzati. Sì all’utilizzo di algoritmi in sede decisoria pubblica, ma ad alcune condizioni.
L’adozione di modelli predittivi e di criteri in base ai quali i dati sono raccolti, selezionati, sistematizzati, ordinati e messi insieme, la loro interpretazione e la conseguente formulazione di giudizi sono tutte operazioni frutto di precise scelte e di valori, consapevoli o inconsapevoli; da ciò ne consegue che tali strumenti sono chiamati ad operano una serie di scelte, le quali dipendono in gran parte dai criteri utilizzati e dai dati di riferimento utilizzati, in merito ai quali è apparso spesso difficile ottenere la necessaria trasparenza.
Per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica, vanno rispettati – quali elementi di minima garanzia – i seguenti requisiti:
a) la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati;
b)l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo.