Dall’automazione alla decisione

L’intelligenza artificiale entra nei processi organizzativi selezionando informazioni, generando opzioni, classificando rischi e proponendo azioni. Anche quando la decisione finale è formalmente umana, il sistema può condizionare in modo rilevante il percorso che conduce a quella decisione.

Per questo la governance dell’AI non coincide con la sola conformità normativa: riguarda la struttura concreta del processo decisionale.

La catena della decisione

Occorre distinguere chi sceglie il sistema, chi definisce i dati e gli obiettivi, chi utilizza l’output, chi può contestarlo e chi assume la decisione finale. Se questi passaggi non sono tracciabili, la responsabilità tende a dissolversi.

Una buona governance ricostruisce la catena di attribuzione e documenta le decisioni rilevanti.

Controllo umano effettivo

Il controllo umano non può ridursi a una firma apposta sull’output della macchina. Richiede competenza, informazioni sufficienti, tempo e potere effettivo di modificare o rifiutare il risultato.

Il rischio di automation bias rende particolarmente importante progettare soglie di escalation, verifiche indipendenti e casi nei quali l’automazione deve arrestarsi.

AI nelle imprese e negli studi professionali

Per amministratori, dirigenti e professionisti, l’uso dell’AI deve essere inserito nei doveri organizzativi già esistenti: selezione dei fornitori, qualità dei dati, sicurezza, riservatezza, verifica degli output e documentazione delle scelte.

Negli studi professionali assumono rilievo ulteriore il segreto professionale, la protezione dei dati e l’impossibilità di delegare alla macchina la responsabilità del giudizio giuridico.

Governance by design

Mappare gli usi dell’AI, classificare i rischi, definire ruoli, accessi, controlli e logging significa progettare la governance prima dell’incidente. Le regole devono essere proporzionate alla capacità del sistema di incidere su persone, patrimonio e diritti.

L’AI è quindi anche una questione di governo del potere: aumenta la capacità di decidere, ma rende necessario sapere chi conserva il potere di comprendere, correggere e rispondere.