Dal chatbot all’agente

Un sistema generativo produce normalmente contenuti su richiesta. Un agente può invece perseguire un obiettivo attraverso più passaggi, scegliere strumenti, interagire con servizi esterni e compiere azioni operative.

L’autonomia è funzionale, non equivale a soggettività giuridica.

Imputazione degli atti

L’AI non diventa automaticamente una persona giuridica né un rappresentante in senso tecnico. Il problema è stabilire quando gli effetti dell’azione possano essere imputati all’utente, all’organizzazione o ad altri soggetti della catena.

Le analogie con mandato e rappresentanza sono utili, ma non eliminano la necessità di definire autorizzazioni e limiti dell’agente.

Consenso e negoziazione machine-to-machine

Se due agenti negoziano condizioni o concludono operazioni, il consenso umano può essere programmato o delegato ex ante entro parametri determinati. Diventano essenziali identità digitale, autenticazione e autorizzazioni machine-readable.

Il superamento dei limiti impostati pone un problema di allocazione del rischio tra utilizzatore, fornitore e controparte.

Errori, sicurezza e dati

Un’azione errata può derivare da istruzioni ambigue, dati difettosi, output del modello, servizi esterni, vulnerabilità o attacchi come la prompt injection. La ricostruzione causale richiede logging e tracciabilità.

Gli agenti dovrebbero inoltre operare secondo il principio del minimo privilegio, limitando accesso a dati, credenziali e strumenti.

Autonomia graduata e responsabilità

Non tutte le azioni richiedono lo stesso livello di controllo. Soglie economiche, categorie di atti, human approval e blocchi automatici possono graduare l’autonomia in funzione del rischio.

La questione giuridica fondamentale non è se la macchina possa volere come una persona, ma quando e a quali condizioni l’ordinamento possa imputare a una persona o organizzazione gli effetti delle azioni compiute da una macchina cui è stata affidata capacità di agire.