Valutazione dei rischi degli agenti di intelligenza artificiale

Quando serve una valutazione indipendente

Il confronto può essere utile prima dell’introduzione di un agente, quando se ne ampliano le autorizzazioni o quando una funzione aziendale deve riesaminare un utilizzo già avviato. I destinatari sono direzioni, responsabili del rischio, sicurezza e governance AI, oltre agli advisor che debbano comprendere quali responsabilità e passaggi decisionali siano effettivamente descritti nella documentazione.

Il perimetro riguarda le azioni che l’agente può eseguire attraverso strumenti e autorizzazioni. Le frodi che manipolano una persona mediante email, impersonazione o deepfake richiedono un esame dedicato dei passaggi umani di verifica e approvazione, che può essere definito in un incarico distinto.

Ricostruire chi può autorizzare che cosa

La valutazione documentale e di scenario prende in esame finalità, autorizzazioni, strumenti accessibili, dipendenze esterne e passaggi di approvazione. In questo modo, l’affermazione secondo cui un agente sarebbe sottoposto a supervisione viene ricondotta a domande verificabili: quali azioni richiedano un consenso, quali informazioni siano disponibili a chi approva e come venga gestita una richiesta che oltrepassa il mandato.

Le lacune rimangono esplicite, poiché l’assenza di un controllo nei materiali esaminati non dimostra automaticamente che quel controllo non esista nel sistema. Eventuali verifiche tecniche vengono definite separatamente.

Mappa delle deleghe e priorità di controllo

Il committente riceve una mappa delle deleghe che collega autorizzazioni, dipendenze, approvazioni e responsabilità; gli scenari di rischio esaminano errori, manipolazione delle informazioni e azioni non coerenti con il mandato. Un memo finale individua limiti operativi da chiarire, registrazioni necessarie, criteri di arresto ed escalation, distinguendo ciò che emerge dai documenti da ciò che richiede una prova sul sistema.

Uno scenario illustrativo di delega eccessiva

Si consideri un assistente incaricato di preparare una risposta a un fornitore che disponga anche della facoltà di inviarla. L’esame riguarda il confine fra proposta e azione, il ruolo dell’approvazione umana e le informazioni conservate per ricostruire l’invio, qualora un contenuto esterno abbia alterato il compito. Lo scenario serve a formulare verifiche pertinenti, senza presumere che la vulnerabilità sia già presente.

Definire il perimetro dell’incarico

Nel primo contatto indica il processo interessato, l’utilizzo previsto o attuale dell’agente e la decisione da prendere, senza inviare credenziali, dati personali o documenti riservati. La proposta stabilisce quali materiali saranno esaminati, chi utilizzerà la valutazione e quali approfondimenti potranno essere richiesti alle funzioni tecniche.