Notizie sull’AI
Agenti AI in azienda: prima dell’autonomia, servono confini chiari
Un sistema che consulta dati e compie azioni richiede controlli diversi da un chatbot. Dal rapporto NIST del 2026, uno spunto per progettare processi più sicuri.
Permessi, controlli umani e tracciabilità: come impostare un progetto con agenti AI senza confondere capacità tecnica e autorizzazione.
Preparare una risposta non è la stessa cosa che inviarla. Suggerire un acquisto non equivale a effettuarlo. Quando un agente AI può usare applicazioni, modificare record o avviare operazioni, il progetto non riguarda più soltanto la qualità del testo: riguarda anche le conseguenze delle azioni.
Nel rapporto pubblicato il 18 maggio 2026, il NIST raccoglie i contributi ricevuti dal CAISI sulla sicurezza degli agenti AI. I partecipanti alla consultazione segnalano rischi nuovi e la necessità di adattare i principi della sicurezza informatica. È una sintesi dei contributi, non una certificazione di sicurezza né una prescrizione vincolante per le imprese italiane.
NIST — Summary Analysis of Responses: Security Considerations for AI Agents, 18 maggio 2026
Disegnare il processo prima di collegare gli strumenti
Una buona domanda iniziale è: quali azioni vogliamo delegare, e quali no? Per un assistente al servizio clienti, ad esempio, consultare lo stato di una pratica può essere consentito; modificare un contratto o promettere un rimborso può richiedere l’approvazione di una persona. Sono scelte organizzative da rendere esplicite, non dettagli da lasciare al comportamento del modello.
La separazione dovrebbe essere visibile anche nei permessi tecnici. Un agente incaricato di leggere un archivio non ha bisogno, per questo solo motivo, di poterlo cancellare. L’accesso va commisurato all’attività autorizzata e al contesto in cui viene svolta.
Quattro controlli da discutere nel gruppo di progetto
Perimetro: definire strumenti, dati e operazioni accessibili all’agente.
Approvazione: individuare le azioni con conseguenze economiche, legali o sulle persone che richiedono una conferma.
Tracciabilità: registrare le operazioni necessarie a ricostruire un errore, senza raccogliere dati inutili.
Interruzione: prevedere chi può fermare il processo e come tornare a una gestione manuale.
Provare anche ciò che non dovrebbe succedere
Un collaudo utile non si limita al caso che funziona. Può includere una richiesta ambigua, un documento con istruzioni estranee al compito, un servizio non disponibile e un tentativo di azione fuori perimetro. Per ogni prova serve un esito atteso: rifiutare, chiedere conferma, segnalare un problema o proseguire entro limiti definiti.
Queste sono proposte operative della redazione, da adattare al progetto. L’autonomia non si misura dal numero di passaggi che un agente esegue da solo. Si misura anche dalla capacità dell’organizzazione di sapere che cosa sta facendo, limitarne gli effetti e intervenire quando occorre.