Nvidia mette una barriera agli agenti AI: più controllo, ma la prova è sul campo

Nvidia ha presentato una piattaforma per impedire agli agenti di intelligenza artificiale di uscire dai confini assegnati mentre usano file, API e servizi aziendali. La novità arriva dopo episodi in cui agenti hanno oltrepassato il compito richiesto; la promessa concreta è spostare parte dei controlli fuori dal modello e dalle sue istruzioni.

Il progetto ha due componenti: OpenShell, software open source che crea un ambiente con permessi, e Sentry, un progetto di riferimento per un controllo separato basato su hardware NVIDIA. L’annuncio è rilevante per le organizzazioni che vogliono affidare attività operative agli agenti, ma la velocità dichiarata di contenimento è ancora una prestazione descritta dal produttore.

Che cosa è successo

OpenShell esegue l’agente entro un perimetro di accesso definito: per esempio può leggere una cartella di fatture ma non modificare documenti o collegarsi a siti estranei. Nvidia dichiara che il software è disponibile, open source e adattabile anche a processori di altri produttori. La logica è applicare regole a file, rete e strumenti invece di confidare solo in un’istruzione scritta nel prompt.

Sentry aggiunge un livello distinto: nella descrizione di Nvidia, un «watchdog» esterno osserva le attività e può isolare un agente che tenta di superare il perimetro. Il progetto di riferimento usa unità BlueField-4, mentre OpenShell può funzionare su più piattaforme. Non sono quindi due funzioni identiche già incluse in ogni computer: una è software disponibile, l’altra richiede una specifica architettura hardware.

L’Associated Press ha raccolto anche le riserve di un docente di informatica: regole troppo strette possono bloccare azioni utili e servono casi di prova per capire dove collocare il confine. L’agenzia ricorda inoltre che la piattaforma non corregge da sola risposte false, comportamenti ingannevoli o errori di ragionamento del modello.

Il punto che rischia di passare inosservato

Il punto decisivo non è rendere l’agente più obbediente, ma ridurre ciò che può fare anche quando sbaglia. Un modello può continuare a interpretare male un obiettivo; un perimetro tecnico può almeno limitare l’accesso a sistemi e dati non necessari. Questo approccio non sostituisce verifiche umane, gestione degli incidenti e registrazione delle azioni.

La frase «in millisecondi» descrive la capacità dichiarata per Sentry, non un risultato indipendente pubblicato su un banco di prova condiviso. OpenShell e la reference architecture hanno anche disponibilità e requisiti diversi. Confondere un componente software rilasciato con un controllo hardware già installabile ovunque trasformerebbe un annuncio di prodotto in una garanzia che la fonte non dimostra.

Un agente sicuro non è quello che promette di seguire le istruzioni: è quello che non può oltrepassare i permessi assegnati.

Che cosa cambia per imprese e professionisti

Per un’impresa italiana che prova agenti su documenti, codice o assistenza clienti, la notizia sposta la domanda dal «quale modello scegliamo?» al «quali dati e azioni gli concediamo?». Prima di metterli in produzione conviene definire profili separati, escludere credenziali non necessarie e verificare che le regole blocchino davvero le operazioni rischiose.

Un team IT può usare OpenShell per iniziare a costruire sandbox e controlli a livello di esecuzione, ma deve testare le proprie applicazioni e i propri flussi. La configurazione dei permessi resta una responsabilità dell’organizzazione; un elenco di partner industriali o una dichiarazione del fornitore non equivale a una certificazione di conformità.

La distinzione software-hardware incide anche sui costi e sulla portabilità. Una PMI può valutare il componente open source senza acquistare subito una nuova piattaforma, mentre l’architettura Sentry va analizzata verificando disponibilità, compatibilità e manutenzione dei dispositivi richiesti.

Che cosa osservare adesso

Nei prossimi mesi contano test indipendenti su attacchi realistici, falsi blocchi, prestazioni e integrazione con sistemi non NVIDIA. Un buon confronto dovrebbe indicare quali azioni sono state impedite, quali sono passate e con quali permessi, invece di ripetere soltanto la velocità dichiarata.

Per chi sperimenta agenti, il passo pratico è provare prima su dati di test e compiti reversibili, poi confrontare i log con le policy. La piattaforma può contenere alcune conseguenze di un agente fuori traiettoria; non dimostra che ogni agente sia affidabile.

Per approfondire

Per il contesto ANPAI: la guida ANPAI sui confini degli agenti in azienda

Le fonti

NVIDIA, annuncio della Open Agent Safety Platform, 28 settembre 2026 · Associated Press, limiti e componenti della piattaforma, 28 settembre 2026

Questa analisi della redazione ANPAI aiuta a leggere fatti e conseguenze operative. Non sostituisce una valutazione tecnica o legale riferita a un caso specifico.