La California studia come fermare l’AI: cosa prevede l’ordine di Newsom

Il governatore della California Gavin Newsom ha firmato il 18 settembre l’ordine esecutivo N-9-26 sulla sicurezza dell’intelligenza artificiale. L’atto chiede raccomandazioni anche su un meccanismo di arresto di emergenza dei modelli: il cosiddetto “kill switch” è una proposta da valutare, non un dispositivo già imposto a tutte le AI.

Per le imprese italiane il valore della notizia sta nella domanda che solleva sui fornitori: se un sistema autonomo sbaglia, chi può fermarlo e come si verifica che l’arresto funzioni? L’ordine riguarda la California e non introduce, di per sé, nuovi obblighi per una PMI in Italia.

Che cosa è successo

Il testo ufficiale fissa al 16 novembre 2026 la consegna delle raccomandazioni. Tra le opzioni da esaminare figurano verificatori indipendenti nei laboratori, valutazioni esterne della documentazione di sicurezza e requisiti per interrompere i modelli di frontiera. Devono essere considerate fattibilità tecnica ed efficacia potenziale.

L’ordine interviene anche sull’attuazione di norme esistenti: prevede scadenze nel 2027 per i criteri delle organizzazioni di verifica e per gli adempimenti relativi agli auditor. La copertura indipendente di The Verge distingue questa accelerazione amministrativa dal percorso delle nuove proposte.

Il punto che rischia di passare inosservato

Leggere soltanto l’espressione “interruttore di emergenza” può creare un’impressione eccessivamente semplice. Nella valutazione di ANPAI, il requisito utile sarebbe una procedura verificabile: individuare chi decide l’arresto, quali attività vengono interrotte e come si controlla ciò che è già stato eseguito.

Il provvedimento non dimostra che un simile meccanismo sia efficace per qualsiasi architettura AI. Chiede precisamente di valutarne fattibilità ed effetti. Confondere questa richiesta con una soluzione tecnica già disponibile cancellerebbe la parte più importante del lavoro affidato agli esperti.

Un sistema AI è controllabile quando l’organizzazione sa riconoscere un errore, interrompere l’azione e ricostruire ciò che è successo: il pulsante è solo una parte.

Che cosa cambia per imprese e professionisti

Per un’impresa che sta introducendo agenti AI, il caso offre uno spunto operativo senza attendere nuove norme. In un progetto pilota conviene identificare le azioni che modificano dati, inviano comunicazioni o avviano operazioni esterne. Per ciascuna si può definire una soglia di approvazione e il responsabile dell’intervento.

La prova pratica può essere circoscritta: interrompere un’attività di test e verificare che non prosegua sui servizi collegati. Il verbale della prova dovrebbe indicare che cosa si è fermato, quali operazioni erano già concluse e come ripristinare un funzionamento ordinario. È un controllo del processo aziendale, non una certificazione del modello.

Per professionisti e responsabili degli acquisti, diventa utile chiedere documentazione sui controlli del fornitore. Un rapporto di valutazione dovrebbe specificare oggetto, versione, data, limiti e soggetto che lo ha condotto. La sola parola “audit” non consente di capire se sia stata esaminata la funzione che l’azienda intende usare.

Che cosa osservare adesso

Il prossimo passaggio concreto sarà il documento di raccomandazioni previsto per novembre. Occorrerà distinguere le misure proposte da eventuali modifiche legislative approvate e dalle successive regole applicative. Anche le scadenze amministrative del 2027 vanno lette nel rispettivo perimetro.

In Italia, intanto, la decisione utile è verificare i controlli dei progetti effettivamente in uso. Un’azienda che sa descrivere accessi, approvazioni, registri e procedure di arresto avrà informazioni migliori per discutere con i fornitori. Questa preparazione organizzativa non richiede di attribuire all’ordine californiano effetti che ancora non possiede.

Le fonti

California, ordine esecutivo N-9-26 firmato, 18 settembre 2026 · Governor of California, comunicazione ufficiale, 18 settembre 2026 · The Verge, analisi del provvedimento, 18 settembre 2026

Questa analisi della redazione ANPAI aiuta a leggere fatti e conseguenze operative. Non sostituisce una valutazione tecnica o legale riferita a un caso specifico.