New York chiede conto alle aziende AI: il test sulla sicurezza arriva in Consiglio

Lunedì 5 ottobre i rappresentanti di OpenAI, Anthropic, Google e Meta hanno risposto alle domande del Consiglio comunale di New York sui rischi dell’intelligenza artificiale. Nel resoconto dell’Associated Press, la presidente Julie Menin ha chiesto come quantificare gli scenari catastrofici; la rappresentante di OpenAI ha detto di non avere una percentuale e ha sostenuto che nessuno dei livelli ipotizzati sarebbe accettabile. Menin ha criticato la risposta come insufficiente.

L’udienza rende visibile una questione concreta per le istituzioni: quali prove chiedere alle aziende prima di acquistare, distribuire o regolare sistemi AI. Il Consiglio ha esaminato proposte su verifiche indipendenti, incidenti, protezioni per chi segnala problemi e responsabilità per danni. Sono proposte in discussione, non norme già approvate, e si applicherebbero alla città di New York.

Che cosa è successo

Secondo AP, all’incontro hanno partecipato funzionari delle quattro aziende insieme a ex dipendenti e specialisti che chiedono maggiori garanzie. Le imprese hanno descritto i benefici e i presidi di sicurezza su cui lavorano; gli ex lavoratori hanno sollevato dubbi sul ritmo dello sviluppo e sulla capacità di mantenere il controllo. Queste sono posizioni espresse durante un confronto pubblico, non una verifica tecnica indipendente dei sistemi.

Il fascicolo del Consiglio e la testimonianza preliminare pubblicata da BetaNYC indicano che la seduta del Committee of the Whole riguardava dieci proposte e misure di supervisione. Tra i temi c’erano la validazione da parte di terzi, la possibilità di interrompere un modello, la comunicazione degli incidenti nei contratti pubblici e tutele per chi segnala rischi. Le proposte hanno status diversi e devono seguire l’iter legislativo locale.

Il momento più netto del confronto, riportato dall’AP, è stato lo scarto tra la domanda politica di una misura del rischio e la risposta dell’azienda, che ha rifiutato di indicare una percentuale. Quel passaggio non dimostra da solo che un prodotto sia insicuro; mostra però quanto sia difficile tradurre in soglie verificabili parole come “sicuro”, “controllabile” o “rischio accettabile”.

La testimonianza di BetaNYC, un’organizzazione civica che ha partecipato alla seduta, mette inoltre al centro le capacità delle amministrazioni: inventario degli strumenti usati, dati pubblici aggiornati, competenze interne e accesso a verifiche indipendenti. Il documento è indicato come preliminare e va letto come posizione del gruppo, non come conclusione ufficiale del Consiglio.

Il punto che rischia di passare inosservato

Il punto meno spettacolare è il passaggio dall’audizione alle regole scritte. Una domanda difficile ai dirigenti non cambia da sola il comportamento di un fornitore; una legge può farlo solo se definisce perimetro, responsabilità, controlli e risorse per applicarla. Senza questi elementi, anche un requisito di verifica esterna può diventare una casella formale o un costo senza effetti misurabili.

Le proposte di New York non vanno scambiate per uno standard nazionale o europeo. La città sta valutando strumenti locali in un dibattito che riguarda anche altre giurisdizioni; per le organizzazioni italiane il valore immediato è capire quali domande di governance potrebbero diventare comuni nei capitolati e nei rapporti con i fornitori.

La responsabilità pubblica comincia quando le promesse di sicurezza diventano criteri controllabili e verificabili.

Che cosa cambia per imprese e professionisti

Per un’impresa italiana che acquista sistemi AI, l’udienza suggerisce domande pratiche da inserire già oggi nelle valutazioni: quali test vengono eseguiti, chi li verifica, come si segnala un incidente, chi può sospendere un sistema e quali dati riceve il cliente. La risposta dovrebbe comparire in documentazione e contratti, non restare in una presentazione commerciale.

Per le amministrazioni pubbliche e i fornitori che partecipano a gare, l’esperienza di New York richiama la necessità di tenere un inventario, assegnare responsabilità e conservare evidenze di test. Anche quando una proposta straniera non si applica in Italia, il modo in cui traduce il rischio in controlli può anticipare richieste di trasparenza nei servizi pubblici e nei contratti.

Per i professionisti che lavorano su sicurezza, compliance e procurement, il confronto mostra che non basta chiedere un numero unico per descrivere il rischio. Servono scenari, ipotesi, test ripetibili e limiti noti. Un’azienda dovrebbe inoltre distinguere la stima del fornitore dai risultati verificati da laboratori o auditor indipendenti.

Che cosa osservare adesso

Il prossimo segnale sarà l’iter delle singole proposte: quali testi saranno formalmente introdotti, modificati, approvati o respinti e quali agenzie dovranno applicarli. Il Consiglio non ha trasformato l’udienza in un divieto generale e al momento non esiste un obbligo nuovo per le imprese italiane.

Per leggere correttamente gli aggiornamenti, conviene separare le dichiarazioni dei dirigenti, le testimonianze degli ex dipendenti e le decisioni legislative. La pubblicazione di criteri, relazioni di audit e procedure per gli incidenti dirà più di una risposta isolata al microfono.

Per approfondire

Per il contesto ANPAI: Come preparare controlli e responsabilità per l’AI

Le fonti

New York City Council, agenda del Committee of the Whole, 5 ottobre 2026 · Associated Press, 5 ottobre 2026 · BetaNYC, testimonianza preliminare, 5 ottobre 2026

Questa analisi della redazione ANPAI aiuta a leggere fatti e conseguenze operative. Non sostituisce una valutazione tecnica o legale riferita a un caso specifico.