L’intelligenza artificiale sta entrando nei processi operativi, nei sistemi documentali, nel customer service, nello sviluppo software e nelle attività decisionali. Quando un assistente AI interroga dati interni, un agente esegue azioni su applicazioni aziendali o un modello viene collegato tramite API a servizi critici, cambia anche ciò che l’organizzazione deve osservare per avere una visione attendibile della propria sicurezza. La superficie di rischio non coincide più soltanto con rete, endpoint, server e applicazioni tradizionali.

La Direttiva NIS2 non introduce obblighi specifici di monitoraggio di prompt, modelli o agenti. Il suo approccio, però, richiede alle organizzazioni interessate di adottare misure tecniche, operative e organizzative adeguate e proporzionate ai rischi che riguardano i sistemi informativi e di rete utilizzati nelle attività e nei servizi. Se l’AI diventa parte di questi sistemi o dei flussi che li attraversano, ignorarne il funzionamento crea inevitabilmente una zona cieca.

Per questo il tema non è aggiungere un controllo “AI” separato, ma capire come estendere monitoraggio, logging, gestione degli accessi e risposta agli incidenti al nuovo livello applicativo introdotto dall’intelligenza artificiale.

Perché la NIS2 riguarda anche i sistemi di AI aziendale

Il punto di partenza è il principio di gestione del rischio. L’articolo 21 della NIS2 richiede ai soggetti essenziali e importanti misure adeguate e proporzionate per gestire i rischi che minacciano la sicurezza dei sistemi informativi e di rete impiegati nelle loro attività. Tra gli ambiti richiamati rientrano analisi dei rischi, gestione degli incidenti, continuità operativa, sicurezza della supply chain, sicurezza nello sviluppo e nella manutenzione, verifica dell’efficacia delle misure, sicurezza delle risorse umane, gestione degli asset e politiche di accesso.

La Direttiva, quindi, non crea una categoria autonoma chiamata “sicurezza dell’intelligenza artificiale”. La domanda corretta è un’altra: quanto il sistema AI incide sul rischio dei sistemi e dei servizi che l’organizzazione deve proteggere? Se un chatbot usa esclusivamente informazioni pubbliche e non è connesso ad applicazioni interne, il suo peso può essere limitato. Se invece accede a documenti riservati, CRM, ERP, ticketing, repository di codice o strumenti operativi, il livello di esposizione cambia radicalmente.

È qui che cybersecurity e intelligenza artificiale diventano parte dello stesso problema. Un modello esterno può essere un fornitore da valutare; un plugin può introdurre una dipendenza; un agente può disporre di privilegi su un’applicazione; una pipeline RAG può trasferire dati tra più componenti. Ogni integrazione aggiunge relazioni, identità e percorsi che devono essere compresi nella valutazione del rischio.

In pratica, quando l’AI entra nei processi aziendali, dovrebbe entrare anche nell’inventario degli asset, nelle valutazioni di rischio, nei controlli di accesso e nelle procedure di gestione degli incidenti. Questo è il collegamento corretto tra NIS2 e AI aziendale: non un nuovo adempimento nominale, ma l’estensione del perimetro di sicurezza a tecnologie che stanno diventando parte dell’operatività.

Quali nuovi rischi introduce il livello AI

L’AI non sostituisce i rischi informatici tradizionali: ne aggiunge altri e, soprattutto, crea nuove combinazioni tra utenti, dati, modelli e sistemi. Un primo esempio è l’esposizione involontaria di informazioni nei prompt. Un dipendente può inserire dati riservati in un servizio non approvato; un’applicazione può inviare al modello più contesto del necessario; un sistema di retrieval può recuperare documenti che l’utente non dovrebbe vedere.

Un secondo livello riguarda identità e privilegi. Un assistente che consulta documenti ha un profilo di rischio diverso da un agente autorizzato a modificare record, inviare comunicazioni o avviare workflow. Più aumenta la capacità di agire, più diventa importante capire chi ha richiesto l’azione, quale identità tecnica l’ha eseguita e con quali autorizzazioni.

Ci sono poi i rischi legati alle integrazioni: chiavi API esposte, connettori configurati male, dipendenze da provider esterni, repository non protetti, webhook o strumenti che ampliano la superficie di attacco. Anche il comportamento del modello può diventare rilevante quando input manipolati portano il sistema a ignorare istruzioni, utilizzare fonti non previste o tentare azioni fuori dal flusso autorizzato.

Un’area particolarmente problematica è la shadow AI: dipendenti e reparti possono adottare strumenti autonomamente, fuori dall’inventario e dalle policy IT. In questo caso l’organizzazione non perde soltanto il controllo sul dato, ma anche la capacità di sapere quali modelli vengono utilizzati, con quali account e per quali attività.

Per approfondire il problema degli strumenti di intelligenza artificiale utilizzati fuori dai processi e dai controlli ufficiali dell’azienda, leggi anche l’analisi dedicata ai rischi della Shadow AI.

Il punto non è considerare ogni utilizzo dell’AI come una minaccia, ma riconoscere che la sicurezza AI aziendale richiede visibilità su componenti che i controlli tradizionali non sempre descrivono: prompt, contesto, modello, tool richiamati, dati restituiti e azioni eseguite.

Cosa deve essere monitorato nei sistemi AI

Per capire come monitorare sistemi AI in azienda è utile partire da una domanda semplice: quali elementi servirebbero per ricostruire un uso anomalo o un incidente? La risposta dipende dall’architettura, ma alcuni livelli sono ricorrenti.

Accessi, prompt, modelli e utilizzo delle API

Il primo livello riguarda le identità. È importante sapere quale utente o servizio ha avviato una richiesta, da quale applicazione, verso quale modello e con quali privilegi. Il controllo degli accessi nei sistemi AI deve mantenere coerenti ruoli e autorizzazioni anche quando l’utente non interroga direttamente un database, ma passa attraverso un assistente conversazionale.

Anche prompt e richieste possono fornire segnali utili, ma il loro monitoraggio va progettato con attenzione: conservare indiscriminatamente tutto può creare un nuovo rischio privacy e sicurezza. Occorre definire quali eventi registrare, per quanto tempo, con quali mascheramenti e con quali accessi ai log. In molti contesti può essere sufficiente tracciare metadati, categorie di operazione, identificativi delle fonti o eventi di policy, riservando il contenuto completo ai casi realmente necessari.

Va inoltre registrato quale modello o endpoint è stato utilizzato, soprattutto quando l’azienda dispone di più provider o versioni. Cambi di modello, aumenti improvvisi delle chiamate, uso di endpoint non autorizzati o anomalie nei consumi delle API AI possono indicare errori di configurazione, abuso delle credenziali o utilizzi non previsti.

Flussi di dati, agenti AI e integrazioni con i sistemi aziendali

Il secondo livello riguarda il percorso delle informazioni. Non basta sapere che un utente ha posto una domanda: bisogna comprendere quali fonti sono state consultate, quali documenti sono entrati nel contesto, dove è stata inviata la richiesta e se il risultato è stato trasferito ad altri sistemi. I flussi di dati diventano quindi parte della mappa di sicurezza dell’applicazione AI.

Con gli agenti AI il monitoraggio deve includere anche le azioni. Un agente può leggere un calendario, creare un ticket, aggiornare un CRM o richiamare un servizio esterno. In questi casi è utile distinguere tra richiesta dell’utente, decisione del sistema, tool selezionato ed esito dell’operazione. La capacità di ricostruire questa sequenza consente di individuare più rapidamente attività inattese e di attribuire correttamente responsabilità e cause tecniche.

Non tutto deve necessariamente finire nello stesso sistema di log. La priorità è creare correlazioni: identità, asset, modello, origine dei dati, applicazione coinvolta e azione dovrebbero poter essere messi in relazione quando serve un’indagine.

Logging, tracciabilità e rilevamento delle anomalie

A livello AI, registrare eventi non significa semplicemente archiviare tutte le conversazioni. Un buon approccio di logging AI parte dagli scenari di rischio e definisce le evidenze necessarie a verificarli. Tra queste possono rientrare autenticazione dell’utente, modello utilizzato, applicazione di origine, identificativi delle fonti recuperate, policy applicate, tool invocati, esito dell’azione e possibili blocchi di sicurezza.

Queste informazioni diventano decisive quando occorre ricostruire un evento. Immaginiamo che un utente riceva tramite un assistente un documento che non dovrebbe vedere. Per capire cosa è successo non basta il log di accesso al portale: servono informazioni sul retrieval, sui permessi applicati alla fonte, sull’identità trasmessa al backend e sul percorso seguito dalla richiesta. Lo stesso vale per un agente che esegue un’operazione non prevista.

Per approfondire come rendere verificabili e ricostruibili le attività svolte attraverso i sistemi di intelligenza artificiale, leggi anche la guida dedicata alla tracciabilità delle attività AI.

La seconda funzione dei log è il rilevamento delle anomalie. Alcuni segnali possono essere tecnici: numero di richieste fuori scala, accessi da identità insolite, crescita improvvisa dei token, chiamate a modelli non approvati, errori ripetuti di autorizzazione. Altri sono più specifici dell’applicazione: incremento dei tentativi di accedere a fonti riservate, uso anomalo di tool, richieste concentrate su categorie di documenti sensibili o sequenze operative mai osservate prima.

È importante evitare soglie generiche valide per qualsiasi sistema. Il valore della tracciabilità AI deriva dal contesto: ciò che è normale per un assistente di knowledge management può essere anomalo per un agente con privilegi amministrativi. Monitoraggio e alert devono quindi essere calibrati sul rischio e sull’effettiva funzione del sistema.

Integrare il monitoraggio AI nella cybersecurity e nell’incident response

Il rischio più comune è creare un nuovo pannello dedicato all’AI che rimane isolato dai controlli già esistenti. Questo approccio produce visibilità locale ma non consente di collegare un evento AI con ciò che accade su identità, endpoint, applicazioni, database o rete. Il monitoraggio dell’ AI in ambito aziendale dovrebbe invece alimentare, per quanto possibile, i processi e gli strumenti di sicurezza già in uso.

Per integrare l’AI nell’infrastruttura aziendale in modo sicuro, è necessario fare in modo che controlli, logging, autenticazione e gestione degli accessi siano coerenti con quelli già adottati nei sistemi IT esistenti. Questo significa, ad esempio, collegare gli eventi del gateway AI o dell’applicazione con le identità aziendali, inviare gli eventi rilevanti ai sistemi di monitoraggio e mantenere un inventario delle integrazioni.

In un ambiente strutturato, SIEM e SOC possono ricevere gli eventi più significativi del livello AI e correlarli con altri indicatori. Non è necessario riversare ogni prompt nel SIEM: sarebbe spesso costoso, poco utile e rischioso. È più efficace definire eventi di sicurezza con un significato preciso, come violazioni di policy, richieste verso provider non autorizzati, escalation di privilegi, errori di accesso ripetuti o uso inatteso di strumenti ad alto impatto.

Lo stesso principio vale per l’incident response. Le procedure dovrebbero prevedere cosa fare quando l’incidente coinvolge un modello, un provider esterno, una chiave API, un agente o un flusso di retrieval. A seconda dello scenario può essere necessario revocare credenziali, disabilitare un connettore, bloccare temporaneamente un modello, conservare evidenze, verificare quali dati sono stati coinvolti e coinvolgere il fornitore.

La NIS2 attribuisce importanza alla gestione degli incidenti e alla capacità di ridurne l’impatto. Per questo la preparazione non dovrebbe iniziare dopo il primo problema: se l’AI è ormai parte di un servizio o di un processo rilevante, i responsabili della sicurezza devono sapere in anticipo quali log esistono, chi può accedervi, quali dipendenze esterne sono coinvolte e quali azioni di contenimento sono realmente disponibili.

Dal monitoraggio dell’infrastruttura al monitoraggio dell’intero ecosistema AI

L’adozione dell’intelligenza artificiale porta le aziende a superare una visione della sicurezza centrata soltanto sull’infrastruttura. Server, rete, endpoint e applicazioni restano fondamentali, ma non descrivono più da soli il comportamento di un sistema che seleziona fonti, costruisce contesto, interroga un modello e può attivare strumenti esterni.

Una governance AI aziendale efficace deve quindi stabilire quali sistemi sono autorizzati, quali dati possono utilizzare, quali provider sono ammessi, quali privilegi possono ricevere e quali evidenze devono produrre. Queste decisioni devono poi tradursi in controlli osservabili. Una policy che vieta l’uso di determinati modelli, per esempio, ha valore operativo solo se l’organizzazione dispone di strumenti o processi per individuare le eccezioni.

Questo è anche il senso pratico della gestione del rischio ICT applicata all’AI: identificare dipendenze e scenari di rischio, scegliere misure proporzionate e verificarne l’efficacia nel tempo. Non tutte le applicazioni richiederanno lo stesso livello di controllo. Un sistema che sintetizza documenti pubblici non è equivalente a un agente con accesso a dati riservati e capacità di modificare sistemi aziendali.

Per le organizzazioni interessate dalla NIS2, la domanda utile non è quindi se la Direttiva “obblighi a monitorare i prompt”. La domanda è se l’azienda riesca a governare e osservare tutti i componenti che possono incidere sulla sicurezza dei sistemi e dei servizi. Quando l’intelligenza artificiale entra in quel perimetro, anche il livello AI deve diventare visibile, tracciabile e integrato nei processi di cybersecurity.