Per molto tempo la sicurezza informatica ha avuto un perimetro relativamente riconoscibile. Applicazioni, infrastrutture, database, identità, endpoint, reti: la complessità poteva essere elevatissima, ma ciò che doveva essere protetto aveva comunque confini sufficientemente definiti da consentire alle organizzazioni di costruire controlli, responsabilità e procedure attorno ad asset identificabili.

L’intelligenza artificiale sta rendendo quel perimetro molto meno evidente.

Non perché cancelli improvvisamente i principi della cybersecurity tradizionale, ma perché introduce una nuova relazione tra persone, informazioni e sistemi. Un dipendente che inserisce una richiesta in un assistente AI non sta semplicemente utilizzando un’altra applicazione aziendale: può trasferire dati, documenti, istruzioni, contesto operativo e conoscenza interna verso un ambiente nel quale le tradizionali categorie di “input” e “output” diventano insufficienti per descrivere ciò che realmente sta accadendo.

Il prompt, in questa prospettiva, non è più soltanto un comando. Può diventare un contenitore di informazioni aziendali. Il modello non è semplicemente software. È una componente capace di elaborare conoscenza e influenzare decisioni. Il dato, infine, non rappresenta più soltanto qualcosa da archiviare e proteggere, ma la materia prima attraverso cui i sistemi AI vengono addestrati, contestualizzati e resi operativi.

È qui che cambia il problema della sicurezza.

Il prompt è diventato una nuova superficie di esposizione

La diffusione degli strumenti di intelligenza artificiale generativa ha portato nelle organizzazioni un’interfaccia estremamente semplice: una finestra nella quale scrivere una domanda, caricare un documento, chiedere un’analisi o affidare la produzione di un contenuto.

Proprio questa semplicità rappresenta uno degli elementi più delicati.

Quando l’interazione con sistemi complessi diventa naturale quanto scrivere un messaggio, tende a diminuire la percezione del rischio associato alle informazioni condivise. Contratti, codice sorgente, report finanziari, documentazione tecnica, dati relativi ai clienti, procedure interne o elementi di proprietà intellettuale possono entrare nei prompt senza che l’utente percepisca necessariamente quell’azione come un trasferimento di dati verso un sistema esterno.

La questione, quindi, non può essere ridotta alla raccomandazione di “non inserire dati sensibili nell’AI”. Una strategia aziendale costruita esclusivamente sulla prudenza individuale è inevitabilmente fragile.

Occorre comprendere quali strumenti vengono utilizzati, con quali configurazioni, attraverso quali account, quali informazioni possono essere trattate, dove vengono elaborate e conservate, quali garanzie contrattuali esistono e quali controlli impediscono che determinati contenuti superino il perimetro autorizzato.

In altre parole, il prompt deve entrare nella governance della sicurezza esattamente come sono entrati negli anni email, cloud, dispositivi mobili e servizi SaaS.

Proteggere il dato non significa più soltanto controllarne l’accesso

L’intelligenza artificiale modifica anche il rapporto tra sicurezza e qualità del dato.

Un’organizzazione può avere sistemi formalmente protetti e, allo stesso tempo, utilizzare modelli alimentati da informazioni incomplete, obsolete, duplicate, non autorizzate o provenienti da fonti delle quali non è stata adeguatamente verificata l’affidabilità.

In questo scenario la sicurezza non riguarda esclusivamente la confidenzialità. Riguarda anche integrità, provenienza e controllo. La domanda strategica diventa quindi più ampia: non soltanto “chi può accedere a questo dato?”, ma “quale sistema può utilizzarlo, per quale finalità, all’interno di quale processo e con quali conseguenze?”.

È una differenza sostanziale.

Quando un dato entra in un processo AI può contribuire alla generazione di una risposta, essere utilizzato come contesto attraverso sistemi di retrieval, alimentare automazioni oppure condizionare direttamente un processo decisionale. La sua qualità e la sua affidabilità diventano quindi parte della postura di sicurezza dell’organizzazione.

Un’informazione errata all’interno di un archivio tradizionale rappresenta un problema di data quality. La stessa informazione, utilizzata sistematicamente da un agente AI che interviene su centinaia di processi, può trasformarsi in un rischio operativo.

Il modello entra nella supply chain digitale

Esiste poi un secondo livello, spesso meno visibile: quello dei modelli. Le imprese difficilmente costruiranno ogni componente AI internamente. Utilizzeranno modelli commerciali, open source, servizi cloud, API, framework, modelli specializzati e soluzioni integrate all’interno di software già presenti nell’organizzazione.

L’AI diventa così una nuova componente della supply chain tecnologica.

Questo impone di estendere le logiche di valutazione del rischio. Non basta conoscere il fornitore dell’applicazione principale se al suo interno operano modelli o servizi AI forniti da soggetti differenti. Diventa necessario comprendere quali componenti intervengono realmente nel trattamento delle informazioni, come vengono aggiornate, quali dipendenze introducono e quali controlli esistono lungo l’intera catena.

Il modello, inoltre, possiede caratteristiche che rendono insufficiente una lettura puramente infrastrutturale della sicurezza. Può essere manipolato attraverso input progettati per alterarne il comportamento, può produrre contenuti inattesi, può essere esposto a tecniche di prompt injection e può interagire con fonti esterne o strumenti aziendali.

Quando un sistema AI passa dalla semplice generazione di testo all’esecuzione di azioni, la questione diventa ancora più rilevante.

Dagli assistenti agli agenti: quando l’AI comincia ad agire

La fase successiva dell’adozione dell’intelligenza artificiale è già visibile: sistemi capaci non soltanto di rispondere, ma di operare.

Gli agenti AI possono interrogare database, utilizzare applicazioni, accedere a documenti, generare codice, attivare workflow e, in determinati contesti, eseguire operazioni con un livello crescente di autonomia.

Questo passaggio cambia radicalmente il profilo di rischio. Un errore prodotto da un chatbot può rimanere confinato all’interno di una conversazione. Un errore prodotto da un agente collegato ai sistemi aziendali può diventare un’azione.

La sicurezza deve quindi spostarsi dal controllo dell’accesso al controllo della capacità operativa. Quali strumenti può utilizzare un agente? Quali dati può leggere? Quali operazioni può eseguire autonomamente? Quali richiedono una validazione umana? Come viene registrata ogni azione? Come è possibile interrompere o ricostruire un processo che ha prodotto un comportamento anomalo?

Sono domande che avvicinano cybersecurity, identity governance, data governance e gestione dei processi molto più di quanto accadesse in passato.

L’identità, in particolare, assume una nuova dimensione. Non dovremo più governare soltanto ciò che possono fare utenti e applicazioni, ma anche ciò che possono fare entità software autonome che operano per conto di persone, team e organizzazioni.

Il rischio invisibile della Shadow AI

Il problema diventa ancora più complesso quando l’adozione dell’AI precede la governance. È quanto sta accadendo in molte organizzazioni nelle quali dipendenti e professionisti utilizzano autonomamente strumenti generativi per tradurre documenti, sintetizzare riunioni, analizzare file, scrivere codice o accelerare attività quotidiane.

Dal punto di vista della produttività è comprensibile. Dal punto di vista della sicurezza crea una zona grigia significativa.

La Shadow AI ripropone alcuni meccanismi già osservati con lo Shadow IT, ma con una differenza importante: ciò che viene trasferito verso questi strumenti può essere conoscenza aziendale in forma estremamente concentrata.

Un singolo prompt può contenere il contesto di un progetto, una strategia commerciale, informazioni su un cliente e una richiesta di elaborazione. Non serve necessariamente trasferire un database per produrre un’esposizione significativa.

Bloccare indiscriminatamente gli strumenti può tuttavia produrre l’effetto opposto, spingendo l’utilizzo verso canali ancora meno controllabili. La sfida più matura consiste quindi nel costruire alternative autorizzate, policy comprensibili e ambienti nei quali le persone possano utilizzare l’AI senza dover scegliere tra produttività e sicurezza.

Le policy tradizionali devono diventare AI-aware

Molte organizzazioni dispongono già di policy sulla classificazione delle informazioni, gestione degli accessi, utilizzo del cloud, protezione degli endpoint, sviluppo software e rapporti con i fornitori.

Il punto non è sostituire questo patrimonio di controlli, ma verificarne l’efficacia quando entra in gioco l’intelligenza artificiale.

Una policy può vietare l’invio di determinati documenti all’esterno dell’organizzazione, ma essere sufficientemente chiara rispetto all’inserimento del loro contenuto in un prompt? Una procedura di vendor assessment considera le dipendenze AI integrate nel servizio acquistato? I sistemi di Identity and Access Management contemplano agenti e identità non umane? Le attività di logging consentono di ricostruire non soltanto chi ha effettuato un’operazione, ma quale componente AI l’ha proposta o eseguita?

È su questo terreno che si misura la maturità della sicurezza nell’era dell’AI.

Non nella produzione di una policy aggiuntiva destinata a essere letta una volta e dimenticata, ma nella capacità di integrare l’intelligenza artificiale all’interno dei processi di governance già esistenti, aggiornandone controlli, responsabilità e criteri di valutazione.

La sicurezza dell’AI è una questione organizzativa prima ancora che tecnologica

La trasformazione più significativa riguarda infine la responsabilità. Cybersecurity, IT, data management, compliance, legal, procurement e business non possono affrontare l’AI come domini indipendenti. La stessa applicazione può contemporaneamente generare un rischio informatico, trattare informazioni regolamentate, utilizzare un servizio esterno, influenzare un processo operativo e produrre conseguenze reputazionali.

La sicurezza dell’intelligenza artificiale diventa quindi un problema di architettura organizzativa.

Significa sapere quali sistemi AI sono presenti, quali dati utilizzano, chi ne è responsabile, quali processi supportano e quale livello di autonomia possiedono. Significa soprattutto evitare che l’innovazione proceda più rapidamente della capacità dell’organizzazione di comprenderla.

Il punto non è rallentare l’adozione. È renderla governabile.

Perché la prossima evoluzione della cybersecurity non sarà determinata soltanto dalla capacità di costruire barriere più sofisticate, ma dalla capacità di comprendere un perimetro che non coincide più semplicemente con reti, server e applicazioni. Dentro quel perimetro stanno entrando prompt, modelli, dati, agenti, identità artificiali e decisioni automatizzate.

E più l’intelligenza artificiale diventerà invisibile perché integrata nei processi quotidiani, più la sicurezza dovrà diventare visibile nella progettazione di quei processi.

Le tue policy di sicurezza coprono già l’utilizzo dell’intelligenza artificiale?