Agenti AI e sicurezza: problemi per il 90% delle aziende EMEA 

Gli agenti AI stanno entrando sempre più spesso nei processi aziendali, con la possibilità di svolgere attività e prendere iniziative senza richiedere ogni volta l’intervento di una persona. Ma più aumenta la loro autonomia, più diventa difficile controllare quello che fanno, a quali informazioni accedono e quali conseguenze possono avere le loro azioni. Soprattutto quando vengono collegati a sistemi e applicazioni che gestiscono attività importanti per il funzionamento dell’azienda. I problemi di sicurezza legati a questa evoluzione sono già piuttosto diffusi. Secondo lo studio Deployed but ungoverned: the state of agentic security, realizzato da ServiceNow in collaborazione con Phronesis Partners, il 90% delle organizzazioni dell’area EMEA ha registrato almeno un incidente di sicurezza legato all’AI agentica negli ultimi dodici mesi. E soltanto il 36% è riuscito a contenerlo in meno di 24 ore.

La ricerca ha coinvolto oltre 3.700 responsabili senior della sicurezza e della tecnologia in 20 Paesi, di cui 1.265 nell’area EMEA, e mostra come le aziende stiano adottando gli agenti AI più rapidamente di quanto riescano a controllarli. L’adozione dell’AI agentica ha già raggiunto dimensioni importanti. Nell’area EMEA, il 50% delle organizzazioni intervistate utilizza tra 100 e 999 agenti AI, mentre un altro 34% ne ha già almeno 1.000 in attività.

Con numeri di questo tipo, sapere quanti agenti siano effettivamente operativi, quali compiti svolgano e a quali sistemi possano accedere diventa sempre più complicato. E infatti soltanto il 58% dei team di sicurezza dichiara di avere un inventario completo e aggiornato degli agenti in produzione, insieme a procedure per seguirne le modifiche.

Il 24% ha addirittura scoperto agenti già operativi che non erano mai stati registrati o dei quali non si conosceva l’esistenza. Una situazione che richiama il fenomeno della shadow IT, ma applicato all’intelligenza artificiale, con sistemi che possono agire e accedere alle informazioni aziendali senza essere sottoposti ai controlli previsti.

Anche dove esiste una mappatura degli accessi, la visibilità sulle attività effettive rimane limitata. Il 75% delle organizzazioni EMEA dichiara infatti di sapere a quali sistemi e risorse possono accedere i propri agenti, ma solo il 23% riesce a monitorare in tempo reale oltre il 90% di quelli utilizzati.

Protezione tardiva

Un altro problema riguarda il momento in cui vengono introdotte le misure di protezione. Nel 56% delle organizzazioni EMEA, la governance della sicurezza viene affrontata soltanto dopo che gli agenti AI sono stati progettati. Questo può rendere più difficile intervenire successivamente sui permessi, sui controlli e sulle modalità con cui vengono gestite le attività automatizzate. A livello globale, appena il 13% delle aziende soddisfa i criteri individuati dalla ricerca in cinque aree della sicurezza dell’AI agentica: controllo della superficie di attacco, attribuzione delle responsabilità, sicurezza integrata nella progettazione, visibilità e capacità di affrontare gli audit.

Il problema diventa ancora più evidente quando un agente si comporta in modo anomalo. Il 67% dei team di sicurezza dell’area EMEA non ha infatti strumenti capaci di intervenire automaticamente per bloccarne o correggerne le attività. Bisogna perciò aspettare l’intervento di una persona, mentre l’agente può continuare a operare alla velocità dei sistemi informatici. È anche per questo che il tempo necessario a contenere un incidente rimane alto, con quasi due terzi delle aziende che non riescono a risolvere la situazione entro le prime 24 ore.

Sicurezza nativa negli agenti AI

Per affrontare queste difficoltà, ServiceNow propone un approccio nel quale le regole di sicurezza vengono definite già durante lo sviluppo e l’implementazione degli agenti, anziché essere aggiunte quando questi sono operativi. La società ha sviluppato a questo scopo Autonomous Security, una soluzione che combina automazione dei controlli, monitoraggio e gestione del rischio. L’approccio, che ServiceNow definisce Shift Zero, prevede di individuare e contenere le possibili esposizioni prima che possano trasformarsi in incidenti.

Tra le funzionalità previste ci sono i cosiddetti “kill switch”, meccanismi che permettono di interrompere l’attività di un agente quando necessario, e AI Passport, pensato per associare agli agenti informazioni sulla loro identità, sulle autorizzazioni e sulle responsabilità. L’idea è consentire ai team di sicurezza di sapere quali agenti sono attivi, cosa possono fare e come stanno operando, intervenendo più rapidamente quando vengono rilevati comportamenti anomali. Un controllo che diventa particolarmente importante negli ambienti in cui gli agenti AI interagiscono con applicazioni aziendali, dati riservati e processi operativi senza una supervisione umana continua.