AI sicura: CrowdStrike acquisisce Fiddler e Dreadnode 

Gli agenti AI stanno entrando sempre più spesso nei processi aziendali, con la possibilità di accedere a dati, usare applicazioni e svolgere attività in autonomia. Ma come verificare che questi agiscano correttamente, rispettino le istruzioni ricevute e non espongano invece l’azienda a nuovi rischi? Il problema riguarda sia la sicurezza dei sistemi sia il comportamento degli agenti stessi, che possono commettere errori o prendere decisioni impreviste anche senza subire un attacco IT. Rischi che CrowdStrike ha considerato nell’ampliamento delle funzionalità della propria piattaforma Falcon, annunciando, una dietro l’altra, due acquisizioni orientate proprio alla messa in sicurezza delle attività AI delegate agli agenti. La prima riguarda Fiddler AI, specializzata nell’osservabilità e nella spiegabilità degli agenti AI, mentre la seconda interessa Dreadnode, che sviluppa tecnologie per effettuare test automatizzati di sicurezza su modelli, applicazioni e agenti.

Fiddler per capire cosa fanno gli agenti AI

Proprio sul comportamento degli agenti AI si concentra Fiddler, perché anche quando dispongono di tutte le autorizzazioni necessarie per accedere ai sistemi aziendali e utilizzare strumenti approvati, non è detto che agiscano sempre come previsto. Potrebbero interpretare male un’istruzione, scegliere una strada diversa da quella attesa oppure dichiarare di aver completato un’attività senza averla realmente portata a termine. Situazioni che diventano particolarmente delicate quando gli agenti intervengono su processi aziendali e informazioni sensibili. Con l’acquisizione di Fiddler, CrowdStrike intende dare alle aziende la possibilità di ricostruire quanto gli agenti hanno fatto e capire perché abbiano preso certe decisioni. Le tecnologie di osservabilità permettono infatti di seguirne il comportamento, mentre quelle di interpretabilità aiutano a individuare le ragioni delle scelte effettuate e l’origine di eventuali anomalie.

Fiddler estenderà queste funzionalità anche alla fase precedente al rilascio in produzione, verificando l’accuratezza delle risposte, il completamento delle attività assegnate e il rispetto delle policy aziendali. Una volta entrati in funzione, gli agenti potranno essere monitorati per riconoscere comportamenti inattesi, allucinazioni o cambiamenti rispetto alle modalità operative previste. La tracciabilità riguarderà anche le chiamate agli strumenti esterni e le interazioni tra più agenti, permettendo di ricostruire le operazioni svolte e documentarle in caso di verifiche interne, audit o controlli normativi.

Un altro elemento riguarda i costi dell’AI. Fiddler permette di monitorare il consumo di token e la spesa associata agli agenti, mentre per le attività di valutazione utilizza modelli dedicati che, secondo quanto dichiarato da CrowdStrike, possono ridurre i relativi costi fino al 98%, evitando chiamate esterne ai grandi modelli linguistici.

La tecnologia supporta inoltre OpenTelemetry e framework come LangGraph, Amazon Bedrock, AWS Strands e Google ADK, così da poter essere utilizzata anche con gli strumenti di sviluppo già presenti nelle aziende. CrowdStrike prevede di commercializzare queste funzionalità all’interno della piattaforma Falcon con il nome di Falcon Observe, la cui disponibilità generale è prevista nel quarto trimestre dell’anno fiscale 2027. I dati sul comportamento degli agenti potranno inoltre essere messi in relazione con le informazioni di Falcon relative alle identità, agli ambienti cloud e alle minacce rilevate durante l’esecuzione.

Dreadnode verifica la sicurezza dell’AI 

La seconda acquisizione riguarda invece la verifica delle vulnerabilità specifiche dei sistemi di intelligenza artificiale, che i tradizionali test di sicurezza del software non sempre riescono a individuare. Tra queste c’è la possibilità di manipolare il comportamento dei modelli AI attraverso istruzioni malevole, inducendoli a ignorare le regole di sicurezza o a compiere operazioni non autorizzate. Per farlo si utilizzano tecniche specifiche, come i jailbreak, che cercano di aggirare le restrizioni dei modelli, e gli attacchi di prompt injection, con i quali un attaccante introduce istruzioni malevole per alterare il comportamento di un sistema AI. Anche gli agenti possono essere presi di mira, soprattutto quando hanno accesso a strumenti e applicazioni aziendali.

Dreadnode sviluppa tecnologie per verificare queste vulnerabilità attraverso test automatizzati che simulano le tecniche degli attaccanti. La piattaforma permette di descrivere in linguaggio naturale quello che si vuole controllare e utilizza oltre 100 strategie di attacco per mettere alla prova modelli, applicazioni, agenti AI e server MCP (Model Context Protocol), utilizzati per collegare i sistemi di intelligenza artificiale a strumenti e fonti di dati esterne.

Le verifiche possono riguardare anche i processi attraverso i quali gli agenti elaborano le informazioni e prendono decisioni, cercando punti deboli che i normali controlli sul codice potrebbero non rilevare.

I problemi individuati vengono classificati in base alla gravità e collegati ai principali riferimenti per la sicurezza dell’AI, tra cui OWASP Top 10 for LLMs, MITRE ATLAS e NIST AI Risk Management Framework. I risultati possono essere raccolti in report utilizzabili dai team di sicurezza per decidere se un sistema sia pronto per essere messo in produzione oppure abbia bisogno di ulteriori interventi. Gli operatori mantengono comunque la possibilità di rivedere le valutazioni automatiche, modificare la gravità assegnata ai problemi e documentare le ragioni delle proprie decisioni.

CrowdStrike integrerà queste funzionalità nella piattaforma Falcon come Automated AI Security Testing, con disponibilità generale prevista nel quarto trimestre dell’anno fiscale 2027.

Le integrazioni con Falcon Guardian e SafeMind

Le tecnologie delle due aziende acquisite saranno collegate anche alle altre componenti dell’offerta CrowdStrike dedicate alla sicurezza dell’intelligenza artificiale. In particolare, i risultati dei test effettuati da Dreadnode alimenteranno Falcon Guardian, fornendo indicazioni per aggiornare le policy di protezione degli agenti durante l’esecuzione. Guardian si occupa infatti di proteggerli da attacchi e utilizzi impropri, mentre Fiddler aggiungerà la possibilità di verificare se il loro comportamento rimane coerente con le attività assegnate. Le informazioni raccolte durante i test di Dreadnode saranno utilizzate anche per migliorare SafeMind, la tecnologia con cui CrowdStrike valuta la sicurezza e le abilità informatiche dei modelli AI più avanzati. Il team di Dreadnode entrerà inoltre a far parte del Cyber Superintelligence Lab di CrowdStrike, ampliando le attività di ricerca dedicate alla sicurezza dell’intelligenza artificiale.