SAS porta l’AI in azienda… con giudizio

L’intelligenza artificiale sta entrando sempre più rapidamente nelle organizzazioni, ma la sua adozione concreta continua a scontrarsi con ostacoli che vanno ben oltre la tecnologia. Qualità dei dati, governance, trasparenza, conformità normativa e, soprattutto, fiducia rappresentano oggi i veri fattori discriminanti tra sperimentazione e utilizzo operativo. È questo il messaggio emerso dalle riflessioni di Bryan Harris, Executive Vice President e Chief Technology Officer di SAS, e di Reggie Townsend, Vice President AI Ethics, Governance and Social Impact di SAS, incontrati in occasione della tappa italiana del SAS Innovate on Tour.

Secondo Harris, uno degli equivoci più diffusi riguarda proprio l’entusiasmo che circonda gli agenti AI. “In molti casi – afferma – le aziende stanno cercando di introdurre sistemi sofisticati quando non hanno ancora completato un percorso di automazione dei processi che avrebbe dovuto essere affrontato da tempo.” Una situazione che accomuna Europa e Stati Uniti e che dimostra come il principale collo di bottiglia non sia geografico, bensì organizzativo. Prima di affidarsi a sistemi sempre più autonomi occorre costruire fondamenta solide, fatte di dati affidabili, processi ben definiti e infrastrutture adeguate.

L’AI che funziona è quella già in produzione

In un mercato ricco di annunci e promesse, Harris individua il principale elemento distintivo di SAS nella concreta esperienza maturata su applicazioni già operative. Il vendor lavora infatti da anni in contesti altamente regolamentati – dal settore bancario alle assicurazioni, fino alle scienze della vita – dove un margine di errore del 10-30%, accettabile in altri ambienti tipici degli LLM, semplicemente non può essere tollerato. Il riferimento è a processi come la concessione del credito, la prevenzione delle frodi o la gestione del rischio finanziario, nei quali le decisioni devono essere prese in pochi millisecondi e devono poter essere ripetibili, verificabili e documentabili.

Per questi scenari SAS continua a privilegiare modelli deterministici di machine learning, ritenuti più idonei rispetto agli LLM per garantire precisione e affidabilità. Harris cita, tra gli altri, il caso di HSBC, che utilizza queste tecnologie per gestire attività finanziarie di valore miliardario. L’approccio di SAS, in ogni caso, non contrappone machine learning tradizionale e modelli linguistici, ma cerca di sfruttarne le rispettive caratteristiche. Gli LLM risultano particolarmente efficaci nell’analisi del linguaggio naturale, nella classificazione dei documenti, nella ricerca di correlazioni e nell’interpretazione di grandi quantità di testo. Possono, ad esempio, aiutare a comprendere le descrizioni delle transazioni nei sistemi antiriciclaggio o ridurre il numero di falsi positivi durante le attività di controllo.

Quando però il processo richiede risultati sempre identici a fronte delle stesse condizioni, la componente decisionale continua a essere affidata ai modelli deterministici. Secondo Harris, infatti, la natura probabilistica degli LLM rende difficile immaginarne un impiego affidabile in attività che richiedono assoluta ripetibilità, mentre esistono maggiori prospettive nel campo del forecasting, dove la previsione rappresenta un’estensione naturale delle capacità dei modelli linguistici.

La qualità dei dati resta il vero fattore critico

Per Harris, le principali cause di insuccesso dei progetti AI raramente dipendono dagli algoritmi. Più frequentemente derivano dall’utilizzo improprio degli LLM, dalla scarsa qualità dei dati o dall’assenza di adeguati processi di validazione. Un agente intelligente, osserva, non corregge dati errati: al contrario, ne amplifica gli effetti. Per questo motivo diventa essenziale integrare la conoscenza di dominio delle persone all’interno dei processi decisionali e considerare l’intelligenza artificiale come uno strumento per generare nuovo valore, piuttosto che come una semplice leva di riduzione dei costi.

L’equilibrio tra prestazioni e spiegabilità, secondo Harris, dipende sempre dal contesto applicativo. Esistono situazioni, come i sistemi di frenata ABS, nelle quali è sufficiente che il modello funzioni con elevata affidabilità. In altri casi, ad esempio nelle applicazioni antifrode o antiriciclaggio, diventa invece fondamentale comprendere come una decisione sia stata presa, soprattutto quando può produrre conseguenze rilevanti per persone o organizzazioni. È in questi ambiti che la governance assume un ruolo centrale. La trasparenza non rappresenta un elemento accessorio, ma una caratteristica progettuale che deve essere incorporata fin dall’inizio nello sviluppo delle applicazioni AI.

Su questo tema si inserisce anche la riflessione di Reggie Townsend, che richiama il concetto di duty to care: la responsabilità delle organizzazioni nel prevenire possibili danni attraverso un utilizzo consapevole dell’intelligenza artificiale. Da questa prospettiva, l’AI Act europeo viene considerato un riferimento utile grazie al suo approccio basato sulla classificazione del rischio, pur nella consapevolezza che l’evoluzione tecnologica procede inevitabilmente più velocemente della regolamentazione.

L’ultima decisione deve restare umana

Per Townsend i principi della trustworthy AI rimangono validi indipendentemente dall’evoluzione tecnologica, sia essa generativa, agentica o, in futuro, quantistica. Ciò che cambia è il livello di autonomia attribuito ai sistemi. Proprio per questo motivo, con l’AI agentica diventa ancora più importante definire guardrail efficaci e mantenere una supervisione umana sulle decisioni.

“Non possiamo consegnare il nostro giudizio alle macchine”, osserva Townsend, richiamando anche le recenti riflessioni presenti nell’enciclica Magnifica Humanitas sul rischio di delegare progressivamente alle tecnologie capacità che appartengono alla responsabilità dell’uomo. Lo stesso principio vale per il mondo del lavoro. Secondo il manager, il tema dell’impatto occupazionale non riguarda la tecnologia in sé, ma le scelte del management. Le organizzazioni che utilizzano l’AI esclusivamente per ridurre i costi adottano una prospettiva di breve periodo; quelle che la impiegano per creare nuovi servizi e nuove opportunità finiscono invece, nella maggior parte dei casi, per valorizzare maggiormente le competenze delle persone.

Dalla sperimentazione all’AI operativa Accanto alle riflessioni strategiche, in occasione del SAS Innovate on Tour, SAS ha presentato una serie di novità destinate a favorire un’adozione più concreta dell’intelligenza artificiale nelle organizzazioni. Tra queste figura SAS AI Navigator, soluzione SaaS progettata per censire e governare modelli, agenti e casi d’uso AI all’interno di un ambiente centralizzato, supportando le aziende nell’allineamento alle policy interne e ai requisiti normativi. Sono stati inoltre annunciati aggiornamenti di SAS Data Management su Viya, orientati a migliorare la preparazione dei dati destinati ai modelli AI attraverso maggiori funzionalità di tracciabilità, controllo dei workflow e strumenti basati sull’intelligenza artificiale per assistere le attività di analisi. Tra le novità figurano anche funzionalità dedicate alla generazione di dati sintetici per attività di test e collaborazione. Sul fronte applicativo, SAS introduce nuove funzionalità di AI agentica in SAS Customer Intelligence 360, rivolte all’automazione di attività operative nei processi di marketing, mentre il nuovo SAS Supply Chain Agent punta a supportare pianificazione integrata e simulazioni di scenario. L’evoluzione della piattaforma SAS Viya comprende inoltre Viya Copilot, assistenti AI per le attività analitiche, il nuovo MCP Server per l’integrazione di agenti esterni e Agentic AI Accelerator, framework dedicato allo sviluppo e alla gestione di sistemi agentici. Infine, dal quarto trimestre sarà disponibile SAS Quantum Lab, ambiente destinato ai clienti Viya che consentirà di confrontare approcci classici, quantistici e ibridi su casi d’uso applicativi, con l’obiettivo di valutarne concretamente efficacia e potenziali benefici.