Confluent lancia Streaming Agents per creare Agenti AI

Confluent ha annunciato Streaming Agents, una nuova funzionalità di Confluent Cloud per Apache Flink che semplifica la creazione e la scalabilità degli agenti AI che monitorano, ragionano e agiscono sui dati in tempo reale.

Streaming Agents, spiega una nota, rimuove le barriere all’intelligenza artificiale (IA) agentica di livello enterprise, unificando l’elaborazione dei dati con i workflow AI e fornendo connessioni facili e sicure in ogni parte dell’organizzazione, inclusi modelli linguistici di grandi dimensioni (LLM), oltre a incorporare modelli, strumenti e altri sistemi.

Inoltre la soluzione accelera l’adozione dell’IA agentica, abilitando workflow più efficienti, un time-to-value più rapido e la creazione di modelli di business e opportunità completamente nuovi.

“L’IA agentica è nell’agenda di ogni organizzazione. La maggior parte delle aziende, però, si blocca durante la fase di elaborazione dei prototipi, rimanendo indietro, mentre altre corrono verso risultati misurabili”, afferma nella nota Shaun Clowes, Chief Product Officer di Confluent. “Anche gli agenti AI più intelligenti perdono di efficacia quando non dispongono di un contesto aziendale aggiornato. Streaming Agents semplifica il disordinato lavoro di integrazione di quegli strumenti e dati che creano vera intelligenza, offrendo una solida base per implementare agenti AI in grado di guidare cambiamenti significativi in tutta l’organizzazione”.

Una ricerca IDC mostra che, in media, le organizzazioni hanno eseguito 23 proof of concept di IA generativa tra il 2023 e il 2024, ma solo tre hanno raggiunto la fase di produzione. Di questi, solo il 62% ha inoltre soddisfatto le aspettative.

Gli agenti sono potenti tanto quanto gli strumenti e i dati a cui possono accedere, ma i workflow oggi sono estremamente complessi e costosi e impediscono alle aziende di sfruttare appieno il valore dell’IA agentica. Sebbene i framework di IA esistenti semplifichino i progetti con gli agenti, molti team hanno difficoltà a integrare i dati in tempo reale nelle iniziative di IA agentica, con conseguenti allucinazioni e risposte inaffidabili.

“La maggior parte delle aziende sta investendo nell’IA agentica, ma le architetture dati non sono in grado di supportare le capacità decisionali autonome che questi sistemi richiedono”, afferma Stewart Bond, VP Data Intelligence and Integration Software di IDC. “Le organizzazioni dovrebbero dare priorità a soluzioni di IA agentica che offrono un’integrazione facile, sicura e sfruttano i dati in tempo reale per il contesto essenziale e necessario a svolgere una determinata azione intelligente”.

Creare e scalare agenti AI in tempo reale con Streaming Agents

Streaming Agents include l’IA agentica direttamente nelle pipeline di elaborazione dei flussi, per aiutare i team a creare, distribuire e orchestrare agenti basati sugli eventi con Apache Kafka e Apache Flink. Unificando l’elaborazione dei dati e il ragionamento dell’IA, gli agenti ottengono l’accesso a nuovi dati contestuali da fonti in tempo reale, per adattarsi rapidamente e comunicare con altri agenti e sistemi al variare delle condizioni.

Gli streaming agent sono sempre attivi e lavorano per conto dell’azienda, operando in modo dinamico, elaborando flussi di dati ad alto volume e rispondendo istantaneamente a segnali in tempo reale con ragionamenti sensibili al contesto. Ad esempio, possono stabilire prezzi competitivi monitorando continuamente i prezzi dei siti di e-commerce e aggiornando automaticamente i prezzi dei prodotti sul sito di un rivenditore, per riflettere l’offerta più competitiva per i clienti.

Le caratteristiche chiave di Streaming Agents includono:

Tool calling per un’automazione consapevole del contesto: la chiamata di strumenti tramite Model Context Protocol (MCP) consente agli agenti di selezionare lo strumento esterno giusto, come un database, un software-as-a-service o un’API, per intraprendere azioni significative. Le attività tengono conto di ciò che accade nell’azienda e di ciò che stanno facendo altri sistemi e agenti.

Connessioni per integrazioni sicure: è possibile connettersi in modo sicuro a modelli, database vettoriali e MCP direttamente utilizzando Flink. Le connessioni proteggono le credenziali sensibili, incoraggiano una maggiore riusabilità condividendo le connessioni su più tabelle, modelli e funzioni e centralizzano la gestione per distribuzioni su larga scala

Tabelle esterne e ricerca per aumentare la precisione dell’IA: la soluzione assicura l’arricchimento dei dati in streaming con altre fonti dati oltre a Kafka, come database relazionali e API REST, per fornire la visualizzazione più aggiornata e completa. Questo migliora l’accuratezza del processo decisionale AI, della ricerca vettoriale e delle applicazioni RAG (retrieval-augmented generation), inoltre consente di ridurre i costi e la complessità utilizzando Flink SQL e sfrutta le funzionalità di sicurezza e di rete di Confluent Cloud

Rigiocabilità per iterazione e sicurezza: gli agenti possono essere sviluppati e valutati utilizzando dati reali senza effetti collaterali, consentendo rilasci nascosti, test A/B e iterazione più rapida.