Agent Harness: come funzionano gli Agenti AI e perché la sicurezza deve essere deterministica

L'intelligenza artificiale sta attraversando una trasformazione importante: stiamo passando da sistemi capaci di rispondere alle domande a sistemi capaci di eseguire azioni.

È il passaggio dall'AI generativa all'Agentic AI, un paradigma in cui gli agenti possono interagire con applicazioni, consultare informazioni, utilizzare strumenti ed eseguire attività anche complesse.

Ma cosa rende un Large Language Model (LLM) un vero agente AI? E soprattutto, come possiamo garantire che questi sistemi operino nel rispetto delle regole e dei permessi aziendali?

La risposta passa da un concetto fondamentale: l'Agent Harness.

Cos'è un Agent Harness?

Un agente AI non è semplicemente un modello linguistico al quale abbiamo assegnato alcune istruzioni.

È un sistema software composto da diversi elementi che lavorano insieme per consentire al modello di interpretare richieste, prendere decisioni operative e utilizzare strumenti.

L'insieme dei componenti che orchestrano e governano questo funzionamento viene comunemente definito Agent Harness.

Possiamo individuare cinque elementi fondamentali:

1. Modello (LLM): il motore di intelligenza artificiale che interpreta il contesto, elabora le richieste e individua le azioni da intraprendere.
2. Istruzioni: definiscono il ruolo dell'agente, gli obiettivi, il comportamento atteso e le modalità di interazione.
3. Conoscenza e contesto: le informazioni messe a disposizione dell'agente per svolgere le proprie attività.
4. Strumenti (Tools): consentono all'agente di interagire con sistemi esterni, applicazioni, API e workflow.
5. Controlli e sicurezza: governano le operazioni consentite, i permessi e le eventuali autorizzazioni necessarie.

Il modello rappresenta quindi soltanto una parte dell'architettura. La capacità di un agente di produrre valore dipende anche dagli strumenti a disposizione e dalle regole che ne governano l'utilizzo.

Gli strumenti: quando l'intelligenza artificiale inizia ad agire

La differenza più significativa tra un chatbot tradizionale e un agente AI operativo riguarda la possibilità di utilizzare strumenti.

Attraverso questi strumenti, un agente può:

• Consultare informazioni presenti in un CRM o in un ERP.
• Leggere e generare documenti, report e presentazioni.
• Eseguire ricerche sul web.
• Interagire con applicazioni attraverso API.
• Collegarsi a servizi esterni mediante MCP (Model Context Protocol).
• Attivare workflow di automazione, ad esempio attraverso n8n.

Uno strumento può essere relativamente semplice, come una funzione che recupera un'informazione, oppure molto complesso, come un workflow che coinvolge più sistemi aziendali.

Pensiamo a un agente incaricato di supportare l'ufficio amministrativo. Potrebbe recuperare una fattura, confrontarla con un ordine di acquisto, verificare alcune informazioni e predisporre una proposta di registrazione.

La vera innovazione non è soltanto la capacità del modello di comprendere la richiesta, ma la possibilità di collegare questa capacità ai processi operativi dell'azienda. È il terreno in cui lavoriamo con l'integrazione di sistemi e le automazioni con agenti AI.

La conoscenza aziendale non coincide con il database

Un equivoco frequente riguarda il concetto di conoscenza dell'agente.

Quando parliamo di conoscenza, non intendiamo necessariamente l'intero database aziendale.

Un agente può accedere alle informazioni attraverso interfacce e strumenti specifici, che espongono soltanto i dati necessari e consentiti.

Per esempio, un dipendente potrebbe utilizzare un agente AI per consultare la propria busta paga. Questo non significa che lo stesso agente debba poter accedere alle buste paga degli altri dipendenti.

La distinzione è fondamentale. L'accesso ai dati deve essere governato da sistemi di autenticazione, autorizzazione e separazione dei privilegi, indipendentemente dalle capacità del modello linguistico.

Un'integrazione attraverso API o MCP può esporre determinate funzionalità, ma deve sempre rispettare le autorizzazioni previste dai sistemi aziendali.

Collegare un agente a un sistema non significa concedergli accesso indiscriminato a tutte le informazioni contenute al suo interno.

AI probabilistica e software deterministico: il vero equilibrio

Arriviamo all'aspetto probabilmente più importante dell'intera architettura.

I Large Language Models sono sistemi probabilistici. Producono risposte e selezionano azioni sulla base del contesto, delle istruzioni e dei meccanismi appresi durante l'addestramento.

Questa caratteristica li rende estremamente flessibili, ma introduce anche comportamenti che non possono essere garantiti semplicemente attraverso un prompt.

Possiamo chiedere a un agente di non accedere a determinate informazioni o di non eseguire specifiche operazioni. Ma possiamo considerare queste istruzioni una garanzia di sicurezza?

No.

Le istruzioni possono essere interpretate in modo inatteso o manipolate attraverso tecniche di prompt injection. Per questo motivo, i controlli critici devono essere implementati a livello software, attraverso meccanismi deterministici.

In altre parole:

L'AI può decidere quale operazione proporre. Il software deve stabilire se quell'operazione è effettivamente consentita.

Se un agente dispone esclusivamente di permessi di lettura, non deve poter modificare un dato, indipendentemente dalle istruzioni ricevute.

Se una determinata operazione richiede l'approvazione di un responsabile, il sistema deve impedirne l'esecuzione fino all'ottenimento di quell'autorizzazione.

Non deve essere il modello linguistico a decidere se rispettare o meno questa regola. È lo stesso principio che guida l'agentic engineering: strumenti, guardrail e ownership, non un modello con accesso indiscriminato.

Human-in-the-Loop: mantenere il controllo sulle operazioni critiche

Un altro principio fondamentale nella progettazione degli agenti AI aziendali è quello dell'Human-in-the-Loop.

Non tutte le operazioni devono necessariamente essere completamente autonome. Alcune attività possono essere eseguite senza intervento umano, mentre altre richiedono una verifica o un'approvazione.

Pensiamo, per esempio, a tre livelli di operatività:

Livello 1 · Consultazione

L'agente può leggere informazioni e produrre analisi, rispettando i permessi dell'utente.

Livello 2 · Esecuzione controllata

L'agente può aggiornare dati o avviare processi entro limiti e condizioni prestabiliti.

Livello 3 · Approvazione obbligatoria

L'agente può preparare un'operazione, ma la sua esecuzione richiede l'autorizzazione esplicita di una persona.

Un agente amministrativo potrebbe quindi analizzare una fattura e proporne la contabilizzazione, lasciando però a un operatore autorizzato la conferma definitiva.

Questo approccio permette di sfruttare le capacità dell'intelligenza artificiale senza rinunciare al controllo sui processi più sensibili.

Perché l'Agent Harness è strategico per le aziende

Nell'adozione dell'intelligenza artificiale, molta attenzione viene dedicata alla scelta del modello: quale LLM utilizzare, quanto sia performante o quale sia il costo per token.

Sono aspetti importanti, ma non sufficienti.

In un contesto aziendale, il valore di un agente dipende soprattutto dalla qualità della sua integrazione con i sistemi esistenti, dall'affidabilità degli strumenti e dalla capacità di governarne il comportamento.

Un'architettura progettata correttamente deve considerare:

• Gestione delle identità e dei permessi.
• Separazione tra lettura e scrittura.
• Validazione degli input e delle operazioni.
• Approvazioni umane quando necessarie.
• Tracciabilità delle azioni eseguite.
• Monitoraggio degli errori e dei comportamenti inattesi.

Sono elementi essenziali per trasformare un prototipo interessante in una soluzione realmente utilizzabile nei processi aziendali.

Il futuro degli Agenti AI passa dal controllo, non soltanto dall'autonomia

La prossima evoluzione dell'intelligenza artificiale nelle aziende non riguarderà soltanto modelli sempre più potenti.

Riguarderà soprattutto la capacità di costruire sistemi in cui intelligenza probabilistica e software deterministico possano lavorare insieme.

Da una parte, la flessibilità dei modelli linguistici nel comprendere richieste, interpretare informazioni e individuare soluzioni. Dall'altra, la prevedibilità dei sistemi software nel garantire permessi, vincoli operativi e controlli.

Un agente AI non deve essere soltanto intelligente. Deve essere affidabile, governabile e sicuro.

È su questo equilibrio che si costruisce il passaggio dagli esperimenti di AI alle automazioni aziendali realmente operative.

---

Dal workshop sugli Agenti AI per le PMI

Questi temi sono stati affrontati durante il nostro workshop dedicato agli Agenti AI per le PMI, organizzato in collaborazione con la Camera di Commercio di Milano Monza Brianza Lodi, presso Palazzo Giureconsulti a Milano.

Nel video approfondiamo il funzionamento dell'Agent Harness, il ruolo degli strumenti, l'integrazione con API e MCP e l'importanza dei controlli deterministici nella sicurezza degli agenti AI.

Guarda il video e scopri come funziona un agente AI.

Syncronika: AI, Automation e Digital Transformation

In Syncronika progettiamo e sviluppiamo soluzioni di intelligenza artificiale, automazione e integrazione software per aiutare le aziende a rendere i propri processi più efficienti, intelligenti e controllabili.

Partiamo dai processi reali e dalle autorizzazioni esistenti, colleghiamo i sistemi con integrazione e API e introduciamo agenti AI e automazioni soltanto dove il comportamento può essere misurato e governato.

Se volete capire dove un agente AI può generare valore nei vostri processi, parliamone. La prima domanda non è quale modello scegliere. È quali operazioni volete davvero consentire, e con quali controlli.