Un agente combina un modello con strumenti e regole per svolgere un compito. La sua utilità non si misura da quanto appare autonomo, ma dalla qualità del lavoro verificato, dal costo e dalla possibilità di fermarlo senza interrompere il processo.
1. Scegli un processo osservabile
Parti da un'attività frequente, circoscritta e con un responsabile disponibile. Per esempio: classificare una richiesta e preparare una bozza di risposta usando una base documentale approvata. È un esempio di lavoro, non un risultato già ottenuto da un cliente. Escludi inizialmente invii autonomi, ordini, pagamenti e decisioni che incidono sulle persone.
Scrivi una scheda con ingresso, uscita, sistemi coinvolti, eccezioni e azioni vietate. “Aiutare l'ufficio” è troppo ampio; “proporre categoria e bozza, lasciando l'invio all'operatore” è verificabile. Se nessuno sa definire un risultato corretto, manca un prerequisito per il pilot.
Confronta prima l'alternativa senza AI. Campi strutturati, calcoli e condizioni stabili si prestano a regole deterministiche. Un modello può aiutare con linguaggio variabile, sintesi e ricerca, ma introduce errori probabilistici. Spesso la soluzione migliore è un flusso a regole con un singolo passaggio assistito, non un agente libero di decidere ogni azione.
2. Dai accesso solo a ciò che serve
Elenca fonti, titolari dei dati e autorizzazioni. Verifica qualità, aggiornamento e diritto di utilizzare i documenti. Un archivio contraddittorio produce risposte fragili anche con un buon modello. Inizia con dati sintetici o minimizzati e un ambiente separato; non caricare l'intera posta aziendale per comodità.
Usa identità di servizio dedicate e permessi minimi, preferibilmente di sola lettura nel primo esperimento. Le credenziali restano nella configurazione protetta del sistema, mai nel prompt o nei documenti. L'accesso ai risultati di ricerca deve rispettare i permessi dell'utente, evitando che un indice comune renda visibili contenuti riservati.
Considera documenti, email e risposte esterne come dati non fidati: possono contenere istruzioni malevole. Limita strumenti, destinazioni di rete e operazioni autorizzate nel software, non soltanto con una frase nel prompt. Imposta limiti a durata, numero di azioni e spesa per esecuzione.
La governance viene prima dell'uso reale: finalità, base giuridica, ruoli dei fornitori, accordi sul trattamento, conservazione, eventuali trasferimenti e uso dei dati per addestramento vanno verificati sulle condizioni applicabili. Valuta la necessità di una DPIA e gli obblighi dell'AI Act rispetto al caso concreto, senza affidarti a scadenze generiche.
3. Valuta il comportamento, non la demo
Prepara un insieme di casi rappresentativi con risposta attesa o criteri di giudizio. Includi richieste incomplete, documenti mancanti, informazioni contraddittorie e tentativi di ottenere dati non autorizzati. Tieni separati i casi usati per modificare il sistema da quelli usati per valutarlo, altrimenti misuri soprattutto l'adattamento agli esempi.
Definisci l'accettazione prima di eseguire i test: correttezza dei campi, supporto nelle fonti, azioni consentite, gestione delle eccezioni e tempo necessario al revisore. Ripeti le prove quando cambiano modello, prompt, strumenti o documenti. Una valutazione automatica può aiutare, ma non deve essere l'unico giudice dei propri errori.
FLUSSO INIZIALE CONSIGLIATO
- Richiesta e dati autorizzati
- Bozza / fonti / controlli
- Revisore: approva, corregge o rifiuta
L'approvazione deve essere un vincolo tecnico prima dell'azione, non una notifica successiva. Il revisore vede proposta, fonti e modifiche previste; se queste cambiano, serve una nuova approvazione. Timeout, API indisponibili o dati insufficienti devono portare a una coda gestibile, evitando tentativi infiniti e operazioni duplicate. Prevedi un arresto controllato e la revoca degli accessi.
4. Confronta con il lavoro attuale
Misura una baseline su casi comparabili: tempo attivo dell'operatore, attese, errori, rilavorazioni e volume. Confronta poi l'intero flusso assistito, inclusa la revisione. Contare solo i secondi impiegati dal modello nasconde il costo delle correzioni.
| Indicatore | Come leggerlo |
|---|---|
| Tempo per pratica accettata | Preparazione, attesa, verifica e correzione, confrontate con la baseline |
| Qualità | Errori distinti per gravità, fonti mancanti e risultati rifiutati |
| Intervento umano | Numero e durata di revisioni, eccezioni e passaggi manuali |
| Costo operativo | Modello, strumenti, hosting, ricerca documentale, monitoraggio e assistenza |
Dividi il costo complessivo per le pratiche effettivamente accettate, includendo esecuzioni fallite e ripetute. Distingui investimento iniziale e costi ricorrenti; stabilisci un tetto di spesa e chi riceve gli avvisi. Non attribuire al pilot un ritorno economico prima di aver misurato risultati e carico di supervisione.
5. Trenta giorni come metodo, non come promessa
La finestra parte soltanto quando responsabile, accessi, dati utilizzabili, ambiente di test e criteri di accettazione sono disponibili. Se manca uno di questi prerequisiti, dedica prima tempo a risolverlo: comprimere le verifiche non rende il progetto più veloce.
- Giorni 1-7: perimetro e baseline.
Conferma casi, esclusioni, misure del lavoro attuale e responsabilità. Consegna scheda del processo e piano di valutazione.
- Giorni 8-14: prototipo isolato.
Collega solo fonti autorizzate, prova errori e limiti. Consegna matrice degli accessi e risultati dei test, senza azioni esterne autonome.
- Giorni 15-23: prova supervisionata.
Solo se i controlli precedenti passano, usa un campione concordato. Registra revisioni, costi e fallback; sospendi se emergono accessi impropri o errori critici.
- Giorni 24-30: decisione documentata.
Confronta KPI e baseline. Consegna limiti noti, costi operativi e procedura di arresto; decidi se estendere, correggere o fermare il progetto.
Il servizio agenti AI per PMI può partire da questa verifica circoscritta. Per ruoli, dati e responsabilità, affianca il percorso di AI governance: il controllo operativo non sostituisce la valutazione normativa.
Domande frequenti
Serve addestrare un modello sui dati aziendali?
Non necessariamente. Un primo test può usare istruzioni e ricerca su documenti autorizzati. La scelta dipende dagli errori osservati; addestramento e accesso documentale hanno requisiti e costi diversi.
Se il pilot funziona, posso togliere il revisore?
Non automaticamente. Ampliare l'autonomia cambia il rischio. Servono nuove valutazioni, limiti delle azioni, monitoraggio e responsabilità esplicite; alcuni passaggi devono restare sotto approvazione umana.
Fonti per valutazione e governance
- Google Cloud: panoramica della valutazione dei sistemi generativi, documentazione di prodotto, non requisito di piattaforma.
- NIST AI Risk Management Framework, quadro volontario di gestione del rischio.
- Garante: intelligenza artificiale e protezione dei dati.
Nessun metodo o strumento citato certifica da solo la conformità del progetto o garantisce il successo del pilot.