Che cosa significa human-in-the-loop nei sistemi AI?
Anche: HITL · Supervisione umana · Approvazione umana
Definizione
Human-in-the-loop indica un sistema di intelligenza artificiale in cui una persona resta dentro il processo decisionale: l’AI prepara, propone o estrae, ma le azioni che contano, come modificare dati, inviare comunicazioni o approvare un documento, partono solo dopo la verifica o la conferma di un operatore.
Redazione Enterprise Srl · Aggiornato il
Perché serve
I modelli linguistici possono sbagliare (allucinazioni) ed essere manipolati da contenuti malevoli (prompt injection). Mettere una persona sui passaggi critici limita le conseguenze di un errore e lascia chiara la responsabilità. Per i sistemi ad alto rischio l’AI Act richiede espressamente una sorveglianza umana efficace.
Come si progetta bene
Un’approvazione funziona solo se è informata e rapida: la persona deve vedere esattamente cosa cambierà (prima e dopo), non un generico «confermi?». Se ogni passaggio richiede una conferma, gli operatori finiscono per approvare senza leggere; per questo si separano le azioni di sola lettura, che l’AI può fare da sola, da quelle che scrivono dati.
Resta un registro di chi ha chiesto cosa, cosa è stato proposto e chi ha approvato.
Un esempio reale
Nell’agente AI di LOFT Enterprise ogni modifica ai dati mostra una scheda di conferma e parte solo dopo «Approva»: le scritture senza approvazione sono zero per costruzione. La lettura di offerte, clienti e riunioni, invece, avviene senza passaggi aggiuntivi.