# Che cos’è un’allucinazione di un sistema AI?

> Perché i modelli AI danno risposte sicure ma false e come si riduce il rischio in azienda: dati di partenza, controlli automatici, revisione umana.

- URL: https://www.nebu.it/glossario/allucinazione-ai
- Sito: Enterprise Srl (https://www.nebu.it), web agency e software house, Roè Volciano (Brescia), dal 2004
- Categoria: Intelligenza artificiale
- Anche: AI hallucination, Allucinazione dei modelli linguistici
- Aggiornato: 2026-09-30 · Autore: Enterprise Srl

**Definizione.** Si chiama allucinazione la risposta di un modello di intelligenza artificiale che sembra corretta e sicura ma è falsa o non supportata dai dati: un numero inventato, una citazione inesistente, un campo letto male da un documento. È una conseguenza del modo in cui funzionano i modelli linguistici, non un guasto occasionale.

## Perché succede

Un [LLM](https://www.nebu.it/glossario/llm) genera il testo più plausibile dato il contesto, non verifica i fatti. Quando l’informazione manca, è ambigua o la domanda spinge verso una risposta, il modello tende comunque a produrne una. Contesti lunghi, documenti scansionati male e domande su dati che il modello non ha ricevuto aumentano il rischio.

## Come si riduce il rischio

- Dare al modello i dati di partenza (documenti, record del gestionale) invece di affidarsi alla sua memoria.

- Chiedere risposte strutturate e verificarle con controlli automatici: per esempio confrontare i totali estratti da un documento con quelli dichiarati.

- Segnalare alla persona solo le voci con anomalie, così la revisione è mirata.

- Far confermare a una persona tutto ciò che modifica dati o esce verso l’esterno ([human-in-the-loop](https://www.nebu.it/glossario/human-in-the-loop)).

- Misurare il fenomeno con [eval](https://www.nebu.it/glossario/eval-ai) sui casi reali.

## Un esempio reale

Nel gestionale di un’impresa termoidraulica, l’AI estrae le voci dei computi metrici in PDF. Il sistema confronta capitolo per capitolo i totali estratti con quelli del documento e isola in un filtro «da verificare» solo le voci con anomalie aritmetiche; le voci entrano nel preventivo dopo la revisione dell’operatore.

## Controlli progettati insieme all’AI

In ogni progetto definiamo prima come si verifica il risultato dell’AI e chi lo approva: è questo che lo rende utilizzabile in produzione. https://www.nebu.it/soluzioni/intelligenza-artificiale

## Termini correlati

- [LLM](https://www.nebu.it/glossario/llm)
- [Eval (test dei sistemi AI)](https://www.nebu.it/glossario/eval-ai)
- [Human-in-the-loop](https://www.nebu.it/glossario/human-in-the-loop)

## Pagine correlate

- [Software gestionali su misura](https://www.nebu.it/soluzioni/gestionali-su-misura)

## Fonti

- Regolamento (UE) 2024/1689 (AI Act) (https://eur-lex.europa.eu/eli/reg/2024/1689/oj): testo ufficiale su EUR-Lex

---

Contenuti rivisti a 2026-09-10. Prezzi IVA esclusa, dal listino pubblico.
Pagina completa: https://www.nebu.it/glossario/allucinazione-ai · Preventivo: https://www.nebu.it/preventivo · Tel. 0365 599 293
Indice per agenti: https://www.nebu.it/llms.txt · Documento completo: https://www.nebu.it/llms-full.txt