AI, come controllare gli errori degli LLM

Gli errori di un Large Language Model non sono incidenti occasionali. Nei sistemi conversazionali avanzati l’errore è una proprietà strutturale del modo in cui le risposte vengono generate: il modello può produrre un’affermazione falsa in forma coerente, persuasiva e resistente alla correzione. In un primo articolo abbiamo descritto tre modi tipici in cui questo accade — l’allucinazione, ribattezzata confabulazione funzionale; la compiacenza verso l’utente (sycophancy); e la deriva, ossia la tendenza a perseverare in una premessa errata invece di abbandonarla. La conclusione era che il prompt non basta: nei domini ad alta conseguenza serve un livello di validazione separato e indipendente dal modello che genera. Qui lo costruiamo — e, soprattutto, lo mettiamo alla prova.