Continual learning AI: cos’è e cosa cambia per audit, rollback e vigilanza

Un modello linguistico, oggi, non trattiene nulla fra una sessione e l’altra. Nel primo articolo abbiamo descritto questa amnesia per progetto – pesi congelati al termine dell’addestramento, nessun consolidamento in esercizio, ogni conversazione che riparte da zero – e la ragione per cui è anche una virtù di governo: un sistema che non cambia è un sistema riproducibile, e “stesso modello, stesso output” è il presupposto di validazione, audit e conformità. Abbiamo visto poi come una linea di ricerca stia provando a superare quell’amnesia facendo dormire le macchine: consolidare offline, in finestre dedicate, ciò che il sistema ha incontrato da sveglio. La conclusione era che consolidare è buona ingegneria, ma che cambia la natura dell’oggetto da governare.