AI sbaglia in silenzio: chi paga le conseguenze?

Un nuovo paper su ArXiv analizza un rischio sottovalutato dell'AI generativa nel settore legale: gli errori silenziosi, quelli che sembrano plausibili ma sono fatalmente sbagliati. A differenza di un umano che esita o segnala incertezza, un modello linguistico produce output con la stessa sicurezza quando ha ragione e quando alluciia completamente. In ambito legale — contratti, pareri, ricerche giurisprudenziali — un errore non rilevato può avere conseguenze dirette su persone reali. Il paper esplora chi sia legalmente responsabile quando l'output AI 'svolta verso il male' senza che nessuno nella catena umana se ne accorga.