I Filtri di Sicurezza AI Reggono Centinaia di Iterazioni?

Un nuovo paper su ArXiv affronta una domanda cruciale per la sicurezza dei sistemi AI: i classificatori usati come 'gate' di sicurezza mantengono la loro efficacia mentre i modelli migliorano iterazione dopo iterazione? La ricerca introduce una distinzione fondamentale tra classificazione (decidere se un output è sicuro) e verifica (confermare che lo sia davvero), due compiti che sembrano simili ma divergono in modo critico sotto pressione evolutiva. I risultati empirici mostrano che questa dicotomia non è teorica: al crescere delle capacità del modello supervisionato, i gate di sola classificazione mostrano fragilità sistemiche che la verifica invece mitiga. Lo studio fornisce evidenze su centinaia di iterazioni di training, rendendo le conclusioni più solide di quanto visto in lavori precedenti.