MixAtlas: finalmente meno sprechi nel training multimodale

MixAtlas è un framework che ottimizza la composizione del dataset durante il midtraining dei modelli multimodali, un passaggio spesso ignorato ma critico. Il sistema misura l'incertezza associata a ciascun dominio e ribilancia dinamicamente i pesi dei dati per massimizzare l'efficienza di apprendimento. In pratica, invece di trattare tutte le sorgenti dati allo stesso modo, MixAtlas capisce quali sono più utili in un dato momento e le privilegia. I risultati mostrano miglioramenti sia nell'efficienza campionaria che nella generalizzazione su task downstream.