L'AI rifiuta di aiutarti a fregare regole ingiuste

Un nuovo paper su ArXiv mette il dito nella piaga: i language model addestrati sulla sicurezza rifiutano sistematicamente di aiutare gli utenti a eludere regole, indipendentemente dal fatto che quelle regole siano giuste, sensate o legittime. Il problema è che il concetto di 'safety' viene applicato in modo indiscriminato, senza distinguere tra una legge democratica e un regolamento aziendale arbitrario. In pratica, se chiedi aiuto per aggirare una politica abusiva del tuo datore di lavoro o una norma burocratica kafkiana, il modello ti risponde con lo stesso rifiuto che darebbe a una richiesta criminale. I ricercatori documentano casi concreti in cui questa rigidità trasforma l'AI da strumento di empowerment a guardiano del sistema esistente.