Gli agenti AI sono davvero sicuri? No.

BeSafe-Bench è un benchmark pensato per testare la sicurezza comportamentale degli agenti AI situati in ambienti funzionali reali — digitali e fisici. A differenza dei test classici che valutano le risposte testuali, questo framework misura cosa fa concretamente un agente quando opera in autonomia: se esegue azioni dannose, ignora vincoli etici o bypassa istruzioni di sicurezza. Il problema è emerso con forza perché i Large Multimodal Models (LMM) sono ora abbastanza potenti da agire nel mondo, non solo da descriverlo. BeSafe-Bench colma un vuoto metodologico critico, fornendo scenari standardizzati per valutare questi rischi prima del deployment.