Learning Beyond the Loss: Why Neural Networks Prefer Certain Solutions and how to engineer them

Modelli moderni di machine learning, spesso sovraparametrizzati, ammettono molte soluzioni equivalenti, ma gli algoritmi di apprendimento convergono sistematicamente verso soluzioni specifiche (implicit bias). Il lavoro mostra che simmetrie e ridondanze nascoste nei modelli introducono una correzione esplicita della funzione di perdita, che agisce come principio di selezione. Attraverso esempi (fattorizzazione matriciale, meccanismi di attenzione), il framework spiega bias noti e permette di progettarne di nuovi, con possibili estensioni a sistemi fisici e complessi.

Per maggiori dettagli sul seminario si prega di consultare la versione in inglese del sito internet.