Condizioni di ottimalità
Metodi per l'ottimizzazione locale non vincolata
Metodi per l'ottimizzazione locale vincolata
Metodi di ottimizzazione per problemi di apprendimento automatico
Metodi per problemi a larga scala
Metodi di ottimizzazione non vincolata, L. Grippo, M. Sciandrone, Springer-Verlag, 2011
Dispense
Obiettivi Formativi
Comprendere e saper utilizzare le condizioni di ottimalità; conoscere i principali approcci algoritmici per l'ottimizzazione locale e le loro proprietà teoriche e computazionali
Prerequisiti
Conoscenza elementare dell'Analisi matematica (serie di Taylor, concetti di gradiente ed Hessiana)
Algebra lineare
E' utile aver frequentato un corso di Ricerca Operativa / programmazione lineare
Metodi Didattici
Lezioni frontali
Modalità di verifica apprendimento
Esame scritto o orale (in alternativa) su tutto il programma.
Programma del corso
Introduzione: modelli di ottimizzazione, esempi
Nozioni di base e definizioni.
Condizioni di ottimalità nel caso non vincolato
Convergenza degli algoritmi
Ottimizzazione mono-dimensionale
Metodi di discesa al gradiente
Metodi di Newton
Metodi alle direzioni coniugate
Metodi Quasi-Newton
Metodi Trust region
Condizioni di ottimalità di KKT
Metodi per problemi vincolati
Introduzione ai problemi di machine learning
Metodi del gradiente stocastico
Metodi per problemi a larga scala