Francis Bach – Learning Theory from First Principles

Argomenti del programma: 8 ore – Fondamenti di Statistical Learning, Loss, funzioni di Bayes, no-free-lunch Theorem, Ottimalità Minimax 2 ore – Metodi di Local Averaging, kNN, Nadaraya-Watson 8 ore – ERM, Regolarizzazione e Ridge Regression 6 ore – Decomposizione del Rischio, Covering Numbers e Complessità di Rademacher 8 ore – Metodi Kernel, Representer Theorem, Spazi di Hilbert a nucleo riproducenti, Teorema di Bochner, adattività a…

Argomenti del programma: Formalizzazione matematica del machine learning, supervised learning, funzioni loss, rischio e stimatore di Bayes, regressione e classificazione, consistenza, generalizzazione, no free lunch theorem, ottimalità minimax, local averaging, empirical risk minimization, regolarizzazione, linear least squares, bias-variance tradeoff, decomposizione del rischio, approximation-estimation tradeoff, covering numbers,…