Il corso mira ad esplorare i concetti fondamentali dell'apprendimento statistico, introducendo una vasta gamma di strumenti e tecniche, quali modelli lineari e non lineari, alberi decisionali, reti neurali e metodi di riduzione della dimensionalità. L'obiettivo principale è quello di fornire sia conoscenze teoriche che competenze pratiche nella manipolazione e nell'analisi dei dati, nonché nella valutazione e nell'interpretazione dei risultati dei modelli con particolare attenzione ai problemi di apprendimento supervisionato. Saranno affrontati problemi reali, al fine di comprendere i principi teorici alla base degli algoritmi di apprendimento ed apprenderne l'applicazione efficace utilizzando specifiche librerie del software statistico R.
Curriculum
scheda docente
materiale didattico
Richiami di modelli di regressione lineare multipla. Funzioni base per la regressione: polinomi, polinomi a tratti e splines. Truncated basis e scelta del numero di nodi.
Stima indiretta dell’errore di test: statistiche di Mallow, AIC e BIC. Stima diretta dell’errore di test: validation set, LOOCV, K-fold CV e bootstrap. Regressione ridge e regressione lasso.
Introduzione ai problemi di classificazione. Classificatore di Bayes e Naive Bayes. Metodo dei vicini più vicini, KNN, matrice di confusione e metriche derivate.
Introduzione agli alberi decisionali di regressione e di classificazione. Potatura dell’albero. Metodi ensemble: bagging, random forest e boosting.
Laboratorio R sugli argomenti trattati.
Programma
Introduzione allo statistical learning. Errore di training ed errore di test: implicazioni sulla flessibilità del modello nella regressione. Scomposizione dell’errore di test. Trade-off tra bias e varianza.Richiami di modelli di regressione lineare multipla. Funzioni base per la regressione: polinomi, polinomi a tratti e splines. Truncated basis e scelta del numero di nodi.
Stima indiretta dell’errore di test: statistiche di Mallow, AIC e BIC. Stima diretta dell’errore di test: validation set, LOOCV, K-fold CV e bootstrap. Regressione ridge e regressione lasso.
Introduzione ai problemi di classificazione. Classificatore di Bayes e Naive Bayes. Metodo dei vicini più vicini, KNN, matrice di confusione e metriche derivate.
Introduzione agli alberi decisionali di regressione e di classificazione. Potatura dell’albero. Metodi ensemble: bagging, random forest e boosting.
Laboratorio R sugli argomenti trattati.
Testi Adottati
James, G., Witten, D., Hastie, T., Tibshirani, R. (2021). Introduzione all'apprendimento statistico. Con applicazioni in R. Springer.Modalità Frequenza
La frequenza non è obbligatoria, ma fortemente raccomandata.Modalità Valutazione
Esame orale. Durante il corso si svolgeranno due prove scritte intermedie (la prima a metà corso circa e la seconda in prossimità della fine del corso). L'accesso alle prove intermedie è consentito a tutti gli studenti del corso (frequentanti e non). La prenotazione alle prove intermedie avverrà esclusivamente tramite Gomp.
scheda docente
materiale didattico
Richiami di modelli di regressione lineare multipla. Funzioni base per la regressione: polinomi, polinomi a tratti e splines. Truncated basis e scelta del numero di nodi.
Stima indiretta dell’errore di test: statistiche di Mallow, AIC e BIC. Stima diretta dell’errore di test: validation set, LOOCV, K-fold CV e bootstrap. Regressione ridge e regressione lasso.
Introduzione ai problemi di classificazione. Classificatore di Bayes e Naive Bayes. Metodo dei vicini più vicini, KNN, matrice di confusione e metriche derivate.
Introduzione agli alberi decisionali di regressione e di classificazione. Potatura dell’albero. Metodi ensemble: bagging, random forest e boosting.
Laboratorio R sugli argomenti trattati.
Mutuazione: 21210514 Statistical learning in Economia e Gestione della Trasformazione Digitale LM-56 R FORTUNA FRANCESCA
Programma
Introduzione allo statistical learning. Errore di training ed errore di test: implicazioni sulla flessibilità del modello nella regressione. Scomposizione dell’errore di test. Trade-off tra bias e varianza.Richiami di modelli di regressione lineare multipla. Funzioni base per la regressione: polinomi, polinomi a tratti e splines. Truncated basis e scelta del numero di nodi.
Stima indiretta dell’errore di test: statistiche di Mallow, AIC e BIC. Stima diretta dell’errore di test: validation set, LOOCV, K-fold CV e bootstrap. Regressione ridge e regressione lasso.
Introduzione ai problemi di classificazione. Classificatore di Bayes e Naive Bayes. Metodo dei vicini più vicini, KNN, matrice di confusione e metriche derivate.
Introduzione agli alberi decisionali di regressione e di classificazione. Potatura dell’albero. Metodi ensemble: bagging, random forest e boosting.
Laboratorio R sugli argomenti trattati.
Testi Adottati
James, G., Witten, D., Hastie, T., Tibshirani, R. (2021). Introduzione all'apprendimento statistico. Con applicazioni in R. Springer.Modalità Frequenza
La frequenza non è obbligatoria, ma fortemente raccomandata.Modalità Valutazione
Esame orale. Durante il corso si svolgeranno due prove scritte intermedie (la prima a metà corso circa e la seconda in prossimità della fine del corso). L'accesso alle prove intermedie è consentito a tutti gli studenti del corso (frequentanti e non). La prenotazione alle prove intermedie avverrà esclusivamente tramite Gomp.