Μηχανική Μάθηση


Κωδικός 3.4.3403.7
Εξάμηνο 7o
Κατηγορία Κατ' επιλογήν υποχρεωτικό
Ώρες Διδασκαλίας - Ώρες Εργαστηρίου 3 - 1
Διδάσκοντες Αθανάσιος Βουλόδημος, Πέτρος Μαραγκός, Αθανάσιος Ροντογιάννης, Γιώργος Στάμου, Γεώργιος Αλεξανδρίδης (Ε.ΔΙ.Π.), Παρασκευή Τζούβελη (Ε.ΔΙ.Π.)

Περιγραφή

Εισαγωγή στη Μηχανική Μάθηση. Ορισμός των βασικών προβλημάτων της Μηχανικής Μάθησης. Ανασκόπηση στοιχείων Θεωρίας Πιθανοτήτων και Γραμμικής Άλγεβρας.

Επιβλεπόμενη μάθηση. Γραμμική παλινδρόμηση και παλινδρόμηση τύπου ridge. Ταξινομητής Bayes, σφάλμα Bayes. Εκτίμηση μεγίστης πιθανοφάνειας, λογιστική παλινδρόμηση, Διακριτική Ανάλυση Gauss. Ταξινομητής k-πλησιέστερων γειτόνων. Νευρωνικά δίκτυα (perceptron, πολυστρωματικό perceptron (MultiLayer Perceptron-MLP)). Αλγόριθμος ελάχιστου μέσου τετραγωνικού σφάλματος (Least Mean Square - LMS). Δένδρα αποφάσεων, boosting. Μέθοδοι πυρήνα, Μηχανές Διανυσμάτων Υποστήριξης.

Θεωρία Μάθησης: bias/complexity tradeoff, Πιθανώς Προσεγγιστικά Ορθή μάθηση (Probably Approximately Correct – PAC learning), ελαχιστοποίηση εμπειρικού κινδύνου (empirical risk minimization), διάσταση Vapnik – Chervonenkis (VC).

Υπερπροσαρμογή/υποπροσαρμογή (overfitting/underfitting), ομαλοποίηση (regularization), βελτιστοποίηση (momentum, RMSprop, Adam), επιλογή μοντέλου.

Μη επιβλεπόμενη μάθηση. Συσταδοποίηση, αλγόριθμος k-μέσων, μοντέλα μίξης κανονικών κατανομών (Gaussian Mixture Models – GMMs), ιεραρχική συσταδοποίηση. Αλγόριθμοι μείωσης διάστασης: ανάλυση πρωτευουσών συνιστωσών (Principal Component Analysis - PCA), γραμμική διακριτική ανάλυση (Linear Discriminant Analysis - LDA).

Εισαγωγή στη βαθιά μάθηση. Βαθιά νευρωνικά δίκτυα πρόσθιας τροφοδότησης. Συνελικτικά νευρωνικά δίκτυα (Convolutional Neural Nets - CNN).

Εισαγωγή στην ενισχυτική μάθηση (reinforcement learning). Διαδικασίες απόφασης Markov (Markov Decision Processes – MDP), κριτήριο βελτιστότητας Bellman, επανάληψη τιμής (value iteration), επανάληψη πολιτικής (policy iteration).

Κοινωνικός αντίκτυπος της Μηχανικής Μάθησης. Δικαιοσύνη, αμεροληψία, επεξηγησιμότητα, ιδιωτικότητα και αξιοπιστία στη Μηχανική Μάθηση.

Αναλυτικές ασκήσεις εργαστηριακή εξάσκηση στα παραπάνω αντικείμενα (Python και σχετικές βιβλιοθήκες).