M203. Μηχανική Μάθηση

1. Ταυτότητα Μαθήματος:

Τίτλος μαθήματος: Μηχανική Μάθηση (MachineLearning)

Εξάμηνο διδασκαλίας: 2ο

Ώρες εβδομαδιαίως: 3

Μονάδες ECTS: 6

2. Μαθησιακοί Στόχοι:

Σκοπός του μαθήματος είναι να αποκτήσει ο φοιτητής μια σφαιρική άποψη του πεδίου της μηχανικής μάθησης μελετώντας τα κυριότερα μοντέλα κι μεθόδους μάθησης με επίβλεψη και χωρίς επίβλεψη. Επίσης, δίνονται βασικά στοιχεία της θεωρίας μάθησης έτσι ώστε να αποκτήσει αντίληψη του τι είναι εφικτό από τα μοντέλα αυτά, ποιες είναι οι δυνατότητες και ποιοι οι περιορισμοί που υπάρχουν στη μάθηση.

3. Αντικείμενο του μαθήματος:

Τα θέματα που καλύπτει είναι:

Εισαγωγή: Βασικές έννοιες

Μάθηση με επίβλεψη

  • Μαθηματικό υπόβαθρο, κατάβαση δυναμικού, ο αλγόριθμος LMS
  • Χρήση μη γραμμικών συναρτήσεων απόφασης (βηματική, σιγμοειδής), αλγόριθμος Perceptron.
  • Gaussian discriminant analysis. Η μέθοδος Bayes.
  • Μηχανές διανυσμάτων υποστήριξης (Support vector machines)
  • Επιλογή μοντέλου
  • Επιλογή χαρακτηριστικών
  • Επιτροπές εμπειρογνωμόνων, bagging, boosting.
  • Evaluating and debugging learning algorithms.

Μάθηση χωρίς επίβλεψη

  • Clustering. ο αλγόριθμος K-μέσων
  • Ο αλγόριθμος EM, μίγμα Γκαουσιανών
  • Ανάλυση παραγόντων (Factor Analysis), Ανάλυση κυρίων συνιστωσών (Principal Component Analysis – PCA)
  • Ανάλυση ανεξάρτητων συνιστωσών (Independent components analysis – ICA).

Στοιχεία θεωρίας

  • Η διάσταση Vapnik-Chervonenkis
  • Πρακτικές συμβουλές χρήσης αλγορίθμων μάθησης

4. Διδακτική Μέθοδος

Θα γίνονται εβδομαδιαίες διαλέξεις. Σημαντικό τμήμα της διδασκαλίας αποτελεί η ανάθεση εβδομαδιαίων ασκήσεων πάνω σε διαφορετικό αλλά συγκεκριμένο αντικείμενο του μαθήματος. Επίσης θα υλοποιείται τελική εργασία ανάπτυξης εφαρμογής αναγνώρισης προτύπων με χρήση μεθόδων μηχανικής μάθησης με χρήση του πακέτου MATLAB.

5. Μέθοδος αξιολόγησης φοιτητών

Η αξιολόγηση των φοιτητών στηρίζεται στις ασκήσεις που θα παραδώσουν κατά τη διάρκεια του εξαμήνου, καθώς και στην τελική εργασία.

6. Απαιτήσεις εξοπλισμού – λογισμικού

Απαιτείται το πακέτο MATLAB με τα εξής toolboxes (κατ’ ελάχιστον): Statistics, Optimization, Neural networks, Signal processing.

7. ΠροτεινόμενηΒιβλιογραφία

  • Κ. Διαμαντάρας, Τεχνητά Νευρωνικά Δίκτυα, Κλειδάριθμος 2007.
  • C. Bishop, Pattern Recognition and Machine Learning, Springer 2006
  • S. Haykin, Neural Networks and Learning Machines (3rd Edition), Prentice Hall, 2008
  • J. Shawe-Taylor and N. Cristianini, Kernel Methods for Pattern Analysis, Cambridge University Press, 2004
  • B. Schölkopf and A. J. Smola, Learning with Kernels: Support Vector Machines, Regularization, Optimization, and Beyond, MIT Press 2001
  • R. O. Duda, P. E. Hart, and D. G. Stork, Pattern Classification (2nd Edition), Wiley Interscience, 2000
  • V. Vapnik, Statistical Learning Theory, Wiley Interscience, 1998
  • A. Hyvärinen, J. Karhunen, E. Oja, Independent Component Analysis, Wiley Interscience, 2001
  • K. Diamantaras and S. Y. Kung, Principal Component Neural Networks: Theory and Applications, Wiley Interscience, 1996