Multivariate Analysis Techniques & Methods for Missing Data

Ο σκοπός αυτής της διπλωματικής εργασίας είναι η παρουσίαση τεχνικών Πολυμεταβλητής Ανάλυσης και ιδιαίτερα αλγορίθμων συσταδοποίησης (clustering). Θα περιγράψουμε μεθόδους για Ελλιπή Δεδομένα και θα εξετάσουμε πως αυτά επηρεάζουν τις στατιστικές διαδικασίες. Στο τέλος της εργασίας αυτής θα αναπτύξου...

Full description

Saved in:
Bibliographic Details
Main Authors: Spitieris, Michael, Σπητιέρης, Μιχάλης
Other Authors: Καραγρηγορίου, Αλέξανδρος
Language:en_US
Published: 2018
Subjects:
Online Access:http://hdl.handle.net/11610/18305
Tags: Add Tag
No Tags, Be the first to tag this record!
_version_ 1828462165965668352
author Spitieris, Michael
Σπητιέρης, Μιχάλης
author2 Καραγρηγορίου, Αλέξανδρος
author_facet Καραγρηγορίου, Αλέξανδρος
Spitieris, Michael
Σπητιέρης, Μιχάλης
author_sort Spitieris, Michael
collection DSpace
description Ο σκοπός αυτής της διπλωματικής εργασίας είναι η παρουσίαση τεχνικών Πολυμεταβλητής Ανάλυσης και ιδιαίτερα αλγορίθμων συσταδοποίησης (clustering). Θα περιγράψουμε μεθόδους για Ελλιπή Δεδομένα και θα εξετάσουμε πως αυτά επηρεάζουν τις στατιστικές διαδικασίες. Στο τέλος της εργασίας αυτής θα αναπτύξουμε δύο νέες μεθόδους υποκατάστασης ελλιπών δεδομένων, οι οποίες ονομάζονται Partition Mean Imputation και Partition Regression Imputation. Στο Κεφάλαιο 1 θα δώσουμε τη σημειογραφία των πολυμεταβητών δεδομένων, θα περιγράψουμε πολυμεταβλητές κατανομές όπως η πολυμεταβλητή κανονική κατανομή, η Whishart και η t-τετράγωνο του Hotelling. Στο Κεφάλαιο 2 θα δούμε τρεις τεχνικές πολυμεταβλητής ανάλυσης, την Ανάλυση Κυρίων Συνιστωσών (Principal Component Analysis ) η οποία χρησιμοποιείται για μείωση διάστασης, την Γραμμική Διαχωριστική Ανάλυση ( Linear Discriminant Analysis ) και τη Συσταδοποίηση (Clustering). Στο Κεφάλαιο 3 θα περιγράψουμε μεθόδους για Ελλιπή Δεδομένα και τους μηχανισμούς που τα δημιουργούν. Το ενδιαφέρον μας θα επικεντρωθεί στις Μεθόδους Υποκατάστασης (Imputation Methods) . Στο Κεφάλιο 4 θα αναλύσουμε τρεις αλγορίθμους ευφυούς συσταδοποίησης (Intelligent Clustering Algorithms), οι οποίοι βελτιώνουν την ακρίβεια της τελικής διαμέρισης χρησιμοποιώντας εξωτερικές πηγές πληροφορίας. Αυτοί οι αλγόριθμοι αποτελούν τροποποιήσεις του διάσημου K-means αλγόριθμου με τέτοιο τρόπο ώστε να ενσωματώνουν στη ρουτίνα τους περιορισμούς. Τα είδη αυτά των περιορισμών χωρίζονται στις κατηγορίες Hard Constraints και Soft Constraints. Ένας σημαντικός αλγόριθμος που θα περιγράψουμε στο κεφάλαιο αυτό έιναι ο KSC algorithm ο οποίος μπορεί να χρησιμοποιηθεί σε δεδομένα τα οποία περιέχουν Ελλείπουσες Τιμές. Ο κώδικας του αλγόριθμου αυτού δημιουργήθηκε στη γλώσσα προγραμματισμού R για τους σκοπούς της διπλωματικής αυτής. Στο Κεφάλαιο 5 θα αναπτύξουμε μία νέα μεθοδολογία η οποία βελτιώνει τις ήδη υπάρχουσες Μεθόδους Υποκατάστασης Ελλιπών Δεδομένων. Με τη χρήση της μεθοδολογίας αυτής θα δημιουργήσουμε δύο νέες μεθόδους για τις οποίες επίσης δημιουργήθηκε ο κώδικας στη γλώσσα προγραμματισμού R.
id oai:hellanicus.lib.aegean.gr:11610-18305
institution Hellanicus
language en_US
publishDate 2018
record_format dspace
spelling oai:hellanicus.lib.aegean.gr:11610-183052019-07-03T09:12:42Z Multivariate Analysis Techniques & Methods for Missing Data Spitieris, Michael Σπητιέρης, Μιχάλης Καραγρηγορίου, Αλέξανδρος Στατιστική και Αναλογιστικά - Χρηματοοικονομικά Μαθηματικά Πολυμεταβλητή ανάλυση Ελλειπή δεδομένα Μέθοδοι υποκατάστασης ελλειπών δεδομένων Αλγόριθμοι συσταδοποίησης Constraint clustering Semi-supervised learning Missing data Imputation methods Partition mean imputation Partition regression imputation Multivariate analysis (URL: http://id.loc.gov/authorities/subjects/sh85088390) Missing observations (Statistics) (URL: http://id.loc.gov/authorities/subjects/sh85086013) Cluster analysis (URL: http://id.loc.gov/authorities/subjects/sh85027250) Algorithms (URL: http://id.loc.gov/authorities/subjects/sh85003487) Ο σκοπός αυτής της διπλωματικής εργασίας είναι η παρουσίαση τεχνικών Πολυμεταβλητής Ανάλυσης και ιδιαίτερα αλγορίθμων συσταδοποίησης (clustering). Θα περιγράψουμε μεθόδους για Ελλιπή Δεδομένα και θα εξετάσουμε πως αυτά επηρεάζουν τις στατιστικές διαδικασίες. Στο τέλος της εργασίας αυτής θα αναπτύξουμε δύο νέες μεθόδους υποκατάστασης ελλιπών δεδομένων, οι οποίες ονομάζονται Partition Mean Imputation και Partition Regression Imputation. Στο Κεφάλαιο 1 θα δώσουμε τη σημειογραφία των πολυμεταβητών δεδομένων, θα περιγράψουμε πολυμεταβλητές κατανομές όπως η πολυμεταβλητή κανονική κατανομή, η Whishart και η t-τετράγωνο του Hotelling. Στο Κεφάλαιο 2 θα δούμε τρεις τεχνικές πολυμεταβλητής ανάλυσης, την Ανάλυση Κυρίων Συνιστωσών (Principal Component Analysis ) η οποία χρησιμοποιείται για μείωση διάστασης, την Γραμμική Διαχωριστική Ανάλυση ( Linear Discriminant Analysis ) και τη Συσταδοποίηση (Clustering). Στο Κεφάλαιο 3 θα περιγράψουμε μεθόδους για Ελλιπή Δεδομένα και τους μηχανισμούς που τα δημιουργούν. Το ενδιαφέρον μας θα επικεντρωθεί στις Μεθόδους Υποκατάστασης (Imputation Methods) . Στο Κεφάλιο 4 θα αναλύσουμε τρεις αλγορίθμους ευφυούς συσταδοποίησης (Intelligent Clustering Algorithms), οι οποίοι βελτιώνουν την ακρίβεια της τελικής διαμέρισης χρησιμοποιώντας εξωτερικές πηγές πληροφορίας. Αυτοί οι αλγόριθμοι αποτελούν τροποποιήσεις του διάσημου K-means αλγόριθμου με τέτοιο τρόπο ώστε να ενσωματώνουν στη ρουτίνα τους περιορισμούς. Τα είδη αυτά των περιορισμών χωρίζονται στις κατηγορίες Hard Constraints και Soft Constraints. Ένας σημαντικός αλγόριθμος που θα περιγράψουμε στο κεφάλαιο αυτό έιναι ο KSC algorithm ο οποίος μπορεί να χρησιμοποιηθεί σε δεδομένα τα οποία περιέχουν Ελλείπουσες Τιμές. Ο κώδικας του αλγόριθμου αυτού δημιουργήθηκε στη γλώσσα προγραμματισμού R για τους σκοπούς της διπλωματικής αυτής. Στο Κεφάλαιο 5 θα αναπτύξουμε μία νέα μεθοδολογία η οποία βελτιώνει τις ήδη υπάρχουσες Μεθόδους Υποκατάστασης Ελλιπών Δεδομένων. Με τη χρήση της μεθοδολογίας αυτής θα δημιουργήσουμε δύο νέες μεθόδους για τις οποίες επίσης δημιουργήθηκε ο κώδικας στη γλώσσα προγραμματισμού R. The purpose of this Thesis is to illustrate Multivariate Analysis Techniques, and specifically intelligent clustering algorithms. We will describe methods for missing data and see how missing values affect the statistical procedures. At the end of this Thesis we will develop two new imputation methods, named Partition Means imputation and Partition Regression imputation. In Chapter 1 we will give the notation of multivariate data, we will describe multivariate distributions such as multivariate Normal distribution, Wishart distribution and the HotellingT 2 distribution. In Chapter 2 we will see three multivariate analysis techniques, Principal Component Analysis (PCA) which used for dimension reduction, Linear Discriminant Analysis (LDA) that is a supervised method used for classification and Clustering which belongs to the family of unsupervised methods. In Chapter 3 we will briefly describe missing data methods. We will describe the mechanisms that generate missing data, Missing Completely at Random (MCAR), Missing at Random (MAR) and Not Missing at Random (NMAR). Furthermore we will describe the following methods: Complete case Analysis, Weighting Procedures, Imputation Methods and Model-Based methods. Specifically we will focus our interest on the imputation techniques. In Chapter 4 we will illustrate three intelligent clustering methods which improve the accuracy of the final partition using external sources of information. These methods modify the K-means in a way such that the original algorithm accommodates a set of constraints. COP Kmeans accommodates a set of Hard constraints, SCOP Kmeans accommodates a set of Soft Constraints and KSC algorithm, a modified Kmeans which can deal with missing data. For the purposes of this Thesis, the code for the last algorithm has been developed in R. In Chapter 5 we will develop two new imputation methods. These new approaches divide the data set into k homogeneous subsets, where each subset is treated as an individual data set. In each subset we will perform mean imputation and regression imputation. 2018-04-17T12:52:19Z 2018-04-17T12:52:19Z 2018-02-20 http://hdl.handle.net/11610/18305 en_US Attribution-NonCommercial-NoDerivatives 4.0 Διεθνές http://creativecommons.org/licenses/by-nc-nd/4.0/ 93 σ. application/pdf Σάμος
spellingShingle Πολυμεταβλητή ανάλυση
Ελλειπή δεδομένα
Μέθοδοι υποκατάστασης ελλειπών δεδομένων
Αλγόριθμοι συσταδοποίησης
Constraint clustering
Semi-supervised learning
Missing data
Imputation methods
Partition mean imputation
Partition regression imputation
Multivariate analysis (URL: http://id.loc.gov/authorities/subjects/sh85088390)
Missing observations (Statistics) (URL: http://id.loc.gov/authorities/subjects/sh85086013)
Cluster analysis (URL: http://id.loc.gov/authorities/subjects/sh85027250)
Algorithms (URL: http://id.loc.gov/authorities/subjects/sh85003487)
Spitieris, Michael
Σπητιέρης, Μιχάλης
Multivariate Analysis Techniques & Methods for Missing Data
title Multivariate Analysis Techniques & Methods for Missing Data
title_full Multivariate Analysis Techniques & Methods for Missing Data
title_fullStr Multivariate Analysis Techniques & Methods for Missing Data
title_full_unstemmed Multivariate Analysis Techniques & Methods for Missing Data
title_short Multivariate Analysis Techniques & Methods for Missing Data
title_sort multivariate analysis techniques methods for missing data
topic Πολυμεταβλητή ανάλυση
Ελλειπή δεδομένα
Μέθοδοι υποκατάστασης ελλειπών δεδομένων
Αλγόριθμοι συσταδοποίησης
Constraint clustering
Semi-supervised learning
Missing data
Imputation methods
Partition mean imputation
Partition regression imputation
Multivariate analysis (URL: http://id.loc.gov/authorities/subjects/sh85088390)
Missing observations (Statistics) (URL: http://id.loc.gov/authorities/subjects/sh85086013)
Cluster analysis (URL: http://id.loc.gov/authorities/subjects/sh85027250)
Algorithms (URL: http://id.loc.gov/authorities/subjects/sh85003487)
url http://hdl.handle.net/11610/18305
work_keys_str_mv AT spitierismichael multivariateanalysistechniquesmethodsformissingdata
AT spētierēsmichalēs multivariateanalysistechniquesmethodsformissingdata