Οι εντροπίες των Shannon, Tsallis, Renyi και εφαρμογές τους - Γαλανόπουλος, Νικόλαος (2015)
Το θέμα της παρούσας πτυχιακής εργασίας εστιάζεται στη μελέτη των εντροπιών των Shannon, Tsallis, Rényi και στις εφαρμογές τους. Η πτυχιακή εργασία είναι δομημένη σε τρία βασικά κεφάλαια όπου σε καθένα ξεχωριστά ορίζουμε τις αντίστοιχες εντροπίες και μελετάμε τις ιδιότητες που τις χαρακτηρίζουν. Στο τέλος κάθε κεφαλαίου παραθέτουμε τις εφαρμογές.Συγκεκριμένα, στο πρώτο κεφάλαιο αναφέρονται οι έννοιες των πλήρως προσθετικών αριθμητικών συναρτήσεων καθώς και οι ιδιότητές τους. Έπειτα ορίζουμε την εντροπία του Shannon για διακριτές τυχαίες μεταβλητές και εξετάζουμε τις αλγεβρικές (εξισώσεις) και αναλυτικές (ανισώσεις) ιδιότητες που τη διακρίνουν. Η μετάβαση από την εντροπία για διακριτές τυχαίες μεταβλητές στην εντροπία που σχετίζεται με συνεχείς τυχαίες μεταβλητές επιτυγχάνεται με τη βοήθεια του Θεωρήματος 1.5.5. Παραθέτουμε επίσης κάποιες ιδιότητες για τη συνεχή περίπτωση εντροπίας του Shannon. Στις εφαρμογές μελετάμε πρώτα το πρόβλημα της χαμένης πληροφορίας και το μέσο αριθμό των δυαδικών ερωτήσεων που απαιτούνται για την απόκτησή της και στο δεύτερο πρόβλημα ασχολούμαστε με τη βελτιστοποίηση της εντροπίας του Shannon για συναρτήσεις πυκνότητας πιθανότητας που έχουν μηδενική μέση τιμή και πεπερασμένη δεύτερη ροπή (διασπορά).Στο δεύτερο κεφάλαιο επικεντρωνόμαστε στην εντροπία του Tsallis που αποτελεί γενίκευση της εντροπίας των Boltzmann-Gibbs. Αρχικά, εισάγουμε την έννοια της εντροπίας των Boltzmann-Gibbs και μετά ορίζουμε την εντροπία του Tsallis. Από τις ιδιότητες που ικανοποιεί η εντροπία του Tsallis ξεχωρίζουμε και μελετάμε αυτές που σχετίζονται με: τη μη αρνητικότητα, την επεκτασιμότητα, τη μη προσθετικότητα, την κοιλότητα και κυρτότητα, την ευστάθεια κατά Lesche καθώς και τη ψευδοπροσθετική ιδιότητα. Επίσης, διατυπώνουμε (Santos, Khinchin και Abe) και αποδεικνύουμε (Santos) τρία θεωρήματα μοναδικότητας της εντροπίας του Tsallis και Shannon. Εισάγουμε επίσης τις έννοιες του q-γινομένου και q-αθροίσματος που συμβάλλουν σε περαιτέρω γενικεύσεις. Οι εφαρμογές που μελετάμε σχετίζονται με τη στατιστική των κοσμικών ακτίνων, την ατελή τυρβώδη ροή, τα οπτικά πλέγματα και τέλος με το πρόβλημα ευκρίνειας ενός αντικειμένου, με φόντο, σε μια φωτογραφία όπου χρησιμοποιούνται αποκλειστικά αποχρώσεις του γκρι χρώματος. Στο τρίτο κεφάλαιο ορίζουμε την εντροπία του Rényi που αποτελεί μια μαθηματική γενίκευση της εντροπίας του Shannon. Επιπλέον, καταδεικνύουμε τη στενή σχέση που υπάρχει μεταξύ της εντροπίας του Tsallis με την εντροπία του Rényi. Ακολούθως, χρησιμοποιώντας την έννοια του simplex και της q-νόρμας μιας συνάρτησης μάζας πιθανότητας δίνουμε τη γεωμετρική ερμηνεία που έχει η συγκεκριμένη εντροπία. Σαν εφαρμογή θεωρούμε το πρόβλημα επαναδιατύπωσης της κβαντομηχανικής σχέσης αβεβαιότητας για τους τελεστές θέσης και ορμής χρησιμοποιώντας τις αντίστοιχες εντροπίες του Rényi.