Απόκλιση Kullback–Leibler

Στην θεωρία πληροφορίας, η απόκλιση Kullback-Leibler (KL) (ή σχετική εντροπία) μεταξύ δύο κατανομών πιθανότητας p και q ορίζεται ως Για διακριτές τυχαίες μεταβλητές με πεδίο ορισμού \mathcal, αυτή η ποσότητα είναι ίση με και για συνεχείς τυχαίες μεταβλητές είναι ίση με Η ποσότητα αυτή μπορεί να ερμηνευτεί ως η αναμενόμενη τιμή της έξτρα πληροφορίας πουχρειάζεται για να κωδικοποιήσουμε την τυχαία μεταβλητή X με κατανομή p υποθέτοντας ότι στην πραγματικότητα έχει κατανομή q. Η συνάρτηση είναι απόκλιση και όχι μετρική απόσταση καθώς δεν ικανοποιεί την τριγωνική ανισότητα ούτε είναι συμμετρική.

2 συγγένειες: Κατανομή πιθανότητας, Ανεξαρτησία (Θεωρία πιθανοτήτων).

Κατανομή πιθανότητας

Στην θεωρία πιθανοτήτων και στην στατιστική, η κατανομή πιθανοτήτων αποδίδει την πιθανότητα σε κάθε μετρήσιμο υποσύνολο των πιθανών αποτελεσμάτων τουτυχαίουπειράματος, της έρευνας, ή την διαδικασία της επαγωγικής στατιστικής.

Νέος!!: Απόκλιση Kullback–Leibler και Κατανομή πιθανότητας · Δείτε περισσότερα »

Ανεξαρτησία (Θεωρία πιθανοτήτων)

Στην θεωρία πιθανοτήτων, δύο γεγονότα A και B λέγονται ανεξάρτητα όταν γνωρίζοντας αν έγινε το ένα από τα δύο, δεν λαμβάνουμε πληροφορίες για το αν έγινε το άλλο.

Νέος!!: Απόκλιση Kullback–Leibler και Ανεξαρτησία (Θεωρία πιθανοτήτων) · Δείτε περισσότερα »

Υνιονπαίδεια είναι ένα χάρτη έννοια ή σημασιολογικό δίκτυο, οργανώθηκε σαν μια εγκυκλοπαίδεια - λεξικό. Δίνει μια σύντομη ορισμός της κάθε έννοιας και τις σχέσεις του.

Αυτό είναι ένα τεράστιο σε απευθείας σύνδεση νοητικό χάρτη που χρησιμεύει ως βάση για εννοιοδιαγραμμάτων. Είναι ελεύθεροι να χρησιμοποιούν και μπορείτε να το κατεβάσετε κάθε αντικείμενο ή έγγραφο. Είναι ένα εργαλείο, πόρο ή αναφοράς για τη μελέτη, την έρευνα, την εκπαίδευση, τη μάθηση ή διδασκαλία, που μπορεί να χρησιμοποιηθεί από τους εκπαιδευτικούς, τους εκπαιδευτικούς, τους μαθητές ή τους φοιτητές; για το ακαδημαϊκό κόσμο: για το σχολείο, πρωτοβάθμια, δευτεροβάθμια, λύκειο, μέση, τεχνική βαθμό, κολέγιο, πανεπιστήμιο, προπτυχιακό, μεταπτυχιακό ή διδακτορικό δίπλωμα; για τα έγγραφα, εκθέσεις, σχέδια, ιδέες, τεκμηρίωση, έρευνες, περιλήψεις, ή διατριβή. Εδώ είναι ο ορισμός, εξήγηση, περιγραφή, ή το νόημα της κάθε σημαντικής για την οποία χρειάζεστε πληροφορίες, καθώς και κατάλογο των συναφών εννοιών τους ως γλωσσάρι. Διατίθεται στα Ελληνικά, Αγγλικά, Ισπανικά, Πορτογαλικά, Ιαπωνικά, Κινέζικα, Γαλλική γλώσσα, Γερμανός, Ιταλικός, Στίλβωση, Ολλανδός, Ρωσική, Αραβικός, Χίντι, Σουηδικά, Ουκρανός, Ουγγρικός, Καταλανικά, Τσέχος, Εβραϊκά, Δανικός, Φινλανδικός, Ινδονησίας, Νορβηγός, Ρουμανικός, Τούρκικος, Βιετνάμ, Κορεάτης, Ταϊλάνδης, Βούλγαρος, Κροατία, Σλοβάκος, Της Λιθουανίας, Φιλιππίνος, Της Λετονίας, Εσθονική και Της Σλοβενίας Περισσότερες γλώσσες σύντομα.

Όλες οι πληροφορίες που εξήχθη από target="_blank" Βικιπαίδεια, και είναι διαθέσιμα υπό την άδεια Creative Commons Attribution-ShareAlike License.

Η Υνιονπαίδεια δεν υποστηρίζεται ούτε συνδέεται με το Ίδρυμα Wikimedia.

Η επωνυμία Google Play, Android και το λογότυπο Google Play αποτελούν εμπορικά σήματα της Google Inc.

Πολιτική Προστασίας Προσωπικών Δεδομένων