Θεωρούμε τα σύνολα Α1,A2,...,An τα οποία είναι ξένα μεταξύ τους και αποτελούν διαμέριση του δειγματικού χώρου και ότι P(Ai) > 0 για κάθε i. Τότε για κάθε γεγονός Β ισχύει:
Τα Α1,A2,...,An αποτελούν διαμέριση του δειγματικού χώρου Ω όταν, κάθε δυνατό αποτέλεσμα περιέχεται μόνο σε ένα από τα γεγονότα Α1,...,An (δηλαδή η τομή τους ανά δύο είναι το κενό σύνολο) και για i=1,...,n ισχύει ∪Ai = Ω.
Έστω Α,Β γεγονότα, για P(B)>0 ορίζεται ως εξής:$$P(Α|Β) = \frac{P(A ∩ B)}{P(B)}$$ Δεδομένου ενός πειράματος, του αντίστοιχου δειγματικού χώρου, και ενός νόμου πιθανότητας, υποθέτουμε ότι γνωρίζουμε ότι το αποτέλεσμα είναι εντός κάποιου γεγονότος Β. Ποσοτικοποιούμε, δηλαδή, ότι αυτό το αποτέλεσμα ανήκει σε κάποιο άλλο γεγονός Α, παίρνοντας τη Δεσμευμένη πιθανότητα του Α δεδομένου του Β. Με λίγα λόγια, από τη συνολική πιθανότητα των στοιχείων του Β, η P(A|B) είναι το μέρος που αναλογεί στα δυνατά αποτελέσματα που ανήκουν επίσης στο Α.
Ένα τεστ για κάποια ασθένεια υποτίθεται ότι είναι σωστό 95% των περιπτώσεων εάν ένα άτομο έχει την ασθένεια (P(+|D)=0.95) ενώ αν το άτομο δεν έχει την ασθένεια το τεστ είναι αρνητικό με πιθανότητα P(-|H) = 0.85. Επίσης, ένα άτομο έχει πιθανότητα νόσησης P(D) = 0.25. Η χρησιμότητα του θεωρήματος Bayes έγκειται στο ότι βάσει του αποτελέσματος του διαγνωστικού τεστ μπορούμε να βρούμε την πιθανότητα κάποιος να είναι άρρωστος ή υγιής. Αν λοιπόν, βγει θετικό το τεστ για κάποιον, ποια είναι η πιθανότητα να νοσεί πραγματικά; Αν μεταβάλλετε τις τιμές των πιθανοτήτων πως αλλάζει η αξιοπιστία των τεστ;
Ορισμός:Έστω τα σύνολα Α1,A2,...,An τα οποία είναι ξένα μεταξύ τους και αποτελούν διαμέριση του δειγματικού χώρου και ότι P(Ai) > 0 για κάθε i. Τότε για κάθε γεγονός Β με P(B) > 0 έχουμε:
Έτσι εφαρμόζοντας τον κανόνα του Bayes για να βρούμε την πιθανότητα κάποιος να έχει την ασθένεια βάσει ενός θετικού test παίρνουμε: $$P(D|+) = \frac{P(D)P(+|D)}{P(+)} = \frac{P(D)P(+|D)}{P(D)P(+|D) + P(H)P(+|H)} = 0.75$$
Επίσης, σύμφωνα με το Θεώρημα Συνολικής Πιθανότητας έχουμε: $$P(+) = P(+|D)P(D) + P(+|H)P(H) = 0.3,$$ $$P(-) = P(-|D)P(D) + P(-|H)P(H) = 0.7$$
P(D) =
P(H) = 1 - P(D) =
P(+|D) =
P(-|D) = 1 - P(+|D) =
P(-|H) =
P(+|H) = 1 - P(-|H) =