Το θεώρημα Bayes είναι θεώρημα της θεωρίας των πιθανοτήτων που εισηγήθηκε ο Reverend Thomas Bayes. Μπορεί να κατανοηθί ως η πιθανότητα ότι μια πρόταση είναι αληθής , εν όψει νεών ευρημάτων. Στη φιλοσοφία της επιστήμης έχει χρησιμοποιηθεί στις προσπάθειες να αναγνωριστεί η σχέση μεαξύ μιας προτάσεως (θεωρίας) και των ευρημάτων.
Εκφράζεται με τη σχέση:
P(T/E)=[P(E/T) x P(T)]/(P(E/T)xP(T)+p(El¬T)xp(¬T) (1)
Στην παραπάνω σχέση (1) το Τ αντιστοιχεί με την πρόταση ή την υππόθεση που μας ενδιαφέρει και Ε παρισά ο 'νέο' δεδομένο που φίνεται ότι επιβεβαιώνει ή απορρίπτει την πρόταση. για κάθε πρόταση S, χρησιμοποιούμε το P(S) για να ορίσουμε το βαθμό εμπιστοσύνης μας ή την 'υποκειμενική πιθανότητα' ότι το S είναι αληθές. Ιδιαίτερα, το P(T) παριστά την καλύτερη εκτίμησή μας της πιθανότητας της προτάσεως που θεωρούμε, πριν από τη θεώρηση του νέου δεδομένου. Το τελευταίο είνια γνωστό ως 'προτέρα υπόθεση'.
Αυτό που επιδιώκεται να αποδειχθεί είναι ότι η υοπόθεση είναι ορθή, εν όψει της εμφανίσεως 'νέων δεδομένων'. Αυτό συνιστά μια 'υπό όρους πιθανότητα'. Την πιθανότηα ότι μια πρόταση είναι ορθή, όταν μια άλλη πρόταση επαληθευτεί. Για παράδειγμα, ας υποτεθεί ότι κανείς τραβάει ένα φύλο, από την τράποπυλα των 52 φύλων, χωρίς να μας τη δείξει. Η πιθανόττηα να είναι βαλές είναι 4/52 (1/13). λλά τώρα, παίρνουμε την πληροφορία ότι το φύλο που τραβήχτηκε είναι φιγούρα. Η πιθανότητα, τώρα, το φύλο να είναι βαλές είναι 4/12 ή 1/3, επειδή συνολικά 12 φιγούρες υπάρχουν στην τράπουλα. Παριστούμε την υπό όρους πιθανόττηα ως P(JlF) που σημαίνει τη πιθανότητα το φύλο να είναι βαλές, εάν ε΄λιναι γνωσό ότι είναι φιγούρα. Δεν είναι απαραίτητο να βασιζόμασε στις υπό όρους πιθανότητες, ως πρωταρχική σημείωση. Μπορούμε να ορίσουμε το πρόβλημα ως απόλυτη πιθανότητα: P(A|B) = P(A και B) / P(B), δηλαδή την πιθανότητα ότι Α και Β είναι και τα δό αληθή, διαιρεμένη από την πιθανότητα να είναι αληθές το Β.
Χρησιμοποιώνγας την έννοια της 'υπό όρους πιθανότητας' για να εκφράσουμε αυτό που ζητάμε προκειμένου να χρησιμοποιήσουμε το θεώρημα του Bayes , θεωρούμε ότι η παράσταση P(T|E), δηλαδή η πιθανόττηα να είναι το Τ αληθές, ενόσω το Ε είναι αληθές, είναι μια ύστερη πιθανότητα του Τ. Η ιδέα είναι ότι η παράσταση P(T|E) παριστά την πιθανότητα του Τ μετά τη θεώρηση του νέου δεδομένου, Ε. Για τον υπλογισμό της χρειαζόμαστε, στην προηγούμενη πιθανότητα P(T) δλυο περαιτέρω πρόσθετες 'υπό όρους πιθανότητες' που να δείχνουν πόσο πιθανό είναι ότι το νέο δεδομένο εξαρτάται από το έαν η πρότασή μας είναι ή δεν είναι ορθή. Μπορούμε να παραστήσουμε τον προηγούμενο συλλογισμό ως: P(E|T) και P(E|~T, όπου το ~T είναι η άρνηση του Τ, δηλαδή ότι το Τ είναι ψευδές.