Analisi bayesiana, un metodo di inferenza statistica (dal nome del matematico inglese Thomas Bayes) che permette di combinare informazioni a priori su un parametro della popolazione con l’evidenza delle informazioni contenute in un campione per guidare il processo di inferenza statistica. Prima viene specificata una distribuzione di probabilità a priori per un parametro di interesse. Le prove sono poi ottenute e combinate attraverso un’applicazione del teorema di Bayes per fornire una distribuzione di probabilità posteriore per il parametro. La distribuzione posteriore fornisce la base per le inferenze statistiche riguardanti il parametro.
Questo metodo di inferenza statistica può essere descritto matematicamente come segue. Se, in una particolare fase di un’indagine, uno scienziato assegna una distribuzione di probabilità all’ipotesi H, Pr(H)-chiamala probabilità anteriore di H- e assegna probabilità alle prove ottenute E condizionatamente alla verità di H, PrH(E), e condizionatamente alla falsità di H, Pr-H(E), il teorema di Bayes dà un valore per la probabilità dell’ipotesi H condizionatamente alle prove E con la formulaPrE(H) = Pr(H)PrH(E)/.
Una delle caratteristiche interessanti di questo approccio alla conferma è che quando l’evidenza sarebbe altamente improbabile se l’ipotesi fosse falsa – cioè quando Pr-H(E) è estremamente piccola – è facile vedere come un’ipotesi con una probabilità a priori piuttosto bassa possa acquisire una probabilità vicina a 1 quando l’evidenza arriva. (Questo vale anche quando Pr(H) è abbastanza piccola e Pr(-H), la probabilità che H sia falsa, corrispondentemente grande; se E segue deduttivamente da H, PrH(E) sarà 1; quindi, se Pr-H(E) è piccola, il numeratore del lato destro della formula sarà molto vicino al denominatore, e il valore del lato destro si avvicina così a 1.)
Una caratteristica chiave, e un po’ controversa, dei metodi bayesiani è la nozione di una distribuzione di probabilità per un parametro della popolazione. Secondo la statistica classica, i parametri sono costanti e non possono essere rappresentati come variabili casuali. I sostenitori della Bayesiana sostengono che, se il valore di un parametro è sconosciuto, allora ha senso specificare una distribuzione di probabilità che descrive i possibili valori del parametro e la loro probabilità. L’approccio bayesiano permette l’uso di dati oggettivi o di opinioni soggettive nello specificare una distribuzione a priori. Con l’approccio bayesiano, individui diversi potrebbero specificare diverse distribuzioni a priori. Gli statistici classici sostengono che per questo motivo i metodi bayesiani soffrono di una mancanza di obiettività. I sostenitori del Bayesian sostengono che i metodi classici di inferenza statistica hanno una soggettività incorporata (attraverso la scelta di un piano di campionamento) e che il vantaggio dell’approccio Bayesiano è che la soggettività è resa esplicita.
I metodi bayesiani sono stati ampiamente utilizzati nella teoria delle decisioni statistiche (vedi statistica: Analisi delle decisioni). In questo contesto, il teorema di Bayes fornisce un meccanismo per combinare una distribuzione di probabilità precedente per gli stati di natura con informazioni campionarie per fornire una distribuzione di probabilità rivista (posteriore) sugli stati di natura. Queste probabilità posteriori sono poi utilizzate per prendere decisioni migliori.