貝氏統計古典統計.ppt

兩個敞開心胸信念的例子 貝氏極限定理 當先驗的信念是敞開心胸的, 則 當先驗信念是敞開心胸的, 主觀機率會隨著樣本增加而趨近於客觀機率 此外, 我們之前就已經討論過, 當我們知道真實的參數時, 主觀機率與客觀機率將會一致: 貝氏統計與古典統計之比較 貝氏統計與古典統計各有其適用之處 一般的看法是: 個人決策時適用貝氏統計, 提供他人諮詢時, 適用古典統計 貝氏統計強調個人的主觀信念, 而個人的主觀信念則反映其過去的經驗累積。因此, 當你在做決策時需要參考過去經驗時, 貝氏統計是一個不錯的選擇 相對的, 如果別人不認同你的先驗主觀信念, 即使之後的分析再精妙, 依然無法使人認同。因此,如果運用統計學的目的是為了提供他人諮詢, 或是要據此說服別人, 則古典統計就是一個較佳的選擇 貝氏統計與古典統計之不同 貝氏統計 古典統計 基本觀察 μ 未知。根據我的主觀機率評估, 一連串的試驗並非獨立, 亦即觀察到的樣本不是i.i.d. 樣本。 μ 未知但是依據客觀機率,一連串的試驗為i.i.d.。 基本原理 將我對未知參數μ 的信念以隨機變數B 來表示。以我的觀察信念作為統計分析的基礎。 統計分析立基於以上的客觀, 不帶任何主觀信念。 機率性質 主觀機率 客觀機率 統計分析 首先將我的主觀信念以隨機變數B 來表示, 形成先驗分配。 觀察樣本後, 以貝氏法則再塑我對B分配的信念,形成事後分配。 (c) 最後, 利用B 的事後 分配做統計分析。 由於一連串的試驗i.i.d., 方式即使我不知道μ, 只要我觀察的樣本夠多, WLLN 提供我猜測μ 的準度。 主要應用 個人決策 提供諮詢, 說服他人 統計學: 應用與進階 第9 章: 貝氏統計學 貝氏統計學與古典統計學 主觀機率與客觀機率的關連性 貝氏統計與古典統計之比較 貝氏統計學 在統計學中存在兩大派別, 一派稱作古典統計學, 另一派稱作貝氏統計學 古典統計學立基於客觀機率, 而貝氏統計學則仰賴於主觀機率 客觀機率vs. 主觀機率 客觀機率: 銅板的物理性質。亦即, 如果我們把這 枚銅板送到實驗室作檢驗, 確定這枚銅板是完全對 稱的(perfectly balanced), 根據物理性質,出現正面或 反面的機會將會是一半一半, 這就是所謂的客觀機 率 主觀機率代表我們個人主觀的「信念」, 我們「相 信」這枚銅板出現正面或反面的機會是一半一半 。因此, 主觀機率又可以稱作個人機率(personal probability) 客觀機率vs. 主觀機率 也許你會認為, 客觀機率不涉及個人主觀判斷,應該是一個對於機率較佳的詮釋。然而, 問題是我們並無法總是有機會獲知任何一枚特定銅板的物理特性。相反的, 姑且不論個人判斷能力的好壞, 我們總是能夠胡謅一個機率值出來 客觀機率vs. 主觀機率 一般而言, 客觀機率與主觀機率並不相等, 然而,在某些特殊的情形下, 客觀機率會等於主觀機率 舉例來說, 在美國拉斯維加斯的賭場中, 所有的賭具都受到政府法令嚴格的控管, 因此, 如果我們要去玩美式輪盤, 我們主觀的信念是, 小球落入輪盤中任何一個的機率為1/38, 而客觀機率值也是1/38 客觀機率vs. 主觀機率 客觀機率 主觀機率 物理性質 可用統計工具驗證 一般而言未知 個人主觀信念 不需(也不能) 被驗證 總是能夠胡謅 客觀機率vs. 主觀機率 我們以 代表客觀機率, 以 代表主觀機率 如果我們投擲一枚不公正的銅板, 其偏誤率(出現正面機率) 為 令Xi = 1 代表出現正面, Xi = 0 代表出現反面顯而易見地, ~Bernoulli( ) 令 代表投擲n 次中, 出現正面的次數。試問 既然我們可以從兩種角度來詮釋機率, 對於這個問題自然可以有兩種答案 1. 客觀見解: 根據物理性質 每次試驗有兩種可能性(正面或反面) I i , j = 1, . . . , n {Xi} 為i.i.d. 因此, 根據 我們知道 為二項分配: 是故 2. 主觀見解: 根據個人信念 每次試驗有兩種可能性(正面或反面) 每次試驗應具有相同的機率值: 每次試驗是否獨立?假設我們原有的信念為 為了暸解這枚銅板, 我們將其投擲100 次, 結果發現, 出現75 次正面。這個發現將讓我們相信這枚銅板出現正面的機率較大因此, 因此,根據