คุณต้องปฏิบัติตามหลักการความน่าจะเป็นแบบเบย์หรือไม่?

คำถามนี้ถูกกระตุ้นจากคำถาม: เมื่อใด (ถ้าเคย) เป็นวิธีการที่พบบ่อยดีกว่า Bayesian อย่างมาก?

ในขณะที่ฉันโพสต์ในการแก้ปัญหาของฉันในความคิดของฉันถ้าคุณเป็นนักประดาน้ำที่คุณไม่ต้องเชื่อ / ยึดมั่นในหลักการโอกาส เพราะบ่อยครั้งที่วิธีการบ่อยครั้งจะละเมิดมัน อย่างไรก็ตามและนี่มักจะอยู่ภายใต้สมมติฐานของนักบวชที่เหมาะสมวิธีการแบบเบย์ไม่เคยละเมิดหลักการความน่าจะเป็น

ดังนั้นตอนนี้ที่จะบอกว่าคุณเป็นชาว Bayesian แล้วที่ยืนยันความเชื่อหรือข้อตกลงของคน ๆ หนึ่งในหลักการความน่าจะเป็นหรือเป็นข้อโต้แย้งว่าการเป็นชาว Bayesian นั้นมีผลลัพธ์ที่ดีที่หลักการความน่าจะเป็นไม่ได้ถูกละเมิด?

bayesian likelihood likelihood-principle

— RustyStatistician
แหล่งที่มา

ไม่ - เห็น Jeffreys ก่อน วิธีการแบบเบย์อาจละเมิดหลักการความน่าจะเป็น (ที่แข็งแกร่ง)

— Scortchi - Reinstate Monica

ใช่แน่นอนนักบวช Jeffreys และวิธีการแก้ปัญหาที่ใช้ข้อมูลหลายครั้งเช่นการคาดการณ์หลังมีการละเมิดหลักการความน่าจะเป็น แต่ก็ยังถือว่าเป็น Bayesian ...

— ซีอาน

ไม่จำเป็น. และฉันไม่แน่ใจว่ามันต่างกันอย่างไร

— Scortchi - Reinstate Monica

เปรียบเทียบสิ่งเหล่านั้นกับทวินามและลบทวินาม

— Scortchi - Reinstate Monica

xianblog.wordpress.com/2014/11/13/ …

— Scortchi - Reinstate Monica

ในการใช้ทฤษฎีบทของเบย์ในการคำนวณความน่าจะเป็นด้านหลังซึ่งเป็นการอนุมานเกี่ยวกับพารามิเตอร์ของแบบจำลองหลักการความน่าจะเป็นที่อ่อนแอจะถูกยึดติดโดยอัตโนมัติดังนี้

พี โอ s เสื้อ อี R ผม โอ R α พี R ผม โอ R \times ล. ผม k อี ล. ผม ชั่วโมง โอ โอ d

$\mathrm{posterior} \propto \mathrm{prior} \times \mathrm{likelihood}$

อย่างไรก็ตามในบางวัตถุประสงค์เบย์เข้าใกล้แผนการสุ่มตัวอย่างกำหนดตัวเลือกก่อนหน้าแรงจูงใจที่ไม่เป็นมาก่อนควรเพิ่มความแตกต่างระหว่างการแจกแจงก่อนหน้าและหลังการเพิ่มข้อมูลให้มีอิทธิพลมากที่สุด ดังนั้นพวกเขาจึงละเมิดหลักการความน่าจะเป็นที่แข็งแกร่ง

ตัวอย่างเช่นนักบวช Jeffreys เป็นสัดส่วนกับสแควร์รูทของดีเทอร์มิแนนต์ของข้อมูลฟิชเชอร์ซึ่งเป็นความคาดหวังเหนือพื้นที่ตัวอย่าง พิจารณาการอนุมานเกี่ยวกับพารามิเตอร์ความน่าจะเป็นของการทดลอง Bernoulli ภายใต้การสุ่มตัวอย่างแบบทวินามและลบแบบทวินาม นักบวช Jeffreys คือ $\pi$

\begin{aligned} {ราคา}_{ยังไม่มีข้อความ B} (π) & α π^{- 1} (1 - π)^{- \frac{1}{2}} \\ {ราคา}_{B ผม n} (π) & α π^{- \frac{1}{2}} (1 - π)^{- \frac{1}{2}} \end{aligned}

$\def\Pr{\mathop{\rm Pr}\nolimits} \begin{align} \Pr_\mathrm{NB}(\pi) &\propto \pi^{-1} (1-\pi)^{-\tfrac{1}{2}}\\ \Pr_\mathrm{Bin}(\pi) &\propto \pi^{-\tfrac{1}{2}} (1-\pi)^{-\tfrac{1}{2}} \end{align}$

$x$ $n$

\begin{aligned} {ราคา}_{ยังไม่มีข้อความ B} (π | x, n) ~ B อี เสื้อ a (x, n - x + \frac{1}{2}) \\ {ราคา}_{B ผม n} (π | x, n) ~ B อี เสื้อ a (x + \frac{1}{2}, n - x + \frac{1}{2}) \end{aligned}

$\begin{align} \Pr_\mathrm{NB}(\pi \mid x,n) \sim \mathrm{Beta}(x, n-x+\tfrac{1}{2})\\ \Pr_\mathrm{Bin}(\pi \mid x,n)\sim \mathrm{Beta}(x+\tfrac{1}{2}, n-x+\tfrac{1}{2}) \end{align}$

ดังนั้นการสังเกตว่า 1 ความสำเร็จจากการทดลอง 10 ครั้งจะนำไปสู่การแจกแจงหลังที่แตกต่างกันมากภายใต้แผนการสุ่มตัวอย่างสองแบบ:

แม้ว่าการทำตามกฎดังกล่าวเพื่อให้ได้นักบวชที่ไม่ชำนาญสามารถทำให้คุณเป็นนักบวชที่ไม่เหมาะสมได้ แต่ในตัวมันเองไม่ได้เป็นรากเหง้าของการละเมิดหลักการความน่าจะเป็นที่ได้รับจากการฝึกฝน การประมาณให้กับ Jeffreys ก่อน $\pi^{-1+c} (1-\pi)^{-1/2}$ ที่ไหน $0 < c\ll 1$ ค่อนข้างเหมาะสมและสร้างความแตกต่างเล็กน้อยให้กับผู้อยู่ด้านหลัง

คุณอาจพิจารณาการตรวจสอบรูปแบบ - หรือทำสิ่งใดก็ตามอันเป็นผลมาจากการตรวจสอบของคุณ - ตรงกันข้ามกับหลักการความน่าจะเป็นที่อ่อนแอ กรณีที่ชัดแจ้งในการใช้ส่วนเสริมของข้อมูล

— Scortchi - Reinstate Monica
แหล่งที่มา