เหตุใดจึงจำเป็นต้องสุ่มตัวอย่างจากการแจกแจงหลังถ้าเรารู้การกระจายตัวหลังแล้ว?

ความเข้าใจของฉันคือเมื่อใช้วิธีการแบบเบย์เพื่อประเมินค่าพารามิเตอร์:

การกระจายหลังคือการรวมกันของการกระจายก่อนหน้าและการกระจายโอกาส
เราจำลองสิ่งนี้โดยการสร้างตัวอย่างจากการแจกแจงด้านหลัง (เช่นการใช้อัลกอริทึม Metropolis-Hasting เพื่อสร้างค่าและยอมรับถ้าพวกเขาอยู่เหนือขีดจำกัดความน่าจะเป็นที่แน่นอนที่จะเป็นของการแจกแจงหลัง)
เมื่อเราสร้างตัวอย่างนี้เราจะใช้มันเพื่อประมาณการกระจายตัวของหลังและสิ่งต่าง ๆ เช่นค่าเฉลี่ย

แต่ฉันรู้สึกว่าฉันต้องเข้าใจผิดบางอย่าง ดูเหมือนว่าเรามีการแจกแจงด้านหลังแล้วสุ่มตัวอย่างจากนั้นใช้ตัวอย่างนั้นเป็นค่าประมาณของการแจกแจงหลัง แต่ถ้าเรามีการกระจายด้านหลังเพื่อเริ่มต้นด้วยเหตุใดเราจึงต้องสุ่มตัวอย่างจากมันถึงค่าประมาณ

— เดฟ
แหล่งที่มา

คำถามนี้ได้รับการพิจารณาแล้วในฟอรัมนี้

เมื่อคุณระบุว่าคุณ "มีการกระจายด้านหลัง" คุณหมายถึงอะไร? "มี" ฟังก์ชั่นของที่ฉันรู้ว่าเป็นสัดส่วนกับหลังคือเช่นเป้าหมายเทียมทั้งหมด $\theta$

π (θ | x) α π (θ) \times ฉ (x | θ)

$\pi(\theta|x) \propto \pi(\theta) \times f(x|\theta)$

ไม่บอกฉันว่าเป็น

π (θ | x) α ประสบการณ์ {- | | θ - x | |^{2} - | | θ + x | |^{4} - | | θ - 2 x | |^{6}}, x, θ \in R^{18},

$\pi(\theta|x)\propto\exp\{-||\theta-x||^2-||\theta+x||^4-||\theta-2x||^6\},\ \ x,\theta\in\mathbb{R}^{18},$

ความคาดหวังหลังของฟังก์ชันเช่น , ค่าเฉลี่ยหลังที่ทำงานเป็นตัวประมาณค่าแบบเบส์ภายใต้การสูญเสียมาตรฐาน; $\theta$ $\mathbb{E}[\mathfrak{h}(\theta)|x]$
การตัดสินใจที่ดีที่สุดภายใต้ฟังก์ชั่นยูทิลิตี้โดยพลการการตัดสินใจที่ช่วยลดการสูญเสียหลังที่คาดว่าจะ;
ช่วงความไม่แน่นอน 90% หรือ 95% ของพารามิเตอร์ (s), sub-vector ของพารามิเตอร์ (s), หรือฟังก์ชั่นของพารามิเตอร์ (s), หรือที่รู้จักในภูมิภาค HPD ${ชั่วโมง = ชั่วโมง (θ); π^{ชั่วโมง} (ชั่วโมง) \geq \underline{ชั่วโมง}}$ $\{h=\mathfrak{h}(\theta);\ \pi^\mathfrak{h}(h)\ge \underline{h}\}$
โมเดลที่น่าจะเป็นไปได้มากที่สุดในการเลือกระหว่างการตั้งค่าส่วนประกอบบางส่วนของพารามิเตอร์เป็นค่าเฉพาะเมื่อเทียบกับการทำให้ไม่ทราบ (และสุ่ม)

นี่เป็นเพียงตัวอย่างของประเพณีการแจกแจงหลัง ๆ มากมาย ในทุกกรณี แต่วิธีที่ง่ายที่สุดฉันไม่สามารถให้คำตอบด้วยการจ้องมองที่ความหนาแน่นของการกระจายหลังและต้องดำเนินการผ่านวิธีแก้ปัญหาตัวเลขเช่น Monte Carlo และ Markov chain Monte Carlo วิธีการ

— ซีอาน
แหล่งที่มา

ขอบคุณมากสำหรับคำตอบที่ซีอาน ฉันแน่ใจว่านี่ตอบคำถามของฉัน แต่ฉันยังคงมีปัญหาเล็กน้อยที่จะเข้าใจ ฉันถูกต้องหรือไม่ที่เรามีฟังก์ชั่นความหนาแน่นของความน่าจะเป็นที่สอดคล้องกับด้านหลัง (เช่นโดยการรวมค่าก่อนหน้าและโอกาส)? ทำไมเราถึงไม่สามารถหา 95% CI ได้โดยตรงจากสิ่งนี้แทนที่จะมาจากการกระจายตัวอย่างหลัง?

— เดฟ

@Dave ฉันคิดว่ากุญแจที่นี่คือสิ่งที่คุณหมายถึงโดย "มี" โดยทั่วไปคุณจะไม่มีโซลูชันแบบปิดดังนั้นคุณจะไม่ "มี" ฟังก์ชั่นในแง่ที่เป็นประโยชน์

— พระภิกษุ

@monk ขอบคุณสำหรับการตอบกลับ! คุณสนใจที่จะอธิบายถึงสิ่งที่ทำให้โซลูชั่นแบบฟอร์มไม่ปิดใช่หรือไม่?

— เดฟ

สมมติว่าก่อนหน้าของคุณคือเบต้า (a, b) และโอกาสของคุณคือทวินาม (n, p) คุณคำนวณค่าที่คาดหวังของลูกหลังของคุณได้อย่างไร ลองใช้ส่วนประกอบสำคัญของผลิตภัณฑ์นั้นด้วยปากกาและกระดาษ โดยทั่วไปอินทิกรัลดังกล่าวจะเป็นสิ่งที่ต้องใช้คอมพิวเตอร์ในการรับค่าที่แม่นยำสำหรับ อีกทางหนึ่งคุณสามารถค้นพบว่าเบต้าเป็นคอนจูเกตก่อน Binomial และดังนั้นหลังจะเป็นเบต้า (พร้อมพารามิเตอร์ที่คำนวณได้ง่าย) แต่บ่อยครั้งที่คุณจะไม่โชคดี การปักคำจำกัดความของ "รูปแบบปิด" เป็นเรื่องยากและควรค่าแก่การอ่านด้วยตัวเอง

— พระภิกษุสงฆ์

ใช่คุณอาจมีการกระจายหลังวิเคราะห์ แต่แกนกลางของการวิเคราะห์แบบเบย์คือการทำให้การกระจายพารามิเตอร์ด้านหลังด้อยลงเพื่อให้คุณได้ผลลัพธ์การทำนายที่ดีขึ้นทั้งในแง่ของความแม่นยำและความสามารถในการวางนัยทั่วไป โดยทั่วไปคุณต้องการได้การแจกแจงการทำนายซึ่งมีแบบฟอร์มต่อไปนี้

$p(x|D)=\int p(x|w) p(w|D)dw$

$p(w|D)$ $p(w|D)$ $p(x|w)$

— Karlsson Yu
แหล่งที่มา