ความสัมพันธ์ระหว่างขนาดของกลุ่มตัวอย่างและอิทธิพลของก่อนหน้านี้กับหลังคืออะไร?

หากเรามีตัวอย่างขนาดเล็กการกระจายก่อนหน้านี้จะมีผลต่อการกระจายหลังหรือไม่?

ใช่. การแจกแจงหลังสำหรับพารามิเตอร์กำหนดชุดข้อมูลสามารถเขียนเป็น$\theta$${\bf X}$

$$p(\theta | {\bf X}) \propto \underbrace{p({\bf X} | \theta)}_{{\rm likelihood}} \cdot \underbrace{p(\theta)}_{{\rm prior}}$$

หรือตามปกติแล้วจะปรากฏบนสเกลบันทึก

$$\log( p(\theta | {\bf X}) ) = c + L(\theta;{\bf X}) + \log(p(\theta))$$

บันทึกความน่าจะเป็น, $L(\theta;{\bf X}) = \log \left( p({\bf X}|\theta) \right)$ , ปรับขนาดด้วยขนาดตัวอย่างเนื่องจากเป็นหน้าที่ของ ข้อมูลในขณะที่ความหนาแน่นก่อนไม่ได้ ดังนั้นเมื่อขนาดตัวอย่างเพิ่มขึ้นค่าสัมบูรณ์ของ$L(\theta;{\bf X})$มีขนาดใหญ่ขึ้นขณะที่$\log(p(\theta))$คงที่ (สำหรับค่าคงที่ของ$\theta$ ) ดังนั้น sum $L(\theta;{\bf X}) + \log(p(\theta))$จะได้รับอิทธิพลอย่างมากจาก$L(\theta;{\bf X})$เมื่อขนาดของกลุ่มตัวอย่างเพิ่มขึ้น

ดังนั้นเพื่อตอบคำถามของคุณโดยตรง - การแจกแจงก่อนหน้านี้มีความเกี่ยวข้องน้อยลงเนื่องจากมีความเป็นไปได้สูงกว่า ดังนั้นสำหรับตัวอย่างขนาดเล็กการกระจายก่อนหน้ามีบทบาทที่ใหญ่กว่ามาก นี้เห็นด้วยกับสัญชาตญาณตั้งแต่ที่คุณคาดหวังว่ารายละเอียดก่อนที่จะมีบทบาทที่มีขนาดใหญ่เมื่อมีข้อมูลไม่มากพร้อมที่จะพิสูจน์ให้พวกเขาในขณะที่ถ้าขนาดของกลุ่มตัวอย่างมีขนาดใหญ่มากในปัจจุบันสัญญาณข้อมูลจะเกินดุลสิ่งเบื้องต้นความเชื่อถูกนำไปเป็นแบบจำลอง

นี่คือความพยายามที่จะแสดงย่อหน้าสุดท้ายในคำตอบที่ยอดเยี่ยม (+1) ของมาโคร มันแสดงให้เห็นสองนักบวชสำหรับพารามิเตอร์ในการกระจายB ฉันn o m ฉันa l ( n , p ) สำหรับn ที่แตกต่างกันเล็กน้อยการแจกแจงหลังจะแสดงเมื่อx = n / 2ถูกสังเกต ในฐานะที่เป็นnเติบโตทั้ง posteriors มากขึ้นและเข้มข้นรอบ1 / 2$p$${\rm Binomial}(n,p)$$n$$x=n/2$$n$$1/2$

สำหรับความแตกต่างค่อนข้างใหญ่ แต่สำหรับn = 50นั้นไม่แตกต่างกัน$n=2$$n=50$

ทั้งสองไพรเออร์ด้านล่างนี้มี (สีดำ) และบีอีที( 2 , 2 ) (สีแดง) ผู้โพสต์มีสีเดียวกันกับนักบวชที่พวกเขาได้มาจาก${\rm Beta(1/2,1/2)}$${\rm Beta(2,2)}$

(โปรดทราบว่าสำหรับรุ่นอื่น ๆ และนักบวชอื่น ๆจะไม่เพียงพอสำหรับรุ่นก่อนหน้านี้ที่ไม่สำคัญ!)$n=50$