ทำไมความสามารถในการแลกเปลี่ยนของตัวแปรสุ่มจึงมีความสำคัญในตัวแบบเบย์เซียนแบบลำดับชั้น?

ทำไมความสามารถในการแลกเปลี่ยนของตัวแปรสุ่มจึงจำเป็นสำหรับการสร้างแบบจำลองแบบเบย์แบบลำดับชั้น?

ความสามารถในการแลกเปลี่ยนนั้นไม่ใช่คุณสมบัติที่สำคัญของโมเดลลำดับชั้น (อย่างน้อยก็ไม่ใช่ในระดับการสังเกต) มันเป็นอะนาล็อกเบย์ของ "อิสระและการกระจายเหมือนกัน" จากวรรณกรรมมาตรฐาน มันเป็นเพียงวิธีการอธิบายสิ่งที่คุณรู้เกี่ยวกับสถานการณ์ในมือ นี่คือที่ "สับ" ไม่ได้แก้ไขปัญหาของคุณ วิธีการหนึ่งที่ผมชอบที่จะคิดว่านี้คือการพิจารณากรณีที่คุณได้รับแต่คุณไม่ได้บอกค่าของเจหากเรียนรู้ว่าจะทำให้คุณต้องสงสัยว่ามีค่าเฉพาะของมากกว่าคนอื่น ๆ ดังนั้นลำดับจะไม่สามารถแลกเปลี่ยนได้ ถ้ามันบอกอะไรคุณเกี่ยวกับ$x_{j}=5$$j$$x_{j}=5$$j$$j$จากนั้นลำดับสามารถแลกเปลี่ยนกันได้ โปรดทราบว่า exhcangeability คือ "ในข้อมูล" มากกว่า "ในความเป็นจริง" - มันขึ้นอยู่กับสิ่งที่คุณรู้

แม้ว่าความสามารถในการแลกเปลี่ยนนั้นไม่จำเป็นในแง่ของตัวแปรที่สังเกตได้ แต่มันอาจเป็นเรื่องยากที่จะปรับให้เข้ากับแบบจำลองใด ๆ โดยไม่ต้องนึกถึงความสามารถในการแลกเปลี่ยนเนื่องจากคุณไม่มีความสามารถในการแลกเปลี่ยน ดังนั้นฉันเดาว่าการอนุมานของคุณจะอ่อนแอกว่านี้มากถ้าคุณไม่มีการแลกเปลี่ยนที่อื่นในโมเดล ตัวอย่างเช่นพิจารณาสำหรับ N หากเป็นที่แลกเปลี่ยนได้อย่างสมบูรณ์แล้วที่นี้หมายถึงและ\หากได้รับการแลกเปลี่ยนแบบมีเงื่อนไขนี่หมายความว่า$x_{i}\sim N(\mu_{i},\sigma_{i})$$i=1,\dots,N$$x_{i}$$\mu_{i}=\mu$$\sigma_{i}=\sigma$$x_{i}$$\mu_{i}$$\sigma_{i}=\sigma$. หากจะได้รับเงื่อนไขแลกเปลี่ยนแล้วที่นี้หมายถึง\แต่โปรดทราบว่าในทั้งสองกรณี "แบบแลกเปลี่ยนได้ตามเงื่อนไข" คุณภาพของการอนุมานจะลดลงเมื่อเทียบกับครั้งแรกเนื่องจากมีพารามิเตอร์พิเศษที่นำไปสู่ปัญหา ถ้าเราไม่มี exchangeability แล้วเราโดยทั่วไปมีปัญหาที่ไม่เกี่ยวข้องกัน$x_{i}$$\sigma_{i}$$\mu_{i}=\mu$$N$$N$

พื้นฐานการแลกเปลี่ยนหมายถึงเราสามารถทำการอนุมานสำหรับและใด ๆที่แลกเปลี่ยนได้บางส่วน$x_{i}\to \text{parameters}\to x_{j}$$i$$j$

"สำคัญ" นั้นคลุมเครือเกินไป แต่ surpressing technicalities ถ้าลำดับเป็นที่แลกเปลี่ยนได้แล้วมีเงื่อนไขอิสระให้บางพารามิเตอร์สังเกต (s)มีการกระจายความน่าจะเป็น\นั่นคือที) ไม่จำเป็นต้องมีการแปรผันหรือแม้กระทั่งมิติที่ จำกัด และอาจถูกนำเสนอเป็นส่วนผสมเพิ่มเติม$X=\{X_i\}$$X_i$$\Theta$$\pi$$p(X) = \int p(X_i|\Theta)d\pi(\Theta)$$\Theta$

ความสามารถในการแลกเปลี่ยนเป็นสิ่งสำคัญในแง่ที่ว่าความสัมพันธ์แบบเป็นอิสระตามเงื่อนไขเหล่านี้ทำให้เราสามารถสร้างแบบจำลองที่เราไม่สามารถทำได้อย่างแน่นอน

มันไม่ใช่! ฉันไม่มีความเชี่ยวชาญที่นี่ แต่ฉันจะให้สองเซ็นต์ของฉัน โดยทั่วไปเมื่อคุณมีรูปแบบลำดับชั้นพูด

$y|\Theta_{1} \sim \text{N}(X\Theta_{1},\sigma^2)$

$\Theta_{1}|\Theta_{2} \sim\text{N}(W\Theta_{2},\sigma^2)$

เรากำหนดสมมติฐานความเป็นอิสระแบบมีเงื่อนไขเช่นเงื่อนไขบน ,สามารถแลกเปลี่ยนได้ หากระดับที่สองไม่สามารถแลกเปลี่ยนได้คุณสามารถเพิ่มระดับอื่นที่ทำให้สามารถแลกเปลี่ยนได้ แต่ถึงแม้ว่าในกรณีที่คุณไม่สามารถสันนิษฐานได้ว่าการแลกเปลี่ยนความเชื่อนั้นแบบจำลองอาจยังคงเหมาะสมกับข้อมูลของคุณในระดับแรก$\Theta_{2}$$\Theta_{1}$

สุดท้าย แต่ไม่ท้ายสุดการแลกเปลี่ยนเป็นเรื่องสำคัญเฉพาะถ้าคุณต้องการคิดในแง่ของทฤษฎีบทการเป็นตัวแทนของ De Finetti คุณอาจคิดว่านักบวชเป็นเครื่องมือทำให้เป็นมาตรฐานที่ช่วยให้คุณพอดีกับโมเดลของคุณ ในกรณีนี้สมมติฐานการแลกเปลี่ยนได้ดีเท่ากับรุ่นของคุณพอดีกับข้อมูล กล่าวอีกนัยหนึ่งถ้าคุณคิดว่ารูปแบบลำดับชั้นแบบเบย์เป็นวิธีที่จะทำให้ผู้สนับสนุนเหมาะสมกับข้อมูลของคุณความสามารถในการแลกเปลี่ยนนั้นไม่จำเป็นในทุกแง่มุม