MCMC ที่เติมเต็มด้วยความสมดุลโดยละเอียดทำให้การกระจายแบบอยู่กับที่หรือไม่?

ฉันเดาว่าฉันเข้าใจสมการของเงื่อนไขสมดุลโดยละเอียดซึ่งระบุว่าสำหรับความเป็นไปได้ในการเปลี่ยนแปลงและการแจกแจงแบบคงที่ , ห่วงโซ่มาร์คอฟตอบสนองความสมดุลโดยละเอียดถ้าπ q ( x | y ) π ( y ) = q ( y | x ) π ( x ) $q$$\pi$

$$q(x|y)\pi(y)=q(y|x)\pi(x),$$

ทำให้ฉันมีเหตุผลมากขึ้นถ้าฉันย้ำเป็น:

$$\frac{q(x|y)}{q(y|x)}= \frac{\pi(x)}{\pi(y)}.$$

โดยทั่วไปความน่าจะเป็นของการเปลี่ยนจากสถานะเป็นสถานะควรเป็นสัดส่วนกับอัตราส่วนของความหนาแน่นของความน่าจะเป็น$x$$y$

มันไม่เป็นความจริงที่ MCMC ที่เติมเต็มความสมดุลอย่างละเอียดจะให้การกระจายแบบคงที่เสมอ นอกจากนี้คุณยังต้องกระบวนการที่จะอัตลักษณ์ มาดูกันว่าทำไม:

พิจารณาจะเป็นรัฐของชุดทุกรัฐที่เป็นไปได้และระบุได้โดยดัชนีฉันในกระบวนการมาร์คอฟการกระจายวิวัฒนาการตามi p t ( i $x$$i$$p_t(i)$

$$p_t(i) = \sum_{j} \Omega_{j \rightarrow i} p_{t-1}(j)$$

โดยที่เป็นเมทริกซ์ที่แสดงถึงความน่าจะเป็นในการเปลี่ยนแปลง (ของคุณ )$\Omega_{j \rightarrow i}$$q(x|y)$

ดังนั้นเรามีสิ่งนั้น

$$p_t(i) = \sum_{j} (\Omega_{j \rightarrow i})^t p_{0}(j)$$

ความจริงที่ว่าคือความน่าจะเป็นในการเปลี่ยนแปลงหมายความว่าค่าลักษณะเฉพาะของมันต้องอยู่ในช่วง [0,1]$\Omega_{j \rightarrow i}$

เพื่อให้แน่ใจว่าการแจกแจงเริ่มต้นใด ๆมาบรรจบกันกับซีมโทติคคุณต้องแน่ใจว่า$p_{0}(j)$

• 1 มีค่าไอเกนเพียงหนึ่งค่ามีค่า 1 และมีค่าไอเกนิคที่ไม่ซ้ำกันไม่เป็นศูนย์$\Omega$

เพื่อให้มั่นใจว่าคือการกระจายเชิงเส้นกำกับคุณต้องแน่ใจว่า$\pi$

• 2 วิคเตอร์ที่เกี่ยวข้องกับ eigenvalue 1 \$\pi$

Ergodicity หมายถึง 1. สมดุลโดยละเอียดหมายถึง 2. และนั่นคือสาเหตุที่ทั้งสองรูปแบบเป็นเงื่อนไขที่จำเป็นและเพียงพอของการลู่เข้าแบบซีมโทติค

ทำไมความสมดุลโดยละเอียดหมายถึง 2:

เริ่มจาก

$$p(i)\Omega_{ij} = \Omega_{ji} p(j)$$

และการรวมกันของในทั้งสองด้านเราได้$j$

$$p(i) = \sum_{j}\Omega_{ji} p(j)$$

เพราะเนื่องจากคุณเปลี่ยนเครื่องไปที่อื่นเสมอ$\sum_{j} \Omega_{ij} = 1$

สมการข้างต้นคือนิยามของ eigenvalue 1 (ง่ายกว่าที่จะดูว่าคุณเขียนมันในรูปแบบเวคเตอร์หรือไม่ :)

$$1.v = \Omega\cdot v$$

ฉันคิดว่ามันเป็นเพราะ MC ที่ลดทอนไม่ได้หากรายละเอียดที่น่าพอใจนั้นมีการแจกแจงแบบคงที่ที่ไม่ซ้ำกัน แต่เพื่อให้เป็นอิสระจากการแจกแจงเริ่มต้น

ในกรณีของ MCMC เราเริ่มจากจุดข้อมูลแล้วเสนอจุดใหม่ เราอาจหรือไม่อาจย้ายไปยังจุดที่เสนอนั่นคือเรามีการวนรอบตัวเองซึ่งทำให้ MC ไม่สามารถลดลงได้

ตอนนี้โดยอาศัยความพึงพอใจของฐานข้อมูลมันก็มีสถานะกำเริบบวกนั่นคือหมายความว่าเวลากลับไปที่สหรัฐฯมี จำกัด ดังนั้นโซ่ที่เราสร้างใน MCMC นั้นไม่สามารถลดซ้ำได้, aperiodic และการกำเริบเป็นบวก, ซึ่งหมายความว่ามันเป็นโซ่ ergodic

เรารู้ว่าสำหรับโซ่สรีรศาสตร์ที่ลดลงไม่ได้มีการแจกแจงแบบคงที่ซึ่งเป็นเอกลักษณ์และเป็นอิสระจากการกระจายครั้งแรก