อัลกอริทึม Gibbs Sampling รับประกันรายละเอียดยอดคงเหลือหรือไม่?

ฉันมีอำนาจสูงสุด¹ที่ Gibbs Sampling เป็นกรณีพิเศษของอัลกอริทึม Metropolis-Hastings สำหรับการสุ่มตัวอย่าง Markov Chain Monte Carlo อัลกอริทึม MH ให้ความน่าจะเป็นในการเปลี่ยนแปลงด้วยคุณสมบัติสมดุลแบบละเอียดเสมอ ฉันคาดหวังว่ากิ๊บส์ก็ควรทำเช่นกัน ดังนั้นในกรณีที่เรียบง่ายต่อไปนี้ฉันผิดไปที่ไหน?

สำหรับการแจกแจงเป้าหมาย$\pi(x, y)$สำหรับตัวแปรสองตัวที่แยกกัน (เพื่อความง่าย) การแจกแจงแบบมีเงื่อนไขเต็มรูปแบบคือ:

$$\begin{align} q_1 (x;y) & =\frac{\pi (x,y)}{\sum_z \pi (z,y)} \\ q_2 (y;x) & =\frac{\pi (x,y)}{\sum_z \pi (x,z)} \end{align}$$

เมื่อฉันเข้าใจการสุ่มตัวอย่างของกิ๊บส์ความน่าจะเป็นในการเปลี่ยนแปลงสามารถเขียนได้:

$$Prob\{(y_1, y_2) \to (x_1, x_2)\} = q_1(x_1; y_2) q_2(x_2; x_1)$$

คำถามคือ แต่ที่ใกล้เคียงที่สุดที่ฉันจะได้รับคือ π ( Y 1 ,

$$\pi(y_1,y_2) Prob\{(y_1, y_2) \to (x_1, x_2)\} \overset{?}{=} \pi(x_1,x_2) Prob\{(x_1, x_2) \to (y_1, y_2)\},$$ มันแตกต่างกันอย่างละเอียดและไม่ได้บ่งบอกถึงความสมดุลโดยละเอียด ขอบคุณสำหรับความคิดใด ๆ ! $$\begin{align} \pi(y_1,y_2) Prob\{(y_1, y_2) & \to (x_1, x_2)\} \\ & = \pi(y_1, y_2) q_2(x_2; x_1) q_1(x_1; y_2) \\ & = \frac{\pi(x_1, x_2)}{\sum_z \pi(x_1,z)}\frac{\pi(x_1, y_2)}{\sum_z \pi(z, y_2)}\pi (y_1, y_2) \\ & = \pi(x_1, x_2) q_2(y_2; x_1) q_1(y_1; y_2) \end{align}$$

คุณพยายามแสดงรายละเอียดยอดคงเหลือสำหรับห่วงโซ่มาร์คอฟที่ได้รับจากการพิจารณาหนึ่งช่วงเปลี่ยนผ่านของห่วงโซ่มาร์คอฟให้เป็น 'กวาดกิ๊บส์' ซึ่งคุณลองชิมส่วนประกอบแต่ละส่วนจากการกระจายตามเงื่อนไข สำหรับห่วงโซ่นี้ยอดรายละเอียดไม่พอใจ ประเด็นก็คือว่าการสุ่มตัวอย่างของส่วนประกอบเฉพาะแต่ละอย่างจากการแจกแจงแบบมีเงื่อนไขเป็นการเปลี่ยนแปลงที่เป็นไปตามความสมดุลของรายละเอียด มันจะแม่นยำมากขึ้นที่จะบอกว่าการสุ่มตัวอย่างของกิ๊บส์เป็นกรณีพิเศษของ Metropolis-Hastings เล็กน้อยที่คุณเลือกระหว่างข้อเสนอที่แตกต่างกันหลายข้อ รายละเอียดเพิ่มเติมติดตาม

เรตติ้งไม่เป็นไปตามความสมดุลอย่างละเอียด

ฉันสร้างตัวอย่างตัวอย่าง พิจารณาตัวแปร Bernoulli สองตัว ( ) โดยมีความน่าจะเป็นดังที่แสดงในตารางต่อไปนี้: $X_1,X_2$ สมมติว่ามีการสั่งให้กวาด Gibbs เพื่อให้X1ถูกสุ่มตัวอย่างก่อน ที่ย้ายมาจากรัฐ(0,0)ให้กับรัฐ(1,1)ในหนึ่งย้ายเป็นไปไม่ได้เพราะจะต้องไปจาก(0,0)เพื่อ(1,0) อย่างไรก็ตามการย้ายจาก(1,1)เป็น(0,0)มีความเป็นไปได้ในเชิงบวกคือ

$$\begin{equation} \begin{array}{ccc} & X_2 = 0 & X_2 = 1 \\ X_1 = 0 & \frac{1}{3} & \frac{1}{3} \\ X_1 = 1 & 0 & \frac{1}{3} \end{array} \end{equation}$$ $X_1$$(0,0)$$(1,1)$$(0,0)$$(1,0)$$(1,1)$$(0,0)$ . ดังนั้นเราจึงสรุปได้ว่ายอดเงินคงเหลือโดยละเอียดไม่เป็นที่พอใจ$\frac{1}{4}$

However, this chain still has a stationary distribution that is the correct one. Detailed balance is a sufficient, but not necessary, condition for converging to the target distribution.

The component-wise moves satisfy detailed balance

$(x_1,x_2)$ and $(y_1,y_2)$ has zero probability in both directions if $x_2 \neq y_2$ and thus for these cases detailed balance clearly holds. Next, consider $x_2 = y_2$:

$$\begin{equation} \pi(x_1,x_2) \mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2)) = \pi(x_1,x_2)\,p(y_1 \mid X_2 = x_2) = \pi(x_1,x_2) \, \frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)} \\ = \pi(y_1,x_2) \, \frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)} = \pi(y_1,x_2) \,p(x_1 \mid X_2 = x_2) = \pi(y_1,x_2) \mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2)). \end{equation}$$

How the component-wise moves are Metropolis-Hastings moves?

Sampling from the first component, our proposal distribution is the conditional distribution. (For all other components, we propose the current values with probability $1$). Considering a move from $(x_1, x_2)$ to $(y_1, y_2)$, the ratio of target probabilities is

$$\begin{equation} \frac{\pi(y_1,x_2)}{\pi(x_1,x_2)}. \end{equation}$$ But the ratio of proposal probabilities is $$\begin{equation} \frac{\mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2))}{\mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2))} = \frac{\frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)}}{\frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)}} = \frac{\pi(x_1,x_2)}{\pi(y_1,x_2)}. \end{equation}$$ So, the ratio of target probabilities and the ratio of proposal probabilities are reciprocals, and thus the acceptance probability will be $1$. In this sense, each of the moves in the Gibbs sampler are special cases of Metropolis-Hastings moves. However, the overall algorithm viewed in this light is a slight generalization of the typically presented Metropolis-Hastings algorithm in that you have alternate between different proposal distributions (one for each component of the target variable).