การวินิจฉัยลู่และลู่เข้าแบบเจลแมนและรูบินวิธีทั่วไปในการทำงานกับเวกเตอร์เป็นอย่างไร

การวินิจฉัย Gelman และ Rubin ใช้เพื่อตรวจสอบการลู่เข้าของเชน mcmc หลาย ๆ ตัวที่ทำงานแบบขนาน มันเปรียบเทียบความแปรปรวนภายในห่วงโซ่กับความแปรปรวนระหว่างห่วงโซ่การแสดงออกอยู่ด้านล่าง:

ขั้นตอน (สำหรับแต่ละพารามิเตอร์):

เรียกใช้ m ≥ 2 กลุ่มที่มีความยาว 2n จากค่าเริ่มต้นที่กระจายเกินพิกัด
ยกเลิกการดึง n แรกในแต่ละเชน
คำนวณความแปรปรวนภายในโซ่และระหว่างห่วงโซ่
คำนวณค่าความแปรปรวนโดยประมาณของพารามิเตอร์เป็นผลรวมถ่วงน้ำหนักของความแปรปรวนภายในห่วงโซ่และระหว่างห่วงโซ่
คำนวณปัจจัยการลดขนาดที่อาจเกิดขึ้น
รายการสินค้า

ฉันต้องการใช้สถิตินี้ แต่ตัวแปรที่ฉันต้องการใช้คือเวกเตอร์แบบสุ่ม

มันสมเหตุสมผลไหมที่จะใช้ค่าเฉลี่ยของเมทริกซ์ความแปรปรวนร่วมในกรณีนี้?

mcmc convergence covariance-matrix

— ทิม
แหล่งที่มา

คำแนะนำ: เพียงคำนวณ PSRF แยกต่างหากสำหรับแต่ละองค์ประกอบสเกลาร์

บทความต้นฉบับโดย Gelman & Rubin [1] รวมถึงตำราการวิเคราะห์ข้อมูลแบบเบย์ของ Gelman และคณะ [2] ขอแนะนำให้คำนวณปัจจัยการลดขนาดที่เป็นไปได้ (PSRF) แยกต่างหากสำหรับพารามิเตอร์สเกลาร์แต่ละตัวที่น่าสนใจ ในการอนุมานการลู่เข้าจึงจำเป็นที่ PSRF ทั้งหมดจะใกล้เคียงกับ 1 มันไม่สำคัญว่าพารามิเตอร์ของคุณจะถูกตีความว่าเป็นเวกเตอร์แบบสุ่มส่วนประกอบของมันคือสเกลาร์ที่คุณสามารถคำนวณ PSRF ได้

Brooks & Gelman [3] ได้เสนอการขยาย PSRF หลายตัวแปรซึ่งฉันจะทบทวนในส่วนถัดไปของคำตอบนี้ อย่างไรก็ตามเพื่ออ้าง Gelman & Shirley [4]:

[... ] วิธีการเหล่านี้บางครั้งอาจเป็นตัวแทนของ overkill: พารามิเตอร์แต่ละตัวสามารถประมาณได้ดีแม้ในขณะที่การลู่เข้าใกล้กันของการจำลองการกระจายตัวหลายตัวแปรอาจใช้เวลานานมาก

ทางเลือก: ส่วนขยายหลายตัวแปรโดย Brooks & Gelman

บรูคส์และ Gelman [3] เสนอเป็นส่วนขยายของหลายตัวแปรของ PSRF ที่แน่นอนหนึ่งคำนวณประมาณแปรปรวนเมทริกซ์ (ขั้นตอนที่ 4) เป็นผลรวมถ่วงน้ำหนักของภายในห่วงโซ่ ( ) และระหว่างโซ่ ( ) ความแปรปรวนเมทริกซ์ (ของคุณ ขั้นตอนที่ $W$ $B$

\hat{V} = \frac{n - 1}{n} W + \frac{1}{n} B,

$\begin{equation} \hat{V} = \frac{n-1}{n}W + \frac{1}{n}B, \end{equation}$

n

$n$

\hat{V}, W

$\hat{V},W$

\hat{R} = \underset{a}{สูงสุด} \frac{a^{T} \hat{V} a}{a^{T} W a} = \frac{n - 1}{n} + (\frac{ม. + 1}{ม.}) λ_{1},

$\begin{equation} \hat{R} = \max_a \frac{a^T\hat{V}a}{a^TWa} = \frac{n-1}{n} + \left(\frac{m+1}{m}\right)\lambda_1, \end{equation}$

m

$m$

λ_{1}

$\lambda_1$

W^{- 1} \hat{V} / n

$W^{-1}\hat{V}/n$

λ_{1} \to 0

$\lambda_1\rightarrow 0$

n

$n$

\hat{R}

$\hat{R}$

อ้างอิง

[1] Gelman, Andrew และ Donald B. Rubin "การอนุมานจากการจำลองซ้ำโดยใช้หลายลำดับ" วิทยาศาสตร์ทางสถิติ (1992): 457-472

[2] Gelman, Andrew, และคณะ การวิเคราะห์ข้อมูลแบบเบย์ กด CRC, 2013

[3] Brooks, Stephen P. และ Andrew Gelman "วิธีการทั่วไปสำหรับตรวจสอบการบรรจบกันของการจำลองแบบวนซ้ำ" วารสารการคำนวณและสถิติแบบกราฟิก 7.4 (1998): 434-455

[4] Gelman, Andrew, และ Kenneth Shirley "การอนุมานจากการจำลองและการติดตามคอนเวอร์เจนซ์" (บทที่ 6 ใน Brooks, Steve, et al., eds. คู่มือของ Markov Chain Monte Carlo. CRC Press, 2011. )

บทความทั้งหมดยกเว้นตำรา [2] สามารถดูได้ที่เว็บไซต์ของแอนดรู Gelman ของเว็บไซต์ของแอนดรู Gelman ของ

— Juho Kokkala
แหล่งที่มา