การสุ่มตัวอย่าง Metropolis Hastings, Gibbs, สำคัญ, และการปฏิเสธคืออะไรแตกต่างกัน?


36

ฉันได้พยายามเรียนรู้วิธีการ MCMC และได้พบกับการสุ่มตัวอย่าง Metropolis Hastings, Gibbs, ความสำคัญและการปฏิเสธ ในขณะที่ความแตกต่างบางอย่างเห็นได้ชัดคือวิธีการที่กิ๊บส์เป็นกรณีพิเศษของ Metropolis Hastings เมื่อเรามีเงื่อนไขแบบสมบูรณ์ แต่สิ่งอื่น ๆ นั้นชัดเจนน้อยกว่าเช่นเมื่อเราต้องการใช้ MH ในตัวอย่าง Gibbs เป็นต้นไม่มีใครมี วิธีง่ายๆในการดูจำนวนมากของความแตกต่างระหว่างแต่ละเหล่านี้หรือไม่ ขอบคุณ!


3
เลนเมอเรย์กล่าวอย่างนี้ในการบรรยายของเขาอย่างน้อยก็เกี่ยวกับ MCMC
gwr

2
ฉันเห็นด้วยกับซีอานว่านี่เป็นคำถามที่กว้างมาก คุณกำลังขอข้อมูลอย่างมีประสิทธิภาพเกี่ยวกับสิ่งต่าง ๆ สี่อย่างการอภิปรายของสิ่งใดสิ่งหนึ่งที่ (หรือความแตกต่างระหว่างคู่หนึ่งคู่) จะทำเพื่อคำตอบที่ค่อนข้างยาว เราอาจสามารถหาจุดเน้นของคำถามโดยการสังเกตว่าในขณะที่ทั้งสี่เป็นวิธีการมอนติคาร์โลการสุ่มตัวอย่างที่สำคัญและการสุ่มตัวอย่างการปฏิเสธไม่ใช่ MCMC (ซึ่งไม่ได้บอกว่าไม่สามารถใช้ภายใน MCMC ได้)
Glen_b

คำตอบ:


47

ตามรายละเอียดในหนังสือของเรากับ George Casella, วิธีการทางสถิติ Monte Carlo , วิธีการเหล่านี้ใช้ในการผลิตตัวอย่างจากการแจกแจงที่กำหนด, ด้วยความหนาแน่นพูด, เพื่อให้ได้ความคิดเกี่ยวกับการแจกแจงนี้หรือเพื่อแก้ปัญหาการรวมหรือการเพิ่มประสิทธิภาพ . ตัวอย่างเช่นการค้นหาค่าของX h ( x ) f ( x ) d xffหรือโหมดของการแจกแจงของ h ( X )เมื่อ X f ( x )หรือ quantile ของการแจกแจงนี้

Xh(x)f(x)dxh(X)R
h(X)Xf(x)

ในการเปรียบเทียบวิธีมอนติคาร์โลและมาร์คอฟโซ่วิธีมอนติคาร์โลที่คุณกล่าวถึงในเกณฑ์ที่เกี่ยวข้องนั้นจำเป็นต้องใช้วิธีหนึ่งในการกำหนดภูมิหลังของปัญหาและเป้าหมายของการทดลองจำลองเนื่องจากข้อดีและข้อเสียของแต่ละกรณีจะแตกต่างกันไป

ต่อไปนี้เป็นคำพูดทั่วไปบางประการที่แน่นอนไม่ครอบคลุมความซับซ้อนของปัญหา :

  1. fu1,u2,xfffxXf
  2. (xt)tfff
    f(x)Zf~(x,z)dz
    (xt)t(xt)txttfft
  3. g(x)
    f(x)/g(x).
    gfggf

I=Xh(x)f(x)dx,
I^=Xh(x)f(x)dx
f

f

ฉันแค่สงสัยว่าh(x)ค่าเฉลี่ยของรูปธรรมh(x)f(x)dxนั้นเป็นอย่างไรในสถานการณ์การวิเคราะห์แบบเบย์ เรากำลังพยายามที่จะได้รับหลังที่ได้รับก่อนและข้อมูล f(x)แต่ก็ดูเหมือนว่ากับทุกวิธีการสุ่มตัวอย่างเหล่านี้เรากำลังจริงพยายามที่จะใกล้เคียงกับ ดังนั้นจึงสามารถกล่าวได้ว่าf(x)เป็นผู้อยู่ด้านหลังที่เรากำลังมองหาอยู่และh(x)เป็นเพียงฟังก์ชั่นตามอำเภอใจที่เราอาจรวมเข้าด้วยกันกับผู้หลังf(x)? หรือฉันไม่เข้าใจมันอย่างถูกต้อง ขอบคุณ
xji

Xh(x)f(x)dx
fh
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.