ฉันสามารถเปลี่ยนการกระจายข้อเสนอเป็น MH MCMC แบบเดินโดยไม่ส่งผลกระทบต่อ Markovianity ได้หรือไม่


14

เดินสุ่มเมือง - Hasitings พร้อมข้อเสนอสมมาตร

Q(x|Y)=ก.(|Y-x|) มีคุณสมบัติที่ความน่าจะเป็นที่ยอมรับได้

P(aอีพีเสื้อ Y)=นาที{1,(Y)/(x)}

ไม่ได้ขึ้นอยู่กับข้อเสนอก.()cdot)

นั่นหมายความว่าฉันสามารถเปลี่ยนก.()เป็นฟังก์ชั่นของการทำงานก่อนหน้าของเชนได้โดยไม่ส่งผลกระทบต่อ markovianity ของ chain หรือไม่?

สิ่งที่น่าสนใจเป็นพิเศษสำหรับฉันคือการปรับขนาดข้อเสนอปกติเป็นฟังก์ชันของอัตราการตอบรับ

จะขอบคุณเป็นอย่างยิ่งหากมีคนสามารถชี้ให้เห็นถึงอัลกอริทึมการปรับตัวที่ใช้ในการปฏิบัติสำหรับปัญหาประเภทนี้

ขอบคุณมาก.

[แก้ไข: เริ่มต้นด้วยการอ้างอิงที่กำหนดโดย robertsy และกระทะฉันพบการอ้างอิงต่อไปนี้บนอัลกอริทึมแบบปรับตัว MH:

Andrieu, Christophe และÉric Moulines 2549.
ในคุณสมบัติความผิดพลาดของอัลกอริทึม MCMC แบบปรับตัวบางตัว พงศาวดารของความน่าจะเป็นประยุกต์ 16, ไม่ 3: 1462-1505 http://www.jstor.org/stable/25442804

Andrieu, Christophe และ Johannes Thoms
2551. สอนเกี่ยวกับ MCMC แบบปรับตัว สถิติและคอมพิวเตอร์ 18 หมายเลข 4 (12): 343-373 ดอย: 10.1007 / s11222-008-9110-Y http://www.springerlink.com/content/979087678366r78v/

Atchadé, Y. , G. Fort, E. Moulines และ P. Priouret 2552.
ดัดแปลงมาร์คอฟโซ่มอนติคาร์โล: ทฤษฎีและวิธีการ preprint

Atchadé, Yves 2010
จำกัด ทฤษฎีบทสำหรับอัลกอริทึม MCMC แบบปรับได้บางส่วนพร้อมเคอร์เนล subgeometric เบอร์โนลลี 16 หมายเลข 1 (กุมภาพันธ์): 116-154 ดอย: 10.3150 / 09 BEJ199 http://projecteuclid.org/DPubS?verb=Display&version=1.0&service=UI&handle=euclid.bj/1265984706&page=record

Cappé, O. , S. J Godsill และ E. Moulines 2550
ภาพรวมของวิธีการที่มีอยู่และความก้าวหน้าล่าสุดใน Monte Carlo ตามลำดับ การดำเนินการของ IEEE 95 ไม่ใช่ 5: 899-924

Giordani, Paolo 2553
เมือง Hastings อิสระที่ปรับเปลี่ยนได้โดยการประมาณค่าเร็วของการผสมของเกณฑ์ปกติ วารสารสถิติคอมพิวเตอร์และกราฟฟิค 19 2 (6): 243-259 ดอย: 10.1198 / jcgs.2009.07174 http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.07174

Latuszynski, Krzysztof, Gareth O Roberts และ Jeffrey S Rosenthal 2554. เครื่องมือ
เก็บตัวอย่างกิ๊บส์และวิธีการ MCMC ที่เกี่ยวข้อง 1101.5838 (30 มกราคม) http://arxiv.org/abs/1101.5838

Pasarica, C. , และ A. Gelman 2009.
ปรับขนาดอัลกอริทึม Metropolis โดยใช้ระยะทางที่เพิ่มขึ้นกำลังสองที่คาดหวัง Statistica Sinica

โรเบิร์ต, Gareth O. 2009.
ตัวอย่างของ MCMC ที่ปรับได้ วารสารการคำนวณและสถิติแบบกราฟิก 18, ฉบับที่ 2 (6): 349-367 ดอย: 10.1198 / jcgs.2009.06134 http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.06134

]


ทำไมคุณไม่มีโบนัส +100 จากบันทึก SO ของคุณ?

@mbq อาจเป็นเพราะฉันได้สร้างบัญชีนี้มานานแล้วเมื่อฉันเป็น 0 บนระบบปฏิบัติการเช่นกัน ... น่าสงสาร, 100 ใน CW ดูเหมือนเป็นเรื่องใหญ่เพราะคุณต้องเป็นคนที่ตอบคำถามได้จริงที่นี่ :)
VitoshKa

คุณสามารถรับโบนัสได้โดยล้างการเชื่อมโยงทั้งหมดแล้วเชื่อมโยงบัญชีอีกครั้ง
กระทะ

คำตอบ:


7

ฉันคิดว่าบทความนี้จาก Heikki Haario และคณะ จะให้คำตอบที่คุณต้องการ ความแปรปรวนของโซ่นั้นได้รับผลกระทบจากการปรับความหนาแน่นของข้อเสนอเนื่องจากค่าที่เสนอใหม่นั้นไม่เพียง แต่จากค่าก่อนหน้านี้เท่านั้น แต่ดูเหมือนว่าลำดับยังคงมีคุณสมบัติที่ดีหากได้รับการดูแลที่ดี


ขอบคุณ robertsy สำหรับการอ้างอิงที่ดี แน่นอนกระบวนการไม่ได้มาร์คอฟ แม้ว่าความน่าจะเป็นที่ยอมรับได้เป็นอิสระจากอดีต แต่เคอร์เนลการเปลี่ยนแปลงของกระบวนการเป็นหน้าที่ของความหนาแน่นของข้อเสนอและขึ้นอยู่กับทั้งห่วงโซ่
VitoshKa

3

คุณสามารถปรับปรุงอัตราการยอมรับโดยใช้การปฏิเสธล่าช้าตามที่อธิบายในTierney, Mira (1999) มันขึ้นอยู่กับฟังก์ชั่นข้อเสนอที่สองและความน่าจะเป็นที่ยอมรับที่สองซึ่งรับประกันว่าห่วงโซ่มาร์คอฟยังคงสามารถย้อนกลับได้ด้วยการกระจายตัวแบบคงที่: คุณต้องระมัดระวังตั้งแต่ " มันง่ายที่จะสร้างวิธีการปรับตัว ตัวอย่างจากการแจกแจงผิด "


3

วิธีการที่แนะนำโดยผู้ใช้กระทะและ robertsy ครอบคลุมตัวอย่างที่อ้างถึงบ่อยที่สุดของสิ่งที่คุณกำลังมองหาที่ฉันรู้ เพียงเพื่อขยายคำตอบเหล่านั้น Haario และ Mira เขียนกระดาษในปี 2006 ที่รวมทั้งสองวิธีวิธีที่พวกเขาเรียกDRAM (ล่าช้าปฏิเสธการปรับตัว Metropolis)

Andrieu มี วิธีการรักษา MCMC แบบปรับตัวที่แตกต่างหลากหลาย (pdf) ซึ่งครอบคลุม Haario 2001 แต่ยังกล่าวถึงทางเลือกต่าง ๆ ที่ได้รับการเสนอในปีที่ผ่านมา


1

นี่เป็นส่วนหนึ่งของการเผยแพร่ของฉันที่ไร้ยางอาย แต่เราทำสิ่งนี้อย่างแน่นอนในงานนี้ ( arxiv ) ในบรรดาสิ่งอื่น ๆ เราเสนอให้ปรับความแปรปรวนของการแจกแจงเอ็กซ์โปเนนเชียลเพื่อปรับปรุงการยอมรับ (ขั้นตอน S3.2 ในอัลกอริทึมในกระดาษ)

1 ) ดังนั้น asymptotically กระบวนการที่ยังคงเป็นมาร์คอฟในจิตวิญญาณเช่นเดียวกับอัลกอริทึมวังกุ๊บ เราตรวจสอบตัวเลขว่ากระบวนการนั้นเป็นไปตามหลักสรีรศาสตร์และตัวอย่างโซ่จากการกระจายเป้าหมายที่เราเลือก (เช่นแผงด้านล่างซ้ายของรูปที่ 4)

เราไม่ใช้ข้อมูลเกี่ยวกับอัตราการยอมรับ แต่เราได้รับการยอมรับโดยไม่ขึ้นกับปริมาณที่เราสนใจ (เทียบเท่ากับพลังงานของระบบสปินด้านล่างขวาของรูปที่ 4)

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.