อัลกอริทึม Metropolis-Hastings ที่ใช้ในการปฏิบัติ

ฉันกำลังอ่านบล็อกของ Christian Robertวันนี้และค่อนข้างชอบอัลกอริทึม Metropolis-Hastings ใหม่ที่เขาพูดถึง ดูเหมือนง่ายและใช้งานง่าย

เมื่อใดก็ตามที่ฉันเขียนโค้ด MCMC ฉันมักจะติดกับอัลกอริธึม MH ขั้นพื้นฐานมาก ๆ เช่นการเคลื่อนไหวอิสระหรือการเดินสุ่มในระดับบันทึก

อัลกอริธึม MH แบบใดที่ผู้คนใช้เป็นประจำ โดยเฉพาะอย่างยิ่ง:

• ทำไมคุณใช้พวกเขา
• ในบางแง่คุณต้องคิดว่ามันเหมาะสมที่สุด - หลังจากที่คุณใช้มันเป็นประจำ! ดังนั้นคุณจะตัดสินความดีอย่างไร: ความง่ายในการเข้ารหัส, การลู่เข้า, ...

ฉันสนใจเป็นพิเศษในสิ่งที่ใช้ในทางปฏิบัติเช่นเมื่อคุณเขียนรหัสแผนการของคุณเอง

ไฮบริด Monte Carlo เป็นอัลกอริทึมมาตรฐานที่ใช้สำหรับเครือข่ายประสาท การสุ่มตัวอย่างกิ๊บส์สำหรับการจำแนกกระบวนการเกาส์เซียน (เมื่อไม่ได้ใช้การประมาณที่กำหนดขึ้นแทน)

การสุ่มตัวอย่าง MHจะใช้เมื่อการสุ่มตัวอย่างจากการแจกแจงเป้าหมายเป็นไปได้ยาก (เช่นเมื่อก่อนหน้านี้ไม่ได้รวมเข้ากับโอกาส) ดังนั้นคุณใช้การแจกแจงข้อเสนอเพื่อสร้างตัวอย่างและยอมรับ / ปฏิเสธตามความน่าจะเป็นที่ยอมรับ สุ่มตัวอย่างกิ๊บส์อัลกอริทึมเป็นตัวอย่างในด้านการ MH ที่ข้อเสนอที่จะเสมอได้รับการยอมรับ การสุ่มตัวอย่างกิ๊บส์เป็นหนึ่งในอัลกอริทึมที่ใช้กันมากที่สุดเนื่องจากความเรียบง่าย แต่อาจไม่สามารถนำไปใช้ได้เสมอไปซึ่งในกรณีนี้หนึ่งรีสอร์ทสำหรับ MH ขึ้นอยู่กับการยอมรับ / ปฏิเสธข้อเสนอ

ในฟิสิกส์ฟิสิกส์เชิงสถิติโดยเฉพาะอย่างยิ่งอัลกอริธึมชนิดมหานครถูกใช้อย่างกว้างขวาง มีตัวแปรเหล่านี้นับไม่ถ้วนจริง ๆ และมีการพัฒนาใหม่อย่างแข็งขัน เป็นหัวข้อที่กว้างเกินไปที่จะอธิบายสิ่งต่าง ๆ ที่นี่ดังนั้นหากคุณสนใจคุณสามารถเริ่มต้นได้เช่นจากบันทึกการบรรยายเหล่านี้หรือจากหน้าห้องสมุด ALPS (http://alps.comp-phys.org/mediawiki)

ฉันใช้ชิ้นตัวอย่าง - แต่เดิมเสนอโดย Neal (2003) ซึ่งฉันปรับแต่งผ่านการเพิ่มประสิทธิภาพการแก้ปัญหา