ตัวประเมิน MCMC ที่แข็งแกร่งของความเป็นไปได้ที่จะเกิดขึ้น?


9

ฉันพยายามคำนวณความเป็นไปได้เล็กน้อยสำหรับแบบจำลองทางสถิติด้วยวิธีมอนติคาร์โล:

(x)=(x|θ)π(θ)dθ

ความเป็นไปได้มีความประพฤติดี - ราบรื่นเว้าเข้าสู่ระบบ - แต่มิติสูง ฉันได้ลองการสุ่มตัวอย่างที่สำคัญ แต่ผลลัพธ์นั้นไม่น่าสนใจและขึ้นอยู่กับข้อเสนอที่ฉันใช้ ฉันพิจารณาทำมิลโตเนียนมอนติคาร์โลสั้น ๆ เพื่อคำนวณตัวอย่างหลังสมมติว่ามีชุดเครื่องแบบมาก่อนθและการใช้ค่าเฉลี่ยฮาร์โมนิจนกระทั่งผมเห็นนี้ บทเรียนที่ได้เรียนรู้ค่าเฉลี่ยฮาร์มอนิกสามารถมีความแปรปรวนไม่สิ้นสุด มีตัวประมาณ MCMC ทางเลือกที่เกือบจะง่าย แต่มีความแปรปรวนที่มีพฤติกรรมดีหรือไม่?


คุณสามารถพิจารณาการสุ่มตัวอย่างมอนเต้คาร์โลพื้นฐานจากก่อนหน้านี้ (x)=Eπ(θ)((x|θ))
ความน่าจะเป็นที่จะเกิดขึ้น

1
นั่นเป็นวิธีหนึ่งที่เป็นไปได้ ในกรณีนี้โปรดจำไว้ว่านักบวชที่ไม่เหมาะสมไม่ได้รับอนุญาตอีกต่อไปและนักบวชที่ได้รับการสนับสนุนอย่างมากอาจทำให้การประมาณค่า Monte Carlo เป็นเรื่องยาก
เซน

1
เป็นหนังสือที่สมบูรณ์เกี่ยวกับปัญหาคือเฉิน Shao และอิบราฮิม (2001) นอกจากนี้คุณยังสามารถค้นหาคำหลักเช่นการสุ่มตัวอย่างแบบซ้อนซ้อนการสุ่มตัวอย่างสะพานการสุ่มตัวอย่างการป้องกันตัวกรองอนุภาค Savage-Dickey
ซีอาน

คำตอบ:


8

วิธีการเกี่ยวกับการสุ่มตัวอย่างความสำคัญอบอ่อน ? มันมีมากแปรปรวนต่ำกว่าการสุ่มตัวอย่างสำคัญปกติ ฉันเคยเห็นมันเรียกว่า "มาตรฐานทองคำ" และไม่ยากที่จะใช้งานมากกว่าการสุ่มตัวอย่างความสำคัญ "ปกติ" ในแง่ที่ว่าคุณต้องทำการ MCMC เป็นจำนวนมากสำหรับแต่ละตัวอย่าง แต่แต่ละตัวอย่างมีแนวโน้มที่จะมีคุณภาพสูงมากดังนั้นคุณจึงไม่จำเป็นต้องใช้มันมากนักก่อนที่การประมาณของคุณจะเสร็จสมบูรณ์

ทางเลือกที่สำคัญอื่น ๆ คือการสุ่มตัวอย่างความสำคัญตามลำดับ ความรู้สึกของฉันคือมันค่อนข้างตรงไปตรงมาที่จะใช้ แต่มันต้องมีความคุ้นเคยกับลำดับ Monte Carlo (การกรองอนุภาค AKA) ซึ่งฉันขาด

โชคดี!

แก้ไขเพื่อเพิ่ม : ดูเหมือนว่าโพสต์บล็อก Radford Neal ที่คุณเชื่อมโยงไปยังแนะนำการสุ่มตัวอย่างความสำคัญของ Annealed แจ้งให้เราทราบว่ามันทำงานได้ดีสำหรับคุณ


2

สิ่งนี้อาจช่วยในการระบายแสงในการคำนวณการกระจายแบบเล็กน้อย นอกจากนี้ผมอยากจะแนะนำให้ใช้วิธีการผ่าน posteriors อำนาจแนะนำให้รู้จักกับฟริลและ Pettitt วิธีนี้ดูเหมือนจะค่อนข้างดีแม้ว่าจะมีข้อ จำกัด อยู่บ้าง หรือคุณสามารถประมาณ Laplace ของการกระจายด้านหลังด้วยการแจกแจงแบบปกติ: ถ้าฮิสโตแกรมจาก MCMC มีลักษณะสมมาตรและเหมือนปกติกว่านี้อาจเป็นการประมาณที่ค่อนข้างดี

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.