วิธีการ MCMC - ตัวอย่างการเผาไหม้?


12

ในMCMCวิธีผมให้อ่านเกี่ยวกับเวลาหรือจำนวนตัวอย่างที่จะburn-in "burn"มันคืออะไรกันแน่และทำไมมันถึงต้องการ?

ปรับปรุง:

เมื่อ MCMC ทรงตัวแล้วมันจะยังคงเสถียรหรือไม่? แนวคิดเรื่องburn-inเวลาเกี่ยวข้องกับเวลาในการผสมอย่างไร?


1
วลี 'การเบิร์นอิน ' ไม่ได้แปลว่า 'การเบิร์น ' ตัวอย่าง แต่ให้ระบบสามารถกำหนดสถานะ "ใหม่" ของมันให้เป็นที่ที่น่าพอใจสำหรับการใช้งาน (ตัวอย่างถูกละทิ้งในระหว่างการตกลงใช่ แต่วลีไม่ได้หมายความว่า 'การเผาไหม้' ในแง่นั้นมันใกล้จะ 'ทำให้เครื่องยนต์อุ่นขึ้น' ก่อนที่จะนำไปใช้บนถนน) ดูคำตอบสำหรับการสนทนาบางส่วนของ มันมีไว้เพื่ออะไร
Glen_b -Reinstate Monica

(โดยเฉพาะย่อหน้าแรกของคำตอบนั้น)
Glen_b -Reinstate Monica

1
@Glen_b ผมคิดว่าผมรู้ว่า แต่ฉันทำเช่นเดียวกับภาพจิตของตัวอย่างที่น่าสงสัยจะขึ้นในควันที่ดีกว่า ....
แมตต์กรอ

คำตอบ:


17

n

แนวคิดก็คือจุดเริ่มต้น "ไม่ดี" อาจมีพื้นที่ตัวอย่างเกินจริงที่มีความน่าจะเป็นต่ำมากภายใต้การกระจายสมดุลก่อนที่มันจะตกลงสู่การกระจายสมดุล หากคุณทิ้งคะแนนเหล่านั้นออกไปคะแนนที่ควรจะไม่เกิดขึ้นจะหายากอย่างเหมาะสม

หน้านี้เป็นตัวอย่างที่ดี แต่ก็ชี้ให้เห็นว่าการเบิร์นอินเป็นเรื่องของการแฮ็ค / การเปลี่ยนรูปมากกว่าเทคนิคแบบหลักการ ในทางทฤษฎีคุณสามารถลองเป็นเวลานานหรือหาวิธีเลือกจุดเริ่มต้นที่ดีแทน

แก้ไข: เวลาในการผสมหมายถึงระยะเวลาที่โซ่ใช้เพื่อเข้าสู่สถานะคงที่ แต่มักจะยากที่จะคำนวณโดยตรง หากคุณรู้ว่าเวลาผสมคุณแค่ทิ้งตัวอย่างจำนวนมาก แต่ในหลาย ๆ กรณีคุณก็ไม่รู้ ดังนั้นคุณเลือกเวลาเบิร์นอินที่หวังว่าจะใหญ่พอแทน

เท่าที่ความมั่นคง - มันขึ้นอยู่กับ หากห่วงโซ่ของคุณมาบรรจบกันแล้ว ... มันมารวมกัน อย่างไรก็ตามยังมีสถานการณ์ที่ห่วงโซ่ดูเหมือนจะมีการรวมกัน แต่จริงๆแล้วเป็นเพียง "ห้อยออก" ในส่วนหนึ่งของพื้นที่รัฐ ตัวอย่างเช่นลองจินตนาการว่ามีหลายโหมด แต่แต่ละโหมดเชื่อมต่อไม่ดีกับโหมดอื่น ๆ อาจใช้เวลานานมากสำหรับตัวอย่างเพื่อให้ข้ามช่องว่างนั้นและมันจะดูเหมือนเชนมาบรรจบกันจนทำให้มันกระโดด

มีการวินิจฉัยสำหรับการบรรจบกัน แต่หลายคนมีเวลายากที่จะบอกการบรรจบกันที่แท้จริงและการลู่เข้าแบบหลอกเทียม บทที่ชาร์ลส์เยเยอร์ (# 1) ในคู่มือของมาร์คอฟเชนมอนติคาร์โลเป็นสิ่งที่มองโลกในแง่ร้ายเกี่ยวกับทุกอย่าง แต่การใช้โซ่ให้นานที่สุด


ขอบคุณ ฉันได้เพิ่มการอัพเดทเล็กน้อยสำหรับ OP ด้วยความหวังว่าจะทำให้แนวคิดชัดเจนยิ่งขึ้น
Amelio Vazquez-Reina

ฉันเพิ่มอีกเล็กน้อย หวังว่าจะช่วย
Matt Krause

6

อัลกอริทึม Metropolis-Hastings สุ่มตัวอย่างจากการกระจายหลัง โดยปกติแล้วตัวอย่างเริ่มต้นจะไม่ถูกต้องสมบูรณ์เพราะห่วงโซ่มาร์คอฟไม่ได้เสถียรกับการกระจายแบบอยู่กับที่ การเผาไหม้ในตัวอย่างช่วยให้คุณสามารถทิ้งตัวอย่างเริ่มต้นเหล่านี้ที่ยังไม่อยู่กับที่


1
ขอบคุณ - เมื่อโซ่มาร์คอฟทรงตัวแล้วมันจะยังคงเสถียรหรือไม่? สิ่งนี้เกี่ยวข้องกับแนวคิดเรื่องเวลาผสมกันอย่างไร? มันเหมือนกันหรือไม่
Amelio Vazquez-Reina
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.