Hamiltonte monte carlo

ใครสามารถอธิบายแนวคิดหลักที่อยู่เบื้องหลังวิธีการของ Hamiltonian Monte Carlo และในกรณีใดที่พวกเขาจะให้ผลลัพธ์ที่ดีกว่าวิธีของ Markov Chain Monte Carlo

ฉันเชื่อว่าแหล่งข้อมูลที่ทันสมัยที่สุดใน Hamiltonian Monte Carlo การใช้งานจริงและการเปรียบเทียบกับวิธีการ MCMC อื่น ๆ คือบทความทบทวนฉบับปี 2560 โดย Betancourt:

ความท้าทายขั้นสุดท้ายในการประมาณความคาดหวังความน่าจะเป็นคือการหาปริมาณชุดการกระจายเป้าหมายทั่วไปซึ่งเป็นชุดที่มุ่งเน้นไปที่พื้นผิวที่ซับซ้อนในพื้นที่พารามิเตอร์ Hamiltonian Monte Carlo สร้างการสำรวจที่สอดคล้องกันของการกระจายเป้าหมายที่ราบรื่นโดยใช้ประโยชน์จากรูปทรงเรขาคณิตของชุดทั่วไป การสำรวจที่มีประสิทธิภาพนี้ไม่เพียง แต่ให้ประสิทธิภาพการคำนวณที่ดีกว่าอัลกอริธึมของมาร์คอฟโซ่มอนติคาร์โลอื่น ๆ แต่ยังรับประกันความถูกต้องของตัวประมาณผลลัพธ์ ยิ่งไปกว่านั้นการวิเคราะห์อย่างละเอียดของรูปทรงเรขาคณิตนี้ช่วยให้กลยุทธ์หลักสำหรับการสร้างวิธีการใช้งานที่ดีที่สุดโดยอัตโนมัติช่วยให้ผู้ใช้สามารถมุ่งเน้นความเชี่ยวชาญของพวกเขาในการสร้างแบบจำลองที่ดีกว่าแทนการต่อสู้กับความผิดหวัง ผลที่ตามมา,สแตน (ทีมพัฒนาสแตน, 2017)

มิลโตเนียนมอนติคาร์โล ( HMC ) เดิมชื่อว่าไฮบริดมอนติคาร์โลเป็นรูปแบบของมาร์คอฟเชนมอนติคาร์โลที่มีคำว่าโมเมนตัมและการแก้ไข

"มิลโตเนียน" หมายถึงกลศาสตร์มิลโตเนียน

การใช้เคสเป็นแบบสุ่ม (สุ่ม) สำรวจมิติสูงสำหรับการรวมตัวเลขในพื้นที่ความน่าจะเป็น

ตัดกับ MCMC

ธรรมดา / วานิลลามาร์คอฟเชนมอนติคาร์โล (MCMC) ใช้เฉพาะสถานะสุดท้ายเพื่อกำหนดสถานะถัดไป นั่นหมายความว่าคุณมีแนวโน้มที่จะก้าวไปข้างหน้าเหมือนกับที่คุณได้ย้อนกลับไปในอวกาศที่คุณได้สำรวจแล้ว

MCMC ก็มีแนวโน้มที่จะลอยอยู่นอกพื้นที่หลักที่น่าสนใจในพื้นที่มิติสูงเช่นกัน

สิ่งนี้ทำให้ MCMC ไม่มีประสิทธิภาพมากสำหรับจุดประสงค์ของการรวมตัวเลขในพื้นที่ความน่าจะเป็นหลายมิติ

HMC จัดการปัญหาเหล่านี้อย่างไร

ด้วยการเพิ่มคำศัพท์ HMC ทำให้การสำรวจพื้นที่น่าจะมีประสิทธิภาพมากขึ้นเนื่องจากคุณมีโอกาสที่จะก้าวหน้าไปข้างหน้ามากขึ้นในแต่ละขั้นตอนผ่านพื้นที่น่าจะเป็นของคุณ

HMC ยังใช้Metropolis-Hastingsการแก้ไขเพื่อให้แน่ใจว่ายังคงอยู่และสำรวจพื้นที่ที่มีความน่าจะเป็นมากขึ้น

ในการเขียนคำตอบนี้ฉันพบงานนำเสนอนี้บน HMC เพื่อให้ความกระจ่าง