MCMC แบบปรับได้สามารถเชื่อถือได้หรือไม่?


20

ฉันกำลังอ่านเกี่ยวกับการปรับตัวMCMC (ดูเช่นบทที่ 4 ของคู่มือของมาร์คอฟเชนมอนติคาร์โล , เอ็ดบรูคส์และคณะ, 2011; และAndrieu & Thoms, 2008 )

ผลลัพธ์หลักของโรเบิร์ตและโรเซนธาล (2007)คือถ้ารูปแบบการปรับตัวสอดคล้องกับเงื่อนไขการปรับตัวที่หายไป (รวมถึงเทคนิคอื่น ๆ ) MCMC ที่ปรับตัวได้นั้นเป็นไปตามหลักสรีรศาสตร์ภายใต้โครงการใด ๆ ยกตัวอย่างเช่นการปรับตัวที่หายไปสามารถรับได้อย่างง่ายดายโดยการปรับผู้ประกอบการเปลี่ยนแปลงที่ซ้ำกับความน่าจะเป็นกับ0nพี(n)Limnพี(n)=0

ผลลัพธ์นี้คือ (รูปหลัง) ที่ใช้งานง่ายไม่แสดงอาการ เนื่องจากจำนวนการปรับตัวมีแนวโน้มที่จะเป็นศูนย์ในที่สุดมันจะไม่ยุ่งเหยิงกับการยศาสตร์ ความกังวลของฉันคือสิ่งที่เกิดขึ้นกับเวลาที่จำกัด

  • เราจะรู้ได้อย่างไรว่าการปรับตัวไม่ได้ยุ่งเหยิงในช่วงเวลาที่กำหนดและตัวอย่างนั้นเป็นการสุ่มตัวอย่างจากการแจกแจงที่ถูกต้อง? ถ้ามันสมเหตุสมผลแล้วการเผาไหม้จะต้องทำเท่าไหร่เพื่อให้แน่ใจว่าการปรับตัวก่อนหน้านี้ไม่ได้เป็นการให้น้ำหนักโซ่

  • ผู้ปฏิบัติงานในสาขาเชื่อถือ MCMC ที่ปรับตัวได้หรือไม่? เหตุผลที่ฉันถามคือเพราะฉันได้เห็นวิธีการล่าสุดหลายอย่างที่พยายามสร้างการปรับตัวในวิธีอื่น ๆ ที่ซับซ้อนกว่าซึ่งเป็นที่รู้กันว่าเคารพการยศาสตร์เช่นการฟื้นฟูหรือวิธีการรวมกัน (เช่นมันเป็นเรื่องปกติที่จะเลือกการเปลี่ยนแปลง ผู้ประกอบการที่ขึ้นอยู่กับสถานะของเครือข่ายขนานอื่น ๆ ) อีกวิธีหนึ่งการปรับจะดำเนินการเฉพาะในระหว่างการเบิร์นอินเช่นในสแตนแต่ไม่ได้ทำงานในขณะทำงาน ความพยายามทั้งหมดเหล่านี้แนะนำให้ฉันว่า MCMC แบบปรับตัวตามโรเบิร์ตและโรเซนธาล แต่อาจมีเหตุผลอื่น ๆ

  • สิ่งที่เกี่ยวกับการใช้งานเฉพาะเช่นการปรับตัวของมหานคร Hastings ( Haario et al. 2001 )


อ้างอิง

  • Rosenthal, JS (2011) การแจกแจงข้อเสนอที่ดีที่สุดและ MCMC ที่ปรับตัวได้ คู่มือของ Markov Chain Monte Carlo , 93-112
  • Andrieu ซี & Thoms เจ (2008) การสอนเกี่ยวกับการปรับตัว MCMC สถิติและคอมพิวเตอร์ , 18 (4), 343-373
  • โรเบิร์ตไปและโรเซนธาล, JS (2007) การเชื่อมต่อและความสอดคล้องตามหลักสรีรศาสตร์ของอัลกอริธึมของมาร์คอฟโซ่มอนติคาร์โลที่ปรับได้ วารสารความน่าจะเป็นประยุกต์ , 458-475
  • Haario เอช, Saksman อีและ Tamminen เจ (2001) อัลกอริทึม Metropolis ปรับตัว เบอร์นูลลี , 223-242

1
+1 แต่มีการ จำกัด เวลารับประกันแม้สำหรับ MCMC แบบไม่ปรับตัวหรือไม่
Juho Kokkala

2
@ JuhoKokkala: อาจจะไม่ แต่ดูเหมือนว่าด้วยการปรับตัว MCMC หนึ่งจะเพิ่มอีกชั้นหนึ่งของโหมดที่เป็นไปได้ของความล้มเหลวซึ่งเป็นที่เข้าใจน้อยลงและยากต่อการตรวจสอบมากกว่าปัญหามาตรฐานของการบรรจบกัน (ซึ่งค่อนข้างยากที่จะวินิจฉัย อย่างน้อยนั่นคือความเข้าใจของฉันว่าทำไมผู้ปฏิบัติงาน (ฉันคนหนึ่ง) จะต้องระวัง
lacerbi

1
ฉันคิดว่าการปรับตัวระหว่าง Burnin เป็นวิธีที่ดีที่สุดในการจัดการกับการปรับตัว เห็นได้ชัดว่าถ้าคุณมีพื้นที่ด้านหลังของคุณที่ต้องมีการปรับแต่งที่แตกต่างจากที่อื่นคุณจะมีปัญหา แต่ถ้าเป็นเช่นนั้นถ้าคุณใช้ MCMC แบบปรับตัวเต็มที่คุณจะไม่ได้รับอนุญาตให้ปรับตัวมากนัก .
sega_sai

คำตอบ:


2

เราจะรู้ได้อย่างไรว่าการปรับตัวไม่ได้ยุ่งเหยิงกับการยศาสตร์ตามเวลาที่กำหนดและตัวอย่างนั้นเป็นการสุ่มตัวอย่างจากการแจกแจงที่ถูกต้อง? ถ้ามันสมเหตุสมผลแล้วการเผาไหม้จะต้องทำเท่าไหร่เพื่อให้แน่ใจว่าการปรับตัวก่อนหน้านี้ไม่ได้เป็นการให้น้ำหนักโซ่

Ergodicity at a given finite timeและอคติเกี่ยวกับคุณสมบัติเชิงของห่วงโซ่มาร์คอฟที่พวกเขาบอกอะไรเกี่ยวกับพฤติกรรมและการกระจายของห่วงโซ่มาร์คอฟ Adaptivity มีอะไรจะทำอย่างไรกับปัญหานี้ขั้นตอนวิธีการ MCMC ใด ๆ at a given finite timeที่อาจก่อให้จำลองห่างไกลจากเป้าหมาย


1
(+1) ขอขอบคุณสำหรับความกระจ่าง ใช่ฉันเข้าใจว่าอัลกอริทึม MCMC at a given finite timeไม่มีการค้ำประกัน อย่างไรก็ตามในทางปฏิบัติเราใช้พวกเขาราวกับว่าพวกเขาให้การประมาณเป้าหมายที่ดี / สมเหตุสมผลของการกระจายเป้าหมายในเวลาที่กำหนดแม้ว่าในกรณีส่วนใหญ่จะไม่มีการรับรองทางทฤษฎี (AFAIK มีเพียงไม่กี่กรณีที่เข้าใจทางคณิตศาสตร์) บางทีฉันควรจะพูดว่า "ล้อเล่นกับเวลาผสม "? นั่นคือสิ่งที่ฉันหมายถึง หากคุณมีข้อเสนอแนะเกี่ยวกับวิธีการแก้ไขภาษาโปรดแจ้งให้เราทราบ
lacerbi
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.