ตัวอย่างการปฏิบัติสำหรับ MCMC

ฉันกำลังจะไปบรรยายที่เกี่ยวข้องกับ MCMC อย่างไรก็ตามฉันไม่พบตัวอย่างที่ดีของวิธีการใช้งาน ใครช่วยยกตัวอย่างที่เป็นรูปธรรมให้ฉันได้บ้าง ทั้งหมดที่ฉันเห็นคือพวกเขาใช้โซ่มาร์คอฟและบอกว่าการกระจายแบบคงที่คือการกระจายที่ต้องการ

ฉันต้องการตัวอย่างที่ดีที่การแจกแจงที่ต้องการนั้นยากที่จะสุ่มตัวอย่าง ดังนั้นเราจึงสร้างเชนมาร์คอฟ ฉันต้องการทราบวิธีการเลือกเมทริกซ์การเปลี่ยนแปลงเพื่อให้การกระจายแบบคงที่ของเชนมาร์คอฟคือการกระจายเป้าหมายขอบคุณ

ตัวอย่างที่ดีของการแจกแจงที่ยากต่อการสุ่มตัวอย่างคือโมเดล Hard-Core ดูหน้านี้สำหรับภาพรวม:

http://www.mathematik.uni-ulm.de/stochastik/lehre/ss06/markov/skript_engl/node34.html

รุ่นนี้กำหนดการกระจายผ่านกริดสำหรับnคงที่ซึ่งในแต่ละจุดในตารางคุณสามารถมีค่าเป็นหนึ่งหรือศูนย์ เพื่อให้สามารถยอมรับกริดได้ภายใต้โมเดลฮาร์ดคอร์ไม่มีจุดสองจุดติดกันบนกริดสามารถมีค่า 1$n \times n$$n$

ภาพด้านล่างแสดงตัวอย่างการกำหนดค่าที่ยอมรับสำหรับตารางภายใต้รูปแบบฮาร์ดคอร์ ในภาพนี้คนที่แสดงเป็นจุดสีดำและศูนย์เป็นสีขาว โปรดทราบว่าจุดสีดำสองจุดไม่ติดกัน$8 \times 8$

ฉันเชื่อว่าแรงบันดาลใจสำหรับรุ่นนี้มาจากฟิสิกส์คุณสามารถนึกถึงแต่ละตำแหน่งในกริดเป็นอนุภาคและค่าที่ตำแหน่งนั้นแสดงถึงประจุไฟฟ้าหรือสปิน

เราต้องการสุ่มตัวอย่างจากประชากรของกริดที่ยอมรับได้นั่นคือถ้าคือเซตของกริดที่ยอมรับได้เราต้องการตัวอย่างe ∈ Eเช่นนั้น$E$$e \in E$

$p(e) = \frac{1}{|E|}$

ที่ไหนคือจำนวนของการกำหนดค่าที่ยอมรับได้ทั้งหมด$|E|$

สิ่งนี้แสดงถึงความท้าทายเนื่องจากเรากำลังพิจารณา$n \times n$ร่อน, วิธีการที่เราสามารถตรวจสอบจำนวนกริดที่ยอมรับได้ $|E|$

หนึ่งในสิ่งที่ดีเกี่ยวกับ MCMC คือมันช่วยให้คุณสามารถสุ่มตัวอย่างจากการแจกแจงที่ค่าคงที่ normalizing นั้นยากหรือเป็นไปไม่ได้ที่จะประเมิน

ฉันจะให้คุณอ่านกระดาษในรายละเอียดของวิธีการใช้ MCMC สำหรับปัญหานี้ แต่มันค่อนข้างตรงไปตรงมา

ฉันคิดว่าตัวอย่างที่ดีที่สุดที่ฉันสามารถให้คุณได้คือ:

ตัวอย่างมาร์คอฟเชนมอนติคาร์โลโดย Murali Haran

ซึ่งมีรหัสที่เป็นประโยชน์ในอาร์

ฉันคิดว่าฉันสามารถทำซ้ำบทความได้ที่นี่ แต่ไม่มีเหตุผล

ปัญหาที่น่ากลัวอีกประการหนึ่งในสถิติ คำถามนั้นเก่า แต่ตัวอย่างเบื้องต้นก็ยากที่จะเข้าใจ ดังนั้นให้ฉันลดความซับซ้อนของสองตัวอย่างที่ดีเยี่ยมในกรณีที่มีคนติดตามมาร์คอฟเดินอย่างเด็ดขาดใน PageRankที่ MCMC เต็มไปด้วยความคาดหวังและเต็มไปด้วยความคาดหวังเพื่อง่ายต่อการตอบ มีโอกาสมากแค่ไหน? นั่นอาจเป็นคำถามติดตาม

FIRST EXAMPLE:

$N(0,1)$

ปัญหาคือในการตระหนักถึงว่าหลังจากที่จะผ่านทุกขั้นตอนกลที่มีเป็นเพียงหนึ่งในเคล็ดลับที่มีมนต์ขลัง: การตัดสินใจไบนารีของการยอมรับหรือปฏิเสธค่าที่เสนอ

$x$mean$0$sd$~ 1$rnorm(10000)ที่จะง่ายเกินไปเพียงแค่บางสิ่งบางอย่างทำงานตามสายของ

eps$\epsilon$$x_i$$x_{i+1}$runif(1, - eps, eps)$x_i$

ทุกค่าที่เสนอจะแตกต่างจากค่าก่อนในแบบสุ่มและภายในขอบเขตของ [- eps,+ eps]ทุกค่าที่เสนอจึงจะแตกต่างจากมูลค่าก่อนในแฟชั่นแบบสุ่มและภายในขอบเขตของ

$i$$i + 1$

$N(0,1)$$x_{i+1}$$x_{i}$

min(1, dnorm(candidate_value)/dnorm(x))$1$$N(0,1)$ $pdf$$x_{i+1}$$x_i$min(1, ...)dnormที่สูงกว่าอัตราต่อรองของมันได้รับการยอมรับ

min(1, dnorm(candidate_value)/dnorm(x))runif(1)$0$$1$(ใกล้ที่สุดเท่าที่จะได้รับการโยนเหรียญสำหรับค่าอย่างต่อเนื่อง) เรายอมรับและปฏิบัติในx[i+1]การเข้ามาของห่วงโซ่ที่มีค่าที่เสนอ ; มิฉะนั้นเราเติมเต็มด้วยซ้ำที่ค่าก่อนหน้า , x[i]... ความคิดที่จะเป็นดีกว่าสองของเดียวกันมากกว่าหนึ่งที่อยู่ห่างไกลเกินไปในหาง

เราทำเช่นนี้หลายพันครั้งและเรารวบรวมค่าทั้งหมดเหล่านี้ (เฉพาะค่าที่ยอมรับและซ้ำ ๆ ) และเมื่อเราพล็อตฮิสโตแกรมเราจะได้เส้นโค้งปกติที่มีค่าsdใกล้เคียงกับ$1$และมีศูนย์กลางที่ $0$.

จุดสุดท้ายเพียงจุดเดียว: เราจะเริ่มจากตรงไหน? อาจไม่เกี่ยวข้องกัน แต่ในการจำลองเรากรอกค่าแรกเป็น$0$, x = 0; vec[1] = xก่อนที่จะวนลูปผ่านส่วนที่เหลือทั้งหมดของการทำซ้ำและปล่อยให้กระบวนการเป็นไปตามหลักสูตรของ

SECOND EXAMPLE:

นี้เป็นที่น่าตื่นเต้นมากขึ้นและทำให้การอ้างอิงถึงการประมาณค่าพารามิเตอร์ของเส้นโค้งการถดถอยเชิงเส้นโดยการคำนวณโอกาสเกิดบันทึกสำหรับพารามิเตอร์สุ่มรับชุดข้อมูล อย่างไรก็ตามการอธิบายของบรรทัดรหัสถูกสร้างขึ้นในการจำลองแบบย่อที่บันทึกไว้ที่นี่โดยทำตามขั้นตอนที่คล้ายกันมากกับตัวอย่างแรก

วิดีโอ Youtubeนี้เป็นภาพที่แสดงให้เห็นถึงปัญหาง่าย ๆ ที่แก้ไขได้ด้วย MCMC

การกระจายที่น่าสนใจคือการกระจายด้านหลังผ่านทางลาดและจุดตัดที่เป็นไปได้ในการถดถอยเชิงเส้น (แผงด้านขวาบน) การรวมกันของความลาดชันและจุดตัดบางจุดมีความเป็นไปได้สูงมาก (เช่นมีความเป็นไปได้สูงในการสร้างจุดข้อมูลที่สังเกตได้และสอดคล้องกับความคาดหวังเบื้องต้นของเรา) ดังนั้นควรสุ่มตัวอย่างบ่อยๆ ชุดค่าผสมอื่น ๆ ไม่น่าจะเป็นไปได้ (เช่นถ้าตรงกับเส้นสีน้ำเงินที่ไม่ผ่านคลาวด์ของจุดข้อมูล) และควรสุ่มตัวอย่างน้อยกว่า

พาเนลขนาดใหญ่ที่ด้านซ้ายล่างแสดงเส้นทางที่นำโดยโซ่มาร์คอฟผ่านพื้นที่ลาดชันและดักสองมิติ ฮิสโทแกรมแสดงการสรุปแบบหนึ่งมิติของความคืบหน้าของห่วงโซ่ เมื่อโซ่วิ่งมานานพอแล้วเรามีการประมาณค่ากระจายที่ดีมากสำหรับค่าที่เป็นไปได้ของความชันและจุดตัด

ในกรณีนี้ MCMC เกินความเป็นจริง แต่มีปัญหาบางอย่างที่วิธีแก้ปัญหายากที่จะเขียนลงไปและมันก็สมเหตุสมผลที่จะสำรวจความเป็นไปได้ด้วยโซ่มาร์คอฟมากกว่าที่จะพยายามแก้ปัญหาโดยตรง