MCMC กำลังรวมเป็นค่าเดียวหรือไม่


13

ฉันกำลังพยายามปรับให้เข้ากับโมเดลลำดับชั้นโดยใช้ jags และแพ็คเกจ rjags ตัวแปรผลลัพธ์ของฉันคือ y ซึ่งเป็นลำดับของการทดลองเบอโนลลี ฉันมี 38 วิชามนุษย์ที่มีประสิทธิภาพภายใต้สองประเภท: P เมตรและจากการวิเคราะห์ของฉันลำโพงทุกคนมีความน่าจะเป็นของความสำเร็จในหมวดหมู่ของ Pและความน่าจะเป็นของความสำเร็จในหมวดหมู่ของ M \ฉันยังสมมติว่ามีบาง hyperparameter ระดับชุมชนของ P และ M:และ\θpθp×θmμpμm

ดังนั้นสำหรับผู้พูดทุกคน: และที่และควบคุมวิธีแหลมกระจายอยู่รอบ ๆและ\θpbeta(μp×κp,(1μp)×κp)θmbeta(μm×κm,(1μm)×κm)κpκmμpμm

นอกจากนี้ยัง ,B_m)μpbeta(Ap,Bp)μmbeta(Am,Bm)

นี่คือรูปแบบ jags ของฉัน:

model{
## y = N bernoulli trials
## Each speaker has a theta value for each category
for(i in 1:length(y)){
    y[i] ~ dbern( theta[ speaker[i],category[i]])
}

## Category P has theta Ptheta
## Category M has theta Ptheta * Mtheta
## No observed data for pure Mtheta
##
## Kp and Km represent how similar speakers are to each other 
## for Ptheta and Mtheta
for(j in 1:max(speaker)){
    theta[j,1] ~ dbeta(Pmu*Kp, (1-Pmu)*Kp)
    catM[j] ~ dbeta(Mmu*Km, (1-Mmu)*Km)
    theta[j,2] <- theta[j,1] * catM[j]
}

## Priors for Pmu and Mmu
Pmu ~ dbeta(Ap,Bp)
Mmu ~ dbeta(Am,Bm)

## Priors for Kp and Km
Kp ~ dgamma(1,1/50)
Km ~ dgamma(1,1/50)

## Hyperpriors for Pmu and Mmu
Ap ~ dgamma(1,1/50)
Bp ~ dgamma(1,1/50)
Am ~ dgamma(1,1/50)
Bm ~ dgamma(1,1/50)
}

ปัญหาที่ผมมีอยู่ว่าเมื่อผมทำงานแบบนี้ด้วยซ้ำ 5000 สำหรับการปรับตัวแล้วใช้ 1,000 ตัวอย่างMmuและKmได้แปรสภาพไปเป็นค่าเดียว ฉันใช้มันด้วยโซ่ 4 เส้นและแต่ละโซ่ไม่มีค่าเท่ากัน แต่ภายในแต่ละโซ่มีเพียงค่าเดียว

ฉันค่อนข้างใหม่ในการปรับนางแบบลำดับชั้นโดยใช้วิธีการ MCMC ดังนั้นฉันจึงสงสัยว่านี่มันแย่แค่ไหน ฉันควรจะใช้สิ่งนี้เป็นสัญญาณว่ารุ่นนี้หมดหวังที่จะพอดีสิ่งที่ผิดกับนักบวชของฉันหรือเป็นตราไว้สำหรับหลักสูตรนี้หรือไม่

แก้ไข: ในกรณีที่มีความสำคัญค่าสำหรับแปรสภาพเป็น (เฉลี่ยข้ามกลุ่ม) เท่ากับ 0.91 และเท่ากับ 1.78μmκm


หากฉันเข้าใจคุณอย่างถูกต้องพารามิเตอร์เหล่านี้ "รวมกัน" ในค่าคงที่หนึ่งค่าในแต่ละเชน (หลังจากการวนซ้ำบางค่าซึ่งไม่เปลี่ยนแปลงเลย) แต่ค่านั้นแตกต่างกันสำหรับทุกเชนที่คุณเรียกใช้หรือไม่ นั่นฟังดูไม่ดีเหมือนอาจเป็นขั้นตอนที่เลวร้ายอย่าง Metropolis Hastings มันอาจเป็นโมเดลของคุณมันอาจเป็น JAGS มันอาจเป็นการรวมกันของทั้งสองอย่าง สมมุติว่ารุ่นนี้ใช้เวลาไม่นานเกินไปดังนั้นฉันจะลองใช้โซ่ที่ยาวกว่า (มาก) ก่อนโดยเฉพาะในช่วงที่ปรับตัว
JMS

ดังนั้นฉันอัปเดตโมเดลด้วยการวนซ้ำซ้ำอีก 5,000 ครั้งและพารามิเตอร์ที่เป็นปัญหาไม่ได้ขยับเขยื่อนไป ฉันไม่ทราบว่าพวกเขาสามารถตกอยู่ใน minima ท้องถิ่นเช่นนี้
JoFrhwld

1
sugesstions อย่างรวดเร็ว: 1 ลองใช้ dbin ด้วย n = 1 และใช้ขอบเขตเพื่อ จำกัด ค่าของ p บางสิ่งเช่นนี้: p.bound [i] <- สูงสุด (0, นาที (1, p [i]))
Manoel Galdino

1
คำถามที่ชี้แจงสองสามข้อ: 1. คุณมี 38 วิชาภายใต้หมวด P และ 38 วิชาในหมวด M เช่นความยาว (y) = 76? 2. คุณสามารถให้ข้อมูลพื้นฐานเพิ่มเติมเกี่ยวกับเหตุผลสำหรับ hyperparamters และการทดสอบได้หรือไม่ มันค่อนข้างสับสนสำหรับฉัน
Manoel Galdino

1
ฉันอาจจะแก้ไขไฮเปอร์พารามิเตอร์ทั้งหมดเช่นใน theta [j, 1] ~ dbeta (1.1, 1.1) หรืออะไรบางอย่างแล้วดูว่าคุณได้ผลลัพธ์อะไรบ้างก่อนที่จะพยายามไปยังไฮเปอร์ไพรส์ นอกจากนี้ theta [j, 2] ก่อนหน้านี้เป็นผลิตภัณฑ์ของสอง betas ซึ่งโดยทั่วไปไม่ได้เป็นเบต้าเองและแน่นอน theta [j, 2] <theta [j, 1] เป็นผลลัพธ์ ดูเหมือนว่าคุณตั้งใจจะทำสิ่งนี้; เพิ่งออกมาจากความอยากรู้ทำไม?
jbowman

คำตอบ:


2

นี่เป็นความคิดเห็นเพิ่มเติม แต่เนื่องจากฉันมีชื่อเสียงไม่เพียงพอฉันก็อาจตอบได้เช่นกัน

จากประสบการณ์ที่ จำกัด กับตัวเก็บตัวอย่าง MCMC สิ่งที่ฉันสังเกตเห็นคือพารามิเตอร์มักจะคงที่เมื่อพารามิเตอร์ไฮเปอร์พารามิเตอร์แคบเกินไป ขณะที่พวกเขาควบคุมการแพร่กระจายของพารามิเตอร์พวกเขาป้องกันไม่ให้พื้นที่ตัวอย่างที่จะได้อย่างมีประสิทธิภาพตัวอย่าง

พยายามที่จะใช้ค่าที่มากขึ้นสำหรับพารามิเตอร์และดูว่าเกิดอะไรขึ้น

เอกสารทางเทคนิคนี้ช่วยฉันได้มากในการทำความเข้าใจกับตัวอย่าง MCMC มันประกอบด้วยสองตัวอย่าง, กิ๊บส์ (หนึ่งที่คุณใช้) และไฮบริดมอนติคาร์โลและอธิบายวิธีการเลือกนักบวช, ไฮเปอร์พาวเวอร์และค่าสำหรับพารามิเตอร์และพารามิเตอร์อย่างรวดเร็ว


0

นี่อาจเป็นปัญหาของโครงสร้างของโซ่ จุดที่คุณลงเอยนั้นขึ้นอยู่กับว่าคุณเริ่มจากตรงไหน ในการใช้ MCMC คุณต้องการให้สายโซ่นั้นกำเริบซึ่งหมายความว่าไม่ว่าคุณจะเริ่มจากตรงไหนคุณสามารถไปถึงสถานะอื่น ๆ ในพื้นที่รัฐ หากสายโซ่ไม่เกิดขึ้นอีกคุณสามารถติดอยู่ในส่วนย่อยของพื้นที่รัฐ แนวคิดของ MCMC คือการมีการกระจายแบบอยู่กับที่ในที่สุดโซ่ก็จะสิ้นสุดลงในที่สุดการกระจายแบบคงที่นี้มักจะมีความเป็นไปได้ที่จะอยู่ในสถานะใด ๆ ในห่วงโซ่และไม่ติดอยู่ที่จุดเดียว . ฉันไม่สามารถตรวจสอบอัลกอริทึมของคุณ แต่บางทีคุณอาจมีข้อผิดพลาด เป็นไปได้ว่าคุณได้กำหนดปัญหาที่โซ่มาร์คอฟของคุณไม่เกิดขึ้นอีก

หากคุณต้องการมีความรู้ใน MCMC ฉันขอแนะนำให้คุณดูที่คู่มือของ Markov Chain Monte Carlo ซึ่งมีบทความที่อธิบายทุกแง่มุมของ MCMC จัดพิมพ์โดย CRC Press ในปี 2554

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.