การคำนวณความเป็นไปได้ที่จะเกิดจากกลุ่มตัวอย่าง MCMC

นี่เป็นคำถามที่เกิดขึ้น (ดูโพสต์นี้ , โพสต์นี้และโพสต์นี้ ) แต่ฉันมีสปินที่แตกต่างกัน

สมมติว่าฉันมีกลุ่มตัวอย่างจากตัวอย่าง MCMC ทั่วไป สำหรับแต่ละตัวอย่าง $\theta$ ฉันรู้ค่าของการบันทึกความเป็นไปได้ $\log f(\textbf{x} | \theta)$ และเข้าสู่ระบบก่อน $\log f(\theta)$ )ถ้ามันช่วยได้ฉันก็รู้ค่าของความน่าจะเป็นของการบันทึกต่อจุดข้อมูล, $\log f(x_i | \theta)$ (ข้อมูลนี้ช่วยในวิธีการบางอย่างเช่น WAIC และ PSIS-LOO)

ฉันต้องการที่จะได้รับ (น้ำมันดิบ) ประมาณการของโอกาสร่อแร่เพียงกับกลุ่มตัวอย่างที่ฉันมีและอาจจะไม่กี่การประเมินผลการทำงานอื่น ๆ ( แต่ไม่ rerunning เฉพาะกิจ MCMC)

ก่อนอื่นมาล้างตารางกันก่อน เราทุกคนรู้ว่าตัวประมาณค่าฮาร์มอนิกเป็นตัวประมาณที่แย่ที่สุดที่เคยมีมา ไปกันเถอะ หากคุณกำลังทำตัวอย่างกิ๊บส์กับนักบวชและผู้โพสต์ในรูปแบบปิดคุณสามารถใช้วิธีการของ Chib ; แต่ฉันไม่แน่ใจว่าจะพูดคุยกันนอกเรื่องเหล่านี้ได้อย่างไร นอกจากนี้ยังมีวิธีการที่ต้องการให้คุณปรับเปลี่ยนขั้นตอนการสุ่มตัวอย่าง (เช่นผ่านทางโปสเตอร์ที่มีอารมณ์ ) แต่ฉันไม่สนใจที่นี่

วิธีการที่ฉันคิดประกอบด้วยการประมาณการกระจายพื้นฐานด้วยรูปร่าง (หรือ nonparametric) รูปร่าง $g(\theta)$ , แล้วหาค่าคงที่การทำให้เป็นมาตรฐาน $Z$ เป็นปัญหาการหาค่าเหมาะที่สุดแบบ 1-D (เช่น $Z$ ที่ลดข้อผิดพลาดบางอย่างระหว่าง $Z g(\theta)$ และ $f(\textbf{x}|\theta) f(\theta)$ ประเมินจากตัวอย่าง) ในกรณีที่ง่ายที่สุดสมมติว่าด้านหลังเป็นตัวแปรหลายคร่าวๆฉันสามารถใส่ $g(\theta)$ เป็นหลายตัวแปรปกติและได้สิ่งที่คล้ายกับการประมาณ Laplace (ฉันอาจต้องการใช้การประเมินฟังก์ชั่นเพิ่มเติมบางอย่างเพื่อปรับแต่งตำแหน่งของโหมด) แต่ผมสามารถใช้เป็น $g(\theta)$ ครอบครัวมีความยืดหยุ่นมากขึ้นเช่นมีส่วนผสมแปรผันของหลายตัวแปร $t$ กระจาย

ฉันขอขอบคุณที่วิธีนี้ใช้งานได้เฉพาะเมื่อ $Z g(\theta)$ เป็นค่าประมาณที่เหมาะสมกับ $f(\textbf{x}|\theta) f(\theta)$ แต่มีเหตุผลหรือเหตุผลเรื่องเตือนว่าทำไมมันถึงไม่ฉลาดนักที่จะทำอย่างนั้น? การอ่านใด ๆ ที่คุณอยากจะแนะนำ?

วิธีการที่ไม่ใช่พารามิเตอร์ทั้งหมดใช้บางครอบครัวที่ไม่ใช่พารามิเตอร์เช่นกระบวนการแบบเกาส์ (GP), เพื่อประมาณ $\log f(\textbf{x}|\theta) + \log f(\theta)$ (หรือการแปลงแบบไม่เชิงเส้นอื่น ๆ เช่นรากที่สอง) และBayesian การสร้างพื้นที่สี่เหลี่ยมจัตุรัสเพื่อรวมเข้ากับเป้าหมายพื้นฐานโดยนัย (ดูที่นี่และที่นี่ ) สิ่งนี้ดูเหมือนจะเป็นวิธีทางเลือกที่น่าสนใจ แต่ก็คล้าย ๆ กับในใจ

— lacerbi
แหล่งที่มา

ฉันคิดว่า Chib, S. และ Jeliazkov, I. 2001 "ความเป็นไปได้ส่วนเล็กน้อยจาก Metropolis - Hastings output" เป็นการทั่วไปที่เอาท์พุท MCMC ปกติ - จะสนใจฟังประสบการณ์ด้วยวิธีนี้ สำหรับ GP - โดยทั่วไปแล้วสิ่งนี้ทำให้เกิดการลอกเลียนแบบของคนหลังซึ่งคุณอาจพิจารณาถึงปัญหาอื่น ๆ ฉันเดาว่าปัญหาคือคุณไม่แน่ใจเกี่ยวกับคุณภาพของการประมาณ สิ่งที่ฉันสงสัยเช่นกันคือถ้าตัวอย่าง MCMC นั้นเหมาะสำหรับรุ่น GP หรือคุณควรลงทุนในหางมากขึ้น

— Florian Hartig

(+1) ขอบคุณสำหรับการอ้างอิงดูจุด - ฉันจะตรวจสอบออก ฉันยอมรับว่าวิธีการที่ใช้แบบจำลองทั้งหมดอาจเป็นปัญหาได้ (สิ่งที่ดีกับการสร้างพื้นที่สี่เหลี่ยมจัตุรัส Bayesian คือคุณได้รับการประเมินความไม่แน่นอนแม้ว่าจะไม่แน่ใจว่ามันถูกปรับเทียบแล้วก็ตาม) ในขณะที่เป้าหมายที่เรียบง่ายของฉันคือการทำสิ่งที่ "ดีกว่าการประมาณลาปลาซ"

— lacerbi

การขยายโดยChib และ Jeliazkov (2001)โชคไม่ดีที่ได้รับค่าใช้จ่ายสูงหรือแปรผันอย่างรวดเร็วซึ่งเป็นเหตุผลว่าทำไมมันไม่ได้ถูกนำมาใช้มากนอกกรณีการสุ่มตัวอย่างของกิ๊บส์

ขณะที่มีหลายรูปแบบและวิธีการฟื้นฟูอย่างต่อเนื่องปัญหาการประมาณค่า (ตามภาพประกอบโดยพูดถึงความหลากหลายมากในการประชุมเชิงปฏิบัติการอย่างต่อเนื่องประมาณเราวิ่งสัปดาห์ที่ผ่านมาที่มหาวิทยาลัย Warwick ภาพนิ่งใช้ได้มี ) แก้ปัญหาบางอย่างไม่ใช้ประโยชน์โดยตรงเอาท์พุท MCMC . $\mathfrak{Z}$

ดังที่คุณกล่าวไว้ตัวประมาณค่าเฉลี่ยฮาร์มอนิกของนิวตันและ Raftery (1994) นั้นแทบจะไม่ดีเท่าที่ควรสำหรับความแปรปรวนอนันต์ แต่มีวิธีการหลีกเลี่ยงคำสาปแปรปรวนอนันต์โดยใช้แทนเป้าหมาย จำกัด สนับสนุนในตัวตนเฉลี่ยประสาน โดยการเลือกเป็นตัวบ่งชี้ของภูมิภาค HPD สำหรับคนหลัง สิ่งนี้ทำให้มั่นใจได้ถึงความแปรปรวนอัน จำกัด โดยการเอาก้อยในค่าเฉลี่ยฮาร์มอนิก (รายละเอียดสามารถพบได้ในกระดาษที่ฉันเขียนกับ Darren Wraithและในบทเกี่ยวกับค่าคงที่ normalizing ที่เขียนด้วย Jean-Michel Marin) ในระยะสั้นวิธีการรีไซเคิลเอาต์พุต MCMCโดยการระบุ( 20% พูด) ค่าที่ใหญ่ที่สุดของเป้าหมายและการสร้าง
$\int \frac{α (θ)}{π (θ) ฉ (x | θ)} d π (θ | x) = \frac{1}{Z}$ $\int \dfrac{\alpha(\theta)}{\pi(\theta)f(x|\theta)}\text{d}\pi(\theta|x)=\frac{1}{\mathfrak{Z}}$ $\alpha$ $\theta_1,\ldots,\theta_M$ $\beta$ $\pi(\theta)f(x|\theta)$ $\alpha$ เป็นเครื่องแบบกว่าสหภาพของลูกศูนย์กลางที่ผู้มีความหนาแน่นที่ใหญ่ที่สุด (HPD) จำลองและมีรัศมีความหมายประมาณการของ normalizing คงที่จะได้รับจาก $\theta^0_i$ $\rho$ $\mathfrak{Z}$ ถ้าเป็นมิติของ(การแก้ไขใช้สำหรับการตัดบอล) และถ้ามีขนาดเล็กพอสำหรับลูกบอลที่จะไม่ตัดกัน (หมายความว่าตัวบ่งชี้ที่ดีที่สุดเพียงลูกเดียวคือ แตกต่างจากศูนย์) คำอธิบายสำหรับตัวหารคือนี่เป็นผลรวมสองเท่าของคำศัพท์: ${\hat{Z}}^{- 1} = \underset{ผลรวมคู่มากกว่า β M ศูนย์ลูก θ_{ผม}^{0} และ M การจำลอง θ_{ม.}}{\underset{⏟}{\frac{1}{β M^{2}} Σ_{ม. = 1}^{M}}} \underset{\frac{β M α (θ_{ม.})}{π (θ_{ม.}) ฉ (x | θ_{ม.})}}{\underset{⏟}{{ผม}_{(0, ρ)} (\underset{ผม}{นาที} | | θ_{ม.} - θ_{ผม}^{0} | |) {π (θ_{ม.}) ฉ (x | θ_{ม.})}^{- 1} / \overset{ปริมาตรของลูกที่มีรัศมี ρ}{\overset{⏞}{π^{d / 2} ρ^{d} Γ (d / 2 + 1)^{- 1}}}}}$ $\hat{\mathfrak{Z}}^{-1}=\underbrace{\frac{1}{\beta M^2}\sum_{m=1}^M}_{\text{double sum over}\\\beta M\text{ ball centres }\theta_i^0\\\text{and $M$ simulations } \theta_m} \underbrace{\mathbb{I}_{(0,\rho)}(\min_i||\theta_m-\theta^0_i||)\{\pi(\theta_m)f(x|\theta_m)\}^{-1}\big/\overbrace{\pi^{d/2}\rho^d\Gamma(d/2+1)^{-1}}^{\text{volume of ball with radius $\rho$}}}_{\dfrac{\beta M\alpha(\theta_m)}{\pi(\theta_m)f(x|\theta_m)}}$ $d$ $\theta$ $\rho$ $\alpha M^2$ $\beta M^2$ ที่มีระยะเวลาในแต่ละการบูรณาการเพื่อ1 $\frac{1}{β M} Σ_{ผม = 1}^{β M} \underset{เช่นเดียวกับ นาที}{\underset{⏟}{\frac{1}{M} Σ_{ม. = 1}^{M} ยู (θ_{ผม}^{0}, ρ) (θ_{ม.})}} \times \frac{1}{π (θ_{ม.}) ฉ (x | θ_{ม.})}$ $\frac{1}{\beta M}\sum_{i=1}^{\beta M} \underbrace{\frac{1}{M}\sum_{m=1}^M {\cal U}(\theta_i^0,\rho)(\theta_m)}_{\text{same as with $\min$}} \times \frac{1}{\pi(\theta_m)f(x|\theta_m)}$ $\theta_m$ ${\mathfrak{Z}}^{-1}$
อีกวิธีคือเปลี่ยนค่าคงที่ normalizing ให้เป็นพารามิเตอร์ มันฟังดูเป็นสถิติเชิงบาป แต่บทความของGuttmann และHyvärinen (2012)ทำให้ฉันมั่นใจในสิ่งที่ตรงกันข้าม โดยไม่ได้รับมากเกินไปเข้าไปในรายละเอียดความคิดที่เรียบร้อยในนั้นคือการเปิดสังเกตล็อกโอกาส เข้าร่วมเข้าสู่ระบบความน่าจะเป็น $\mathfrak{Z}$
$Σ_{ผม = 1}^{n} ฉ (x_{ผม} | θ) - n เข้าสู่ระบบ \int ประสบการณ์ ฉ (x | θ) d x$ $\sum_{i=1}^n f(x_i|\theta) - n \log \int \exp f(x|\theta) \text{d}x$ ซึ่งเป็นบันทึกความน่าจะเป็นของกระบวนการปัวซองด้วยฟังก์ชันความเข้ม $Σ_{ผม = 1}^{n} [ฉ (x_{ผม} | θ) + ν] - n \int ประสบการณ์ [ฉ (x | θ) + ν] d x$ $\sum_{i=1}^n[f(x_i|\theta)+\nu]-n\int\exp[f(x|\theta)+\nu]\text{d}x$ $ประสบการณ์ {ฉ (x | θ) + ν + เข้าสู่ระบบ n}$ $\exp\{ f(x|\theta) + \nu +\log n\}$ นี่เป็นแบบจำลองทางเลือกว่าโอกาสดั้งเดิมจะไม่ปรากฏเป็นขอบ เฉพาะโหมดที่เกิดขึ้นพร้อมกับโหมดเงื่อนไขในνให้ค่าคงที่ปกติ ในทางปฏิบัติความเป็นไปได้ของกระบวนการปัวซงข้างต้นไม่สามารถใช้งานได้และGuttmann และHyvärinen (2012)เสนอการประมาณค่าโดยวิธีการถดถอยแบบโลจิสติกส์ ในการเชื่อมต่อที่ดียิ่งขึ้นกับคำถามของคุณการประมาณการของ Geyer เป็น MLE ดังนั้นวิธีการแก้ไขปัญหาการขยายให้ใหญ่สุด
$\pi(\theta|x)$ $\pi(\theta|x)$ $g(\theta)$ $\pi(\theta|x)$ $g(\theta)$ ) เมื่อ regressors เป็นค่าของความหนาแน่นทั้งสองจะทำให้เป็นมาตรฐานหรือไม่ สิ่งนี้เกิดขึ้นกับการเชื่อมโยงโดยตรงกับการสุ่มตัวอย่างแบบ Gelman และ Meng (1997) ซึ่งจะทำการสุ่มตัวอย่างจากเป้าหมายที่แตกต่างกัน และรุ่นที่ใหม่กว่าเช่น MLE ของ Meng
วิธีการที่แตกต่างกันว่ากองกำลังหนึ่งในการทำงานที่เฉพาะเจาะจง MCMC ตัวอย่างคือการสุ่มตัวอย่างที่ซ้อนกันหลากหลายของ ในขณะที่ฉัน [และคนอื่น ๆ ] มีการจองบางอย่างเกี่ยวกับประสิทธิภาพของวิธีการที่เป็นที่นิยมมากใน astrostatistics และจักรวาลที่มีซอฟต์แวร์ที่สามารถใช้ได้เช่นmultinest
$H_0: \theta=\theta_0$ $\xi$ $\pi_1(\theta)\pi_2(\xi)$ $H_0$ $B_{01} (x) = \frac{π^{θ} (θ_{0} | x)}{π_{1} (θ_{0})}$ $\mathfrak{B}_{01}(x)=\dfrac{\pi^\theta(\theta_0|x)}{\pi_1(\theta_0)}$ $\pi^\theta(\theta_0|x)$ $\theta$ $\theta_0$ $H_0: \theta=\theta_0$ ${ม.}_{0} (x) = \int_{Ξ} ฉ (x | θ_{0}, ξ) π_{2} (ξ) d ξ$ $m_0(x)=\int_\Xi f(x|\theta_0,\xi)\pi_2(\xi)\text{d}\xi$ ${ม.}_{a} (x) = \int_{Θ \times Ξ} ฉ (x | θ, ξ) π_{1} (θ) π_{2} (ξ) d θ d ξ$ $m_a(x)=\int_{\Theta\times\Xi} f(x|\theta,\xi)\pi_1(\theta)\pi_2(\xi)\text{d}\theta\text{d}\xi$

[นี่คือชุดของภาพนิ่งที่ฉันเขียนเกี่ยวกับการประเมินค่าคงที่ normalizing สำหรับการประชุมเชิงปฏิบัติการ NIPS เมื่อเดือนธันวาคมที่ผ่านมา]

— ซีอาน
แหล่งที่มา

(+1) คำตอบที่สมบูรณ์อย่างไม่น่าเชื่อขอบคุณ มันจะมีประโยชน์สำหรับฉันและฉันคิดว่าคนอื่น ๆ อีกมากมาย ฉันจะใช้เวลาสักครู่เพื่อดูวิธีการต่างๆแล้วฉันจะกลับมาพร้อมคำถามเฉพาะ

— lacerbi

เริ่มจากจุด (1) ... ฉันอ่านบทความที่เกี่ยวข้อง "การแก้ไข" ประมาณการค่าเฉลี่ยฮาร์โมนิดูเหมือนว่าสิ่งที่ผมกำลังมองหา มันเป็นระเบียบและง่ายต่อการคำนวณเมื่อให้เอาต์พุต MCMC ดังนั้น ... อะไรที่จับได้? ดูเหมือนว่าวิธีการนี้จะใช้กันอย่างแพร่หลายโดยตัดสินจากการค้นหาอย่างรวดเร็วใน Google Scholar ข้อ จำกัด ของมันคืออะไร? (นอกเหนือจากความจำเป็นในการระบุภูมิภาค HPD ซึ่งฉันคิดว่าอาจกลายเป็นปัญหาสำหรับผู้โปสเตอร์ที่ซับซ้อนมากในมิติสูง) แน่นอนฉันจะลองดู - แต่ฉันสงสัยว่ามีบางสิ่งที่ฉันต้องระวัง

— lacerbi

ฉันได้เพิ่มรายละเอียดเพิ่มเติมอีกเล็กน้อย: ปัญหาในการใช้เครื่องแบบ HPD คือการหาค่าประมาณที่เหมาะสมสำหรับภูมิภาค HPD ตัวเรือนูนของจุดที่มีค่าหลังสูงนั้นยากที่จะกำหนด (NP?) ในขณะที่ลูกบอลที่อยู่ตรงจุดนั้นอาจตัดกัน

— ซีอาน

@ ซีอาน: มีประโยชน์มากขอบคุณ! ฉันขอถาม: จากวิธีการทั้งหมดที่กล่าวถึงสิ่งที่จะเป็นคำแนะนำของคุณในขณะนี้หากมองหาวิธีการทั่วไปที่มีแนวโน้มที่จะทำงานออกจากกล่อง ฉันสนใจโดยเฉพาะอย่างยิ่งในกรณีของแบบจำลองที่มีพารามิเตอร์ต่ำ (<50) จำนวนผู้โพสต์ที่ไม่ธรรมดาและความสัมพันธ์ที่แข็งแกร่งระหว่างพารามิเตอร์

— Florian Hartig

Z

$\mathfrak{Z}$