การกระจายเบต้ามีคอนจูเกตมาก่อนหรือไม่

34

ฉันรู้ว่าการแจกแจงเบต้านั้นเชื่อมโยงกับทวินาม แต่คอนจูเกตก่อนเบต้าคืออะไร ขอขอบคุณ.

beta-distribution conjugate-prior

25

ดูเหมือนว่าคุณจะยอมแพ้ต่อการผันคำกริยา สำหรับบันทึกสิ่งหนึ่งที่ฉันเคยเห็นคนทำ (แต่จำไม่ได้ว่าอยู่ที่ไหนขอโทษ) คือการแก้ไขพารามิเตอร์เช่นนี้ หากเป็นเงื่อนไข iid ให้เช่นจำไว้ว่า และ ดังนั้นคุณอาจแก้ไขความน่าจะเป็นในแง่ของและและใช้ก่อนหน้านี้ $X_1,\dots,X_n$ $\alpha,\beta$ $X_i\mid\alpha,\beta\sim\mathrm{Beta}(\alpha,\beta)$

E [X_{i} ∣ α, β] = \frac{α}{α + β} =: μ

$\mathbb{E}[X_i\mid\alpha,\beta]=\frac{\alpha}{\alpha+\beta} =: \mu$

V a r [X_{i} ∣ α, β] = \frac{α β}{(α + β)^{2} (α + β + 1)} =: σ^{2} .

$\mathbb{Var}[X_i\mid\alpha,\beta] = \frac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)} =: \sigma^2 \, .$

μ

$\mu$

σ^{2}

$\sigma^2$

σ^{2} ∣ μ \sim U [0, μ (1 - μ)] μ \sim U [0, 1] .

$\sigma^2\mid\mu \sim \mathrm{U}[0,\mu(1-\mu)] \qquad \qquad \mu\sim\mathrm{U}[0,1] \, .$ ตอนนี้คุณพร้อมที่จะคำนวณผู้หลังและสำรวจด้วยวิธีการคำนวณที่คุณชื่นชอบ

— เซน
แหล่งที่มา

4

ไม่ไม่ใช่ MCMC สิ่งนี้! การสร้างพื้นที่สี่เหลี่ยมจัตุรัสสิ่งนี้! มีเพียง 2 พารามิเตอร์ - การสร้างพื้นที่สี่เหลี่ยมจัตุรัสคือ "มาตรฐานทองคำ" สำหรับผู้ที่ต้องการโปสเตอร์ขนาดเล็กทั้งเวลาและความแม่นยำ

— ความน่าจะเป็นทางการที่

3

อีกทางเลือกหนึ่งคือพิจารณาเป็นเครื่องวัดความแม่นยำและใช้อีกครั้งเป็นค่าเฉลี่ย สิ่งนี้ทำตลอดเวลาด้วยกระบวนการ Dirichlet และการแจกแจงแบบเบต้าเป็นกรณีพิเศษ ดังนั้นบางทีโยนแกมมาหรือระบบปกติก่อนในและสม่ำเสมอใน\

ψ = α + β

$\psi = \alpha + \beta$

μ = \frac{α}{α + β}

$\mu = \frac{\alpha}{\alpha + \beta}$

ψ

$\psi$

μ

$\mu$

— คนที่แต่งตัวประหลาด

2

เพื่อให้แน่ใจว่านี่ไม่ใช่คอนจูเกต

— คนที่แต่งตัวประหลาด

3

ไม่อย่างแน่นอน!

— เซน

สวัสดี @Zen ฉันกำลังจัดการกับปัญหานี้อยู่ในขณะนี้ แต่ฉันใหม่ที่ Bayesian และฉันไม่แน่ใจว่าฉันเข้าใจความคิดนี้หรือไม่ ฉันคิดว่าคุณกำลังเสนอให้หาจากนั้นใช้ reparametrization แต่แน่นอนว่าไม่ใช่ ความคิดคุณช่วยฉันให้เข้าใจได้ไหม

\int_{0}^{1} \frac{1}{μ (1 - μ} d μ

$\int_{0}^{1}{\frac{1}{\mu(1-\mu}}d\mu$

— Red Noise

23

ใช่มันมีคอนจูเกตมาก่อนในตระกูลเอ็กซ์โปเนนเชียล พิจารณาพารามิเตอร์สามตระกูล สำหรับบางค่าของสิ่งนี้สามารถรวมเข้าด้วยกันได้แม้ว่าฉันจะไม่ได้คิดออกมาว่า (ฉันเชื่อว่าและควรทำงาน -สอดคล้องกับการแจกแจงเอ็กซ์โพเนนเชียลอิสระ เพื่อให้ใช้งานได้จริงและการปรับปรุงคอนจูเกตนั้นเกี่ยวข้องกับการเพิ่มค่าดังนั้นสิ่งนี้แนะนำให้ใช้ได้เช่นกัน)

π (α, β ∣ a, b, p) \propto {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{p} \exp (a α + b β) .

$\pi(\alpha, \beta \mid a, b, p) \propto \left\{\frac{\Gamma(\alpha + \beta)}{\Gamma(\alpha)\Gamma(\beta)}\right\}^p \exp\left(a\alpha + b\beta \right).$

(a, b, p)

$(a, b, p)$

p \geq 0

$p \ge 0$

a < 0, b < 0

$a < 0, b < 0$

p = 0

$p = 0$

p

$p$

p > 0

$p > 0$

ปัญหาและอย่างน้อยส่วนหนึ่งของเหตุผลที่ไม่มีใครใช้นั่นคือ เช่นค่าคงที่ normalizing ไม่มีรูปแบบปิด

\int_{0}^{\infty} \int_{0}^{\infty} {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{p} \exp (a α + b β) = ?

$\int_0^\infty \int_0^\infty \left\{\frac{\Gamma(\alpha + \beta)}{\Gamma(\alpha)\Gamma(\beta)}\right\}^p \exp\left(a\alpha + b\beta \right) = ?$

— ผู้ชาย
แหล่งที่มา

อา นั่นเป็นปัญหา ฉันจะมองหาคอนจูเกตเวอร์ชั่นที่ไม่เป็นมาก่อนดังนั้นดูเหมือนว่าฉันอาจจะเริ่มด้วยการใช้ไพรเออร์ที่เหมือนกันในพารามิเตอร์ทั้งสอง ขอบคุณ

— สะเออะสมดุล

คุณไม่จำเป็นต้องทำให้เป็นมาตรฐานถ้าคุณเพิ่งเปรียบเทียบความน่าจะเป็น ...

— Neil G

p

$p$

\exp

$\exp$

p a α

$pa\alpha$

p

$p$

\exp

$\exp$

\log Γ (\dots)

$\log \Gamma(\cdots)$

Γ (\dots)

$\Gamma(\cdots)$

p a α

$pa\alpha$

a

$a$

b

$b$

2

α

$\alpha$

β

$\beta$

9

ในทางทฤษฎีควรมีคอนจูเกตก่อนหน้าสำหรับการแจกแจงเบต้า นี้เป็นเพราะ

การแจกแจงเบต้าเป็นหนึ่งในการแจกแจงแบบครอบครัวแบบเลขชี้กำลังและ
ในทางทฤษฎีมันควรจะเป็นไปได้ที่จะได้รับมาก่อน ดูเช่นวิกิพีเดีย , บรรยาย D Blei ในครอบครัวชี้แจง

อย่างไรก็ตามการสืบทอดนั้นดูยากและการอ้างอิงตระกูลชี้แจงของ A Bouchard-Cote และ Prijugate Conjugate

การสังเกตที่สำคัญที่ต้องทำคือสูตรนี้ไม่ได้ให้ผลเป็นคอนจูเกตก่อนเสมอ

สอดคล้องกับเรื่องนี้ไม่มีก่อนสำหรับการกระจายเบต้าในD ตำรวจให้ย่อของ Conjugate ไพรเออร์

— TooTone
แหล่งที่มา

3

การสืบทอดไม่ใช่เรื่องยาก - ดูคำตอบของฉัน: mathoverflow.net/questions/63496/…

— Neil G

3

ฉันไม่เชื่อว่ามีการแจกแจง "มาตรฐาน" (เช่นตระกูลเอ็กซ์โปเนนเชียล) ที่เป็นคอนจูเกตก่อนหน้าสำหรับการแจกแจงเบต้า อย่างไรก็ตามหากมีอยู่ก็จะต้องมีการกระจายตัวของ bivariate

ฉันไม่มีความคิดเกี่ยวกับคำถามนี้ แต่ฉันพบว่าแผนที่ก่อนหน้านี้มีประโยชน์เชื่อมโยง

— จัสติน Bozonier

คอนจูเกตก่อนหน้านี้อยู่ในตระกูลเอ็กซ์โพเนนเชียลและมีสามพารามิเตอร์ - ไม่ใช่สอง

— Neil G

1

@ นีลคุณพูดถูก ฉันเดาว่าฉันควรจะบอกว่ามันจะต้องมีอย่างน้อยสองพารามิเตอร์

-1: คำตอบนี้ผิดอย่างชัดเจนในการอ้างว่า "คอนจูเกตก่อนหน้านี้ไม่มีอยู่ในตระกูลเอ็กซ์โพเนนเชียล" ดังที่แสดงไว้ในคำตอบข้างต้น ...

— ม.ค. Kukacka

3

Robert และ Casella (RC) ได้อธิบายครอบครัวของนักบวชรุ่นจูเนียร์ของการแจกแจงแบบเบต้าในตัวอย่าง 3.6 (p 71 - 75) ของหนังสือของพวกเขาแนะนำวิธีการ Monte Carlo ใน R , Springer, 2010 อย่างไรก็ตามพวกเขาอ้างถึงผลลัพธ์โดยไม่อ้างถึง แหล่งที่มา.

$B(\alpha, \beta)$

π (α, β) \propto {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{λ} x_{0}^{α} y_{0}^{β}

$\pi(\alpha,\beta) \propto \Big\{ \frac{\Gamma(\alpha+\beta)} {\Gamma(\alpha)\Gamma(\beta)} \Big\} ^{\lambda} x_0^{\alpha} y_0^{\beta}$

$\{\lambda, x_0, y_0\}$

π (α, β | x) \propto {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{λ} (x x_{0})^{α} ((1 - x) y_{0})^{β} . "

$\pi(\alpha,\beta \vert x) \propto \Big\{ \frac{\Gamma(\alpha+\beta)} {\Gamma(\alpha)\Gamma(\beta)} \Big\} ^{\lambda} (xx_0)^{\alpha} ((1-x)y_0)^{\beta}."$

ส่วนที่เหลือของตัวอย่างเช่นความกังวลการสุ่มตัวอย่างสำคัญจากในการสั่งซื้อเพื่อคำนวณความน่าจะเป็นส่วนเพิ่มของx $\pi(\alpha,\beta \vert x)$ $x$

— user37239
แหล่งที่มา

2

ฉันไม่มีหนังสือของ Robert แต่คนหลังคือ1} Robert ยังโพสต์ในหัวข้อนี้ที่นี่mathoverflow.net/questions/20399/…

π (α, β) \propto {(\frac{Γ (α + β)}{Γ (α) Γ (β)})}^{λ + 1} (x x_{0})^{α - 1} {(y_{0} (1 - x))}^{β - 1}

$\pi(\alpha, \beta) \propto \left( \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha) \Gamma(\beta)} \right)^{\lambda +1} (x x_0)^{\alpha-1} \left(y_0 (1-x) \right)^{\beta-1}$

— Fred Schoen

1

ฉันขอแนะนำอย่างนอบน้อมว่าผู้โพสต์ต้นฉบับจะอัปเดตโพสต์เพื่อระบุว่าผู้โพสต์หลังที่ระบุในตำราเรียนนั้นไม่ถูกต้องตามความคิดเห็นของ Fred Schoen (ซึ่งได้รับการยืนยันอย่างง่ายดาย)

— RMurphy