การเปรียบเทียบระหว่างตัวประมาณ Bayes


9
  1. พิจารณาการสูญเสียกำลังสองด้วยก่อนรับที่2) ปล่อยให้ โอกาส ค้นหาประมาณเบส์\L(θ,δ)=(θδ)2π(θ)π(θ)U(0,1/2)f(x|θ)=θxθ1I[0,1](x),θ>0δπ

  2. พิจารณาการสูญเสียกำลังสองน้ำหนัก โดยที่ กับก่อน theta) ปล่อยให้เป็นโอกาส ค้นหาประมาณเบส์\Lw(θ,δ)=w(θ)(θδ)2w(θ)=I(,1/2)π1(θ)=I[0,1](θ)f(x|θ)=θxθ1I[0,1](x),θ>0δ1π

  3. เปรียบเทียบและδπδ1π

ครั้งแรกที่ฉันสังเกตเห็นว่าและฉันคิดว่านั่นเป็นโอกาสที่มิฉะนั้นฉันจะไม่ได้รับหลังแล้ว ดังนั้นตัวประมาณค่า Bayes ที่เกี่ยวกับการสูญเสียกำลังสองคือ f(x|θ)Beta(θ,1)

π(θ|x)f(x|θ)π(θ)=θxθ1I[0,1]2I(0,1/2)(θ)Beta(θ,1)
E[π(θ|x)]=θθ+1

ฉันกำลังดูในหนังสือThe Bayesian Choiceและมีทฤษฎีบทเกี่ยวกับตัวประมาณค่า Bayes ที่เกี่ยวข้องกับการสูญเสียกำลังสองและมันถูกกำหนดโดย

δπ(x)=Eπ[w(θ)θ|x]Eπ[w(θ)|x]

บางคนสามารถอธิบายให้ฉันคำนวณได้อย่างไร

สิ่งที่ฉันพยายามคือ:

δπ(x)=θw(θ)f(x|θ)π(θ)dθw(θ)f(x|θ)π(θ)dθf(x|θ)π(θ)dθw(θ)f(xθ)π(θ)dθ

ฉันรู้ว่าการสนับสนุนคือแต่เมื่อฉันพยายามรวมเข้ากับตัวเศษ[0,12]

θw(θ)f(x|θ)π(θ)dθ=012θθxθ1dθ=1x012θ2xθdθ

ฉันไม่ได้ผลลัพธ์ที่ดี


1
ไม่ได้เป็นไม่ติดลบที่นี่? w(θ)
Juho Kokkala

3
ฉันไม่เข้าใจคำพูดของคุณเกี่ยวกับ "เพียงแค่สำหรับไม่ใช่เชิงลบ" เพราะ (1) ฟังก์ชั่นการสูญเสียจะไม่กลายเป็นลบและ (2) ฟังก์ชั่นการสูญเสียของคุณไม่สามารถลบได้ w(θ)
whuber

@whuber Gosh ตอนนี้ฉันรู้สำนวนของฉันแล้วฉันกำลังมองหาตัวบ่งชี้ที่สนับสนุน

คำตอบ:


7

ครั้งแรกที่ทราบว่าผมได้รับการแก้ไขถ้อยคำเดิมของคำถาม WRT ฟังก์ชั่นตัวชี้วัดในคำจำกัดความของความน่าจะเป็นของคุณที่พวกเขาจะต้องมีฟังก์ชั่นของไม่\ดังนั้นความน่าจะเป็นคือที่รวมเข้ากับหนึ่ง:xθ

f(x)=θxθ1I[0,1](x)
01θxθ1dx=1

ประการที่สองด้านหลังในไม่ใช่ฟังก์ชันเบต้าเนื่องจากระบุโดยGreenparker เนื่องจากข้อ จำกัด บนค่าของไม่ใช่การแจกแจงแบบแกมมา แต่เป็นการตัดปลายการแจกแจงแบบแกมม่าθ

π(θ|x)I[0,1/2](θ)θxθ1I[0,1/2](θ)θexp{log(x)θ}
θ

ดังนั้นตัวประมาณเบย์คือความคาดหวังหลัง ที่อาจต้องใช้ฟังก์ชันแกมมาที่ไม่สมบูรณ์แต่สามารถรับได้ในรูปแบบปิดโดยการรวมโดยส่วนหนึ่ง: ตั้งแต่

E[θ|x]=01/2θ×θexp{log(x)θ}dθ/01/2θexp{log(x)θ}dθ=01/2θ2exp{log(x)θ}dθ/01/2θexp{log(x)θ}dθ
01/2θkexp{αθ}dθ=1α[θkexp{αθ}]01/2+kα01/2θk1exp{αθ}dθ
01/2exp{αθ}dθ=1exp{α/2}α

สุดท้ายตามที่ระบุในหนังสือของฉันจริง ๆ การย่อใน เทียบเท่ากับการย่อขนาดซึ่งเทียบเท่ากับการย่อในซึ่งมีจำนวนการแทนที่เดิมก่อนหน้าด้วยใหม่ก่อนหน้าที่จะต้องมีการเปลี่ยนความหนาแน่นให้เป็นปกตินั่นคือ δ

w(θ)(θδ)2π(θ|x)dθ
δ
w(θ)(θδ)2π(θ)f(x|θ)dθ
δ
(θδ)2w(θ)π(θ)f(x|θ)dθ
πw(θ)π(θ)
π1(θ)=w(θ)π(θ)/w(θ)π(θ)dθ

6

คำตอบของคุณสำหรับส่วนการสูญเสียข้อผิดพลาดกำลังสองนั้นผิด

π(θ|x)f(x|θ)π(θ)=2θxθ1I(0,1/2)(θ).

นี่คือการจัดจำหน่ายใน , ไม่ได้ในและตัวแปรสุ่มหลังเป็น\ดังนั้นคำตอบของคุณไม่ถูกต้องและคำตอบที่ถูกต้องคือค่าเฉลี่ยด้านหลังของการแจกแจงนั้นBeta(θ,1)xθθ

สำหรับส่วนที่สอง

(ฟังก์ชั่นลดน้ำหนักก่อนหน้านี้คือแต่คุณอ้างถึงมันเป็นฉันกำลังเปลี่ยนสัญกรณ์กลับไปที่ )π1ππ1

ให้โดยที่คือค่าคงที่ normalizing คุณจำเป็นต้องคำนวณπ(θ)=cw(θ)π1(θ)c

δπ1(x)=Eπ1[w(θ)θ|x]Eπ1[w(θ|x)]=w(θ)θf(x|θ)π1(θ)dθw(θ)f(x|θ)π1(θ)dθ=θf(x|θ)π(θ)dθf(x|θ)π(θ)dθ=Eπ[θ|x]

ดังนั้นสำหรับฟังก์ชั่นการสูญเสียกำลังสองน้อยที่สุดยกน้ำหนักทฤษฎีบทบอกว่าการประมาณค่าของเบย์เป็นค่าเฉลี่ยหลังเทียบกับค่าที่แตกต่างกันก่อนหน้า ก่อนหน้านี้เป็น

π(θ)w(θ)π1(θ).

คง normalizing เป็นtheta)]θw(θ)π(θ)dθ=Eπ1[w(θ)]

Eπ1[w(θ)]=01/2I0,1(θ)d(θ)=12.

ดังนั้นก่อนที่จะเป็นtheta) นี่คือสิ่งเดียวกันก่อนที่คุณมีในคำถามแรกπ(θ)=2I(0,1/2)(θ)

ดังนั้นคำตอบสำหรับสถานการณ์ (ไม่ว่าจะเป็นอะไร) จะเหมือนกัน คุณสามารถค้นหาการหนึ่งที่นี่ แม้ว่ามันอาจจะเพียงพอที่จะทำให้ถูกต้องในรูปแบบของคำตอบและไม่สมบูรณ์ครบถ้วน

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.