ตัวอย่างก่อนหน้านี้ซึ่งแตกต่างจาก Jeffreys นำไปสู่การหลังที่ไม่คงที่

ฉันกำลังโพสต์ข้อความ "คำตอบ" สำหรับคำถามที่ฉันให้ไว้เมื่อสองสัปดาห์ก่อนที่นี่: ทำไม Jeffreys จึงมีประโยชน์มาก่อน มันเป็นคำถามจริงๆ (และฉันไม่มีสิทธิ์ในการโพสต์ความคิดเห็นในเวลานั้น) อย่างไรก็ตามดังนั้นฉันหวังว่าจะเป็นเช่นนั้น:

ในลิงก์ด้านบนมีการกล่าวถึงคุณสมบัติที่น่าสนใจของ Jeffreys ก่อนคือเมื่อทำการวิเคราะห์รูปแบบซ้ำการกระจายหลังทำให้เกิดความน่าจะเป็นหลังซึ่งเป็นไปตามข้อ จำกัด ที่กำหนดโดยการเปลี่ยนแปลง กล่าวว่าตามที่กล่าวไว้ที่นั่นเมื่อย้ายจากความสำเร็จที่น่าจะเป็น$\theta$ในตัวอย่าง Beta-Bernoulli อัตราต่อรอง$\psi=\theta/(1-\theta)$ก็ควรจะเป็นกรณีที่มีความพึงพอใจหลัง$P(1/3\leq\theta\leq 2/3\mid X=x)=P(1/2\leq\psi\leq 2\mid X=x)$ )

ฉันอยากจะสร้างตัวอย่างที่ตัวเลขของการแปรเปลี่ยนของฟรีย์ก่อนสำหรับการเปลี่ยน$\theta$อัตราต่อรอง$\psi$และอื่น ๆ อีกมากมายที่น่าสนใจขาดมันของไพรเออร์อื่น ๆ (พูด, Haldane เครื่องแบบหรือคนโดยพล)

ตอนนี้ถ้าหลังสำหรับความน่าจะเป็นความสำเร็จคือเบต้า (Beta สำหรับการใด ๆ ก่อนฟรีย์ไม่ได้เท่านั้น) หลังของราคาดังต่อไปนี้การกระจายเบต้าของประเภทที่สอง (ดูวิกิพีเดีย) กับพารามิเตอร์เดียวกัน จากนั้นดังที่ไฮไลต์ในตัวอย่างตัวเลขด้านล่างมันไม่น่าแปลกใจเกินไป (สำหรับฉันอย่างน้อย) ที่มีค่าคงที่สำหรับตัวเลือกเบต้าใด ๆ ก่อนหน้านี้ (เล่นรอบ ๆ ด้วยalpha0_Uและbeta0_U) ไม่ใช่แค่ Jeffreys, cf ผลลัพธ์ของโปรแกรม

library(GB2) 
# has the Beta density of the 2nd kind, the distribution of theta/(1-theta) if theta~Beta(alpha,beta)

theta_1 = 2/3 # a numerical example as in the above post
theta_2 = 1/3

odds_1 = theta_1/(1-theta_1) # the corresponding odds
odds_2 = theta_2/(1-theta_2)

n = 10 # some data
k = 4

alpha0_J = 1/2 # Jeffreys prior for the Beta-Bernoulli case
beta0_J = 1/2
alpha1_J = alpha0_J + k # the corresponding parameters of the posterior
beta1_J = beta0_J + n - k

alpha0_U = 0 # some other prior
beta0_U = 0
alpha1_U = alpha0_U + k # resulting posterior parameters for the other prior
beta1_U = beta0_U + n - k

# posterior probability that theta is between theta_1 and theta_2:
pbeta(theta_1,alpha1_J,beta1_J) - pbeta(theta_2,alpha1_J,beta1_J) 
# the same for the corresponding odds, based on the beta distribution of the second kind
pgb2(odds_1, 1, 1,alpha1_J,beta1_J) - pgb2(odds_2, 1, 1,alpha1_J,beta1_J) 

# same for the other prior and resulting posterior
pbeta(theta_1,alpha1_U,beta1_U) - pbeta(theta_2,alpha1_U,beta1_U)
pgb2(odds_1, 1, 1,alpha1_U,beta1_U) - pgb2(odds_2, 1, 1,alpha1_U,beta1_U)

นี่นำฉันมาที่คำถามต่อไปนี้:

1. ฉันทำผิดพลาดหรือไม่?
2. ถ้าไม่มีผลลัพธ์เช่นเดียวกับการไม่มีความไม่แปรเปลี่ยนในครอบครัวคอนจูเกตหรืออะไรแบบนั้น? (การตรวจสอบอย่างรวดเร็วทำให้ฉันสงสัยว่าฉันสามารถทำได้เช่นกันไม่ทำให้เกิดความไม่แปรเปลี่ยนในกรณีปกติ)
3. คุณรู้ (ง่ายกว่า) ตัวอย่างเช่นในการที่เราทำจะได้รับการขาดการแปรเปลี่ยน?

การคำนวณของคุณน่าจะตรวจสอบว่าเมื่อเรามีโดยเฉพาะอย่างยิ่งการจัดจำหน่ายก่อนดังต่อไปนี้ขั้นตอนที่สอง$p(\theta)$

1. คำนวณหลัง$p_{\theta \mid D}(\theta \mid D)$
2. แปลงหลังข้างต้นให้เป็น parametrization อื่น ๆ เพื่อให้ได้$p_{\psi \mid D}(\psi \mid D)$

และ

1. แปลงก่อนเข้ามาและตัวแปรอื่น ๆ ที่จะได้รับหน้าψ ( ψ $p_\theta(\theta)$$p_\psi(\psi)$
2. ใช้ก่อน , คำนวณหลังพีψ | D ( ψ | D $p_\psi(\psi)$$p_{\psi \mid D}(\psi \mid D)$

นำไปสู่การหลังเหมือนกันสำหรับψสิ่งนี้จะเกิดขึ้นเสมอ (ข้อแม้; ตราบใดที่การแปลงเป็นเช่นนั้นการแจกแจงส่วนเกินψถูกกำหนดโดยการแจกแจงส่วนเกินθ )$\psi$$\psi$$\theta$

อย่างไรก็ตามนี่ไม่ใช่จุดแปรปรวนที่เป็นปัญหา แต่คำถามคือเมื่อเรามีวิธีการเฉพาะสำหรับการตัดสินใจก่อนหน้านี้สองขั้นตอนต่อไปนี้:

1. ใช้วิธีการตัดสินใจก่อนตัดสินใจ$p_\theta(\theta)$
2. แปลงการแจกแจงนั้นเป็น$p_\psi(\psi)$

และ

1. ใช้วิธีการตัดสินใจก่อนตัดสินใจ$p_\psi(\psi)$

$\psi$

$\theta$$[0,1]$$\psi$$[0,\infty)$

$\theta$$\psi$$\psi$โดยตรง นี่คือค่าคงที่ที่อ้างสิทธิ์

ดูเหมือนว่าคุณกำลังตรวจสอบความน่าจะเป็นของข้อมูลที่ไม่ได้รับผลกระทบจาก parametrization ซึ่งไม่มีส่วนเกี่ยวข้องกับเรื่องก่อนหน้านี้

หากวิธีการเลือกนักบวชของคุณเช่น "เลือกชุดก่อน" สิ่งที่เป็นชุดภายใต้หนึ่ง parametrization (พูดเบต้าคือเบต้า (1,1)) ไม่เหมือนกันภายใต้อีกพูดเบต้า (1,1) ) (ซึ่งเบ้) - เป็น BetaPrime (1, -1) เป็นชุดเดียวกันหากมีสิ่งนั้นอยู่

Jeffreys ก่อนเป็นวิธีเดียวที่จะเลือกนักบวชที่ไม่เปลี่ยนแปลงภายใต้ reparametrization ดังนั้นมันจึงน้อยกว่าวิธีอื่นในการเลือกนักบวช