ความแตกต่างระหว่าง Priors ที่ไม่ให้ข้อมูลและไม่เหมาะสม

ฉันสงสัยว่าอะไรคือความแตกต่างระหว่างนักบวชสองคนนี้:

ที่ไม่แสดงข้อมูล
ไม่ถูกต้อง

bayesian prior improper-prior

อาจเป็นประโยชน์หากคุณสามารถระบุบริบทที่นี่ คุณเข้าใจเกี่ยวกับสิ่งเหล่านี้แล้ว มีจุดที่สับสนเป็นพิเศษไหม?

— gung - Reinstate Monica

ลิงก์ที่เกี่ยวข้องstats.stackexchange.com/questions/175792/ …และstats.stackexchange.com/questions/133707/ …และstats.stackexchange.com/questions/73490/…

— ทิม

@Tim ขอบคุณ ผมกำลังมองหาที่ไม่ใช่ข้อมูลแทนการให้ข้อมูลอย่างอ่อน

— Bram

สำเนาที่เป็น

— ซีอาน

คำตอบ:

$\sigma$ $\text{d}\pi$ $\Theta$

\int_{Θ} d π (θ) = + \infty

$\int_\Theta \text{d}\pi(\theta) = +\infty$

Θ

$\Theta$

\int_{Θ} d π (θ) = 1

$\int_\Theta \text{d}\pi(\theta) =1$

ชุดของข้อ จำกัด ของกระบวนการเบย์ที่เหมาะสมซึ่งไม่ได้เป็นกระบวนการเบย์ที่เหมาะสมทั้งหมด
ขั้นตอนที่เหมาะสมเป็นประจำใน (การยอมรับ) ทฤษฎีบทคลาสสมบูรณ์เช่น Wald's;
ตัวประมาณค่าคงที่ที่ดีที่สุดเป็นประจำ (เนื่องจากสามารถแสดงเป็นค่าประมาณ Bayes ภายใต้มาตรการ Haar ที่เหมาะสมซึ่งมักจะไม่เหมาะสม)
นักบวชที่ได้มาจากรูปร่างของฟังก์ชันความน่าจะเป็นเช่นนักบวชที่ไม่มีข้อมูล (เช่น Jeffreys ')

\int_{Θ} ℓ (θ | x) d π (θ) < + \infty

$\int_\Theta \ell(\theta|x)\text{d}\pi(\theta) < +\infty$

\frac{ℓ (θ | x) d π (θ)}{\int_{Θ} ℓ (θ | x) d π (θ)}

$\dfrac{\ell(\theta|x)\text{d}\pi(\theta)}{\int_\Theta \ell(\theta|x)\text{d}\pi(\theta)}$

คำเตือน:การอนุมานแบบเบย์หนึ่งสาขาไม่สามารถรับมือกับนักบวชที่ไม่เหมาะสมได้ดีเช่นเมื่อทำการทดสอบสมมติฐานที่คมชัด อันที่จริงสมมติฐานเหล่านี้ต้องการการสร้างการแจกแจงก่อนหน้าสองอันอันหนึ่งอันภายใต้ค่าว่างและอีกอันหนึ่งภายใต้ทางเลือก หากหนึ่งในนักบวชเหล่านี้ไม่ถูกต้องก็จะไม่สามารถทำให้เป็นมาตรฐานได้และปัจจัยของ Bayes ที่เกิดขึ้นนั้นไม่สามารถระบุได้

$\delta$ $L(d,\theta)$ $\text{d}\pi$

\arg min_{d} \int_{Θ} L (d, θ) ℓ (θ | x) d π (θ)

$\arg \min_d \int_\Theta L(d,\theta)\ell(\theta|x)\text{d}\pi(\theta)$

L (d, θ) d π (θ)

$L(d,\theta)\text{d}\pi(\theta)$

ϖ (θ)

$\varpi(\theta)$

ϖ (θ)

$\varpi(\theta)$

L (d, θ) d π (θ) = \frac{L (d, θ)}{ϖ (θ)} \times ϖ (θ) d π (θ)

$L(d,\theta)\text{d}\pi(\theta)=\dfrac{L(d,\theta)}{\varpi(\theta)}\times\varpi(\theta)\text{d}\pi(\theta)$

นักบวชที่ไม่ให้ข้อมูลหมายถึงคลาสของการแจกแจงก่อนหน้า (ที่เหมาะสมหรือไม่เหมาะสม) ที่ถูกกำหนดในแง่ของเกณฑ์การให้ข้อมูลที่เกี่ยวข้องกับฟังก์ชันความน่าจะเป็นเช่น

Laplace เหตุผลไม่เพียงพอแบนก่อน;
Jeffreys (1939) นักบวชที่ไม่เปลี่ยนแปลง
เอนโทรปีสูงสุด (หรือ MaxEnt) นักบวช (เจย์เนส, 1957);
คำอธิบายความยาวขั้นต่ำ (Rissanen, 1987; Grünwald, 2005);
บุคคลอ้างอิง (เบอร์นาร์โด, 2522, 2324; เบอร์เกอร์ & เบอร์นาโด, 1992; เบอร์นาร์โดและซัน, 2555)
ความน่าจะเป็นแบบจับคู่นักบวช (เวลส์ & เพียร์, 1963; Scricciolo, 1999; Datta, 2005)

และคลาสเพิ่มเติมซึ่งบางส่วนอธิบายไว้ใน Kass & Wasserman (1995) ชื่อที่ไม่ให้ข้อมูลเป็นชื่อที่ไม่ถูกต้องเนื่องจากไม่มีข้อมูลใดมาก่อนเลย ดูการอภิปรายของฉันในฟอรั่มนี้ หรือลาร์รี Wasserman ของด่า (นักบวชที่ไม่ให้ข้อมูลมักจะไม่เหมาะสม)

— ซีอาน
แหล่งที่มา

การพูดที่ไม่ให้ข้อมูลก่อนการพูดอย่างจริงจังไม่ใช่การแจกแจงก่อน นี่คือฟังก์ชั่นแบบนั้นถ้าเราพิจารณาว่ามันเป็นการแจกแจงและใช้สูตรของเบย์เราจะได้รับการแจกแจงด้านหลังซึ่งมีจุดมุ่งหมายเพื่อสะท้อนให้เห็นถึงข้อมูลที่มีอยู่ในข้อมูลและในข้อมูลเท่านั้น หรือเพื่อให้ได้คุณสมบัติการจับคู่ที่ดีบ่อยครั้ง (เช่นช่วงเวลาที่น่าเชื่อถือหน้ามีค่าประมาณช่วงมั่นใจ) $95\%$ $95\%$

การไม่ให้ข้อมูลก่อนมักจะ "ไม่เหมาะสม" การแจกแจงมีคุณสมบัติที่รู้จักกันดี: อินทิกรัลเท่ากับหนึ่ง ผู้ที่ไม่ได้ให้ข้อมูลก่อนหน้านี้ถูกกล่าวว่าไม่เหมาะสมเมื่ออินทิกรัลของมันไม่มีที่สิ้นสุด (ดังนั้นในกรณีเช่นนี้เห็นได้ชัดว่าไม่ใช่การกระจาย)

— Stéphane Laurent
แหล่งที่มา

ฉันพิจารณาคำจำกัดความของคำว่า "ไม่ให้ข้อมูล" นี้ก่อนที่จะเข้มงวดมาก!

— ซีอาน

@ ซีอานในมุมมองของความห้วนของ OP ฉันคิดว่าคำตอบสั้น ๆ นี้ค่อนข้างเหมาะสม

— Stéphane Laurent

@ ซีอานมันเป็นคำพูดของเบอร์นาร์โด (มากหรือน้อย) ฉันเห็นด้วย ^^

— Stéphane Laurent

@ ซีอานฉันไม่ได้อยู่ที่บ้าน แต่ยังเช่นที่นี่ posteriors อ้างอิงจะได้รับจากการใช้งานอย่างเป็นทางการของ Bayes ทฤษฎีบทมีการอ้างอิงฟังก์ชั่นก่อน Benardo พูดว่าฟังก์ชั่นอ้างอิงก่อนหน้านี้ไม่ได้แจกจ่าย

— Stéphane Laurent

จริงจังมากขึ้น @ ซีอานคุณหมายถึงการ จำกัด ให้กับนักบวชที่ไม่เกี่ยวกับ Bernardian ใช่ไหม? ถูกต้องและคนอื่น ๆ อาจจะ ฉันรู้ว่าคุณมีความรู้มากกว่าฉันในหัวข้อนี้ แต่ฉันเป็นเบอร์นาโดที่มุ่งเน้น (และจับคู่นักบวช)

— Stéphane Laurent