โอกาสที่เหมาะสมก่อนและยกกำลังที่เหมาะสมสามารถนำไปสู่การหลังที่ไม่เหมาะสม?

(คำถามนี้ได้รับแรงบันดาลใจจากความคิดเห็นนี้จากซีอาน )

เป็นที่ทราบกันดีว่าถ้าการกระจายก่อนเป็นที่เหมาะสมและความน่าจะเป็นเป็นอย่างดีที่กำหนดไว้แล้วกระจายหลังมีความเหมาะสมเกือบแน่นอน $\pi(\theta)$ $L(\theta | x)$ $\pi(\theta|x)\propto \pi(\theta) L(\theta|x)$

ในบางกรณีเราใช้ความน่าจะเป็นแบบอารมณ์หรือแบบ exponentiated แทนซึ่งนำไปสู่การหลอกหลัง

\tilde{π} (θ | x) \propto π (θ) L (θ | x)^{α}

$\tilde\pi(\theta|x)\propto \pi(\theta) L(\theta|x)^\alpha$ สำหรับ (ตัวอย่างเช่นนี้อาจมีข้อได้เปรียบในการคำนวณ)

α > 0

$\alpha>0$

ในการตั้งค่านี้เป็นไปได้หรือไม่ที่จะมีมาก่อน แต่มีหลอกหลอกที่ไม่เหมาะสม?

bayesian prior posterior

— Robin Ryder
แหล่งที่มา

ที่จริงไม่กี่นาทีต่อมาฉันจะคิดว่ามันไม่น่าเป็นไปได้เนื่องจากความแตกต่างของผลิตภัณฑ์ x ความน่าจะเป็นก่อนลดลงเมื่อพิจารณาจาก x ความน่าจะเป็นก่อน ^ ^ ผลิตภัณฑ์α ... ใด ๆ ที่อินฟินิตี้จะไปที่นั่นช้ากว่า! และเงื่อนไขจะเป็นศูนย์ช้ากว่าจะถูกควบคุมโดยที่เหมาะสมก่อน เดิมพันของฉันจึงเป็นไปไม่ได้ (คำเตือน: ฉันรู้ว่าผิด!)

— ซีอาน

อาจเป็นประโยชน์ในการค้นหาตัวอย่างเมื่อ : ความไม่เสมอภาคของมาร์คอฟบอกเราว่าดังนั้นหากคุณสามารถค้นหากรณีที่มีหางแบบโพลิโนเมียลคุณอาจสร้างหลอกเทียมที่ไม่เหมาะสม

α > 1

$\alpha > 1$

E_{θ \sim π} [L (x | θ)^{α}] ⩾ t^{α} P_{θ \sim π} (L (x | θ) > t) ⟹ E_{θ \sim π} [L (x | θ)^{α}] ⩾ sup_{t > 0} t^{α} P_{θ \sim π} (L (x | θ) > t)

$\mathbf{E}_{\theta \sim \pi} \left[ L(x| \theta)^\alpha \right] \geqslant t^\alpha \mathbf{P}_{\theta \sim \pi} (L(x| \theta) > t) \\ \implies \mathbf{E}_{\theta \sim \pi} \left[ L(x| \theta)^\alpha \right] \geqslant \sup_{t > 0} t^\alpha \mathbf{P}_{\theta \sim \pi} (L(x| \theta) > t)$

L (x | θ)

$L(x| \theta)$

— πr8

อาร์กิวเมนต์นี้ใช้ได้กับหรือไม่ นอกจากนี้ยังมีวิธีที่จะพิสูจน์ว่าโอกาสที่สร้างในแบบนี้จะเหมาะสมหรือไม่

α < 1

$\alpha < 1$

— InfProbSciX

ที่จริงแล้วสำหรับเนื่องจากเรารู้ว่า the supremum บน RHS มักจะ จำกัด และสำหรับหนึ่งใช้อาร์กิวเมนต์เซ่นของคุณเพื่อทำการหักเดียวกัน ดังนั้นการโต้แย้งจึงล้มเหลว คำพูดเล็ก ๆ ที่เรื่องนี้ต้องมีมากมายโอกาสจะประสบความสำเร็จเช่นสำหรับทุกเสื้อ

α = 1

$\alpha =1$

E_{π} [L (x | θ)] < \infty

$\mathbf{E}_{\pi} [L (x | \theta)] < \infty$

α < 1

$\alpha < 1$

L

$L$

P_{π} (L (x | θ) > t) > 0

$\mathbf{P}_\pi (L (x | \theta) > t) > 0$

t

$t$

— πr8

จริงสำหรับคุณไม่สามารถสร้างหนึ่งจุดดี! ฉันต้องบอกว่าฉันรู้สึกทึ่งที่ได้เห็นตัวอย่างของโอกาสที่ไม่มีขอบเขต! บางทีคนรุ่นเบต้าอาจเป็นผลมาจากความน่าจะเป็นที่ไม่ได้ จำกัด

α = 1

$\alpha = 1$

— InfProbSciX

คำตอบ:

สำหรับบางทีนี่อาจเป็นข้อโต้แย้งที่แสดงให้เห็นว่ามันเป็นไปไม่ได้ที่จะสร้างคนหลังหรือไม่? $\alpha \leq 1$

เราต้องการที่จะดูว่ามันเป็นไปได้สำหรับ\ $\int \tilde \pi(\theta|x)d\theta = \infty$

บน RHS:

\int π (θ) L^{α} (θ | x) d θ = E_{θ} (L^{α} (θ | x))

$\int \pi(\theta) L^{\alpha}(\theta|x) d\theta = E_{\theta}(L^{\alpha}(\theta|x))$

ถ้า ,เป็นฟังก์ชันเว้าดังนั้นโดยความไม่เท่าเทียมกันของเซ่น: $\alpha \leq 1$ $x^{\alpha}$

E_{θ} (L^{α} (θ | x)) \leq E_{θ}^{α} (L (θ | x)) = m (x)^{α} < \infty

$E_{\theta}(L^{\alpha}(\theta|x)) \leq E^{\alpha}_{\theta}(L(\theta|x)) = m(x)^\alpha < \infty$

... ที่ตามที่ซีอานชี้ให้เห็นคือค่าคงที่ normalizing (หลักฐาน) $m(x)$

— InfProbSciX
แหล่งที่มา

เรียบร้อยขอบคุณ ฉันชอบที่คุณใช้ความจริงที่ว่าด้านหลังนั้นเหมาะสม

α = 1

$\alpha=1$

— Robin Ryder

เป็นไปได้ที่จะใช้ผลลัพธ์ในคำตอบของ @ InfProbSciX เพื่อพิสูจน์ผลลัพธ์โดยทั่วไป เขียนใหม่เป็น ถ้าเรามีกรณีความไม่เท่าเทียมของเซ่นข้างต้นเนื่องจากเรารู้ว่าเป็นเรื่องปกติ ในทำนองเดียวกันถ้าเราสามารถเขียน กับ , ตกลงไปในกรณีเดียวกันอีกครั้งเนื่องจากเรารู้ว่าเป็นเรื่องปกติ ตอนนี้เราสามารถใช้การเหนี่ยวนำ (แข็งแรง) เพื่อแสดงเคสโดยทั่วไป $L(\theta\mid x)^\alpha\pi(\theta)$

L (θ ∣ x)^{α - 1} L (θ ∣ x) π (θ) .

$L(\theta\mid x)^{\alpha-1}L(\theta\mid x)\pi(\theta).$

1 \leq α \leq 2

$1 \leq \alpha \leq 2$

L (x | θ) π (θ)

$L(x|\theta)\pi(\theta)$

2 \leq α \leq 3

$2 \leq \alpha \leq 3$

L (x | θ)^{α - p} L (x | θ)^{p} π (θ),

$L(x|\theta)^{\alpha-p} L(x|\theta)^p\pi(\theta),$

1 \leq p \leq 2

$1 \leq p \leq 2$

L (x | θ)^{p} π (θ)

$L(x|\theta)^{p}\pi(\theta)$

ความคิดเห็นเก่า

ไม่แน่ใจว่ามันมีประโยชน์มาก แต่เนื่องจากฉันไม่สามารถแสดงความคิดเห็นได้ฉันจะทิ้งคำตอบไว้ นอกจากคำพูดที่ยอดเยี่ยมของ @ InfProbSciX เกี่ยวกับหากมีข้อสันนิษฐานเพิ่มเติมว่ามันเป็นไปไม่ได้ที่จะมีความเหมาะสมมาก่อน สำหรับ . ตัวอย่างเช่นถ้าเรารู้ว่าช่วงเวลาที่สอง ( -th) ของมีอยู่เรารู้ว่ามันอยู่ใน ( ) และด้วยเหตุนี้ผู้หลอกหลอกจึงเหมาะสำหรับ2 ส่วนที่ 1 ในบันทึกเหล่านี้ $\alpha \leq 1$ $L(\theta \mid x) \in L^p$ $1 < \alpha \leq p$ $p$ $L(\theta \mid x)$ $L^2$ $L^p$ $0 \leq \alpha \leq 2$ ไปในรายละเอียดเพิ่มเติมเล็กน้อย แต่น่าเสียดายที่มันไม่ชัดเจนว่าระดับของความกว้างพูดไฟล์ PDF เป็น ฉันขอโทษถ้าฉันพูดออกมาจากที่นี่ฉันอยากจะแสดงความคิดเห็น $L^{10}$

— Luiz Max Carvalho
แหล่งที่มา

คุณพูดถูกถ้าฟังก์ชันความน่าจะเป็นอยู่ในช่องว่าง - นั่นคือพื้นที่ wrt วัดโดยก่อนหน้านั้น หลังจะเป็นที่เหมาะสมสำหรับพี ฉันคาดเดาทั้งหมดที่นี่ แต่ฉันคิดว่าพื้นที่จะครอบคลุมความเป็นไปได้ส่วนใหญ่ที่เราสามารถคิดได้ - ฉันคิดว่าฉันอาจได้อ่านหลักฐานที่ผ่านมาแล้วซึ่งบอกว่าถ้าเป็นรีมันน์ที่รวมเข้าด้วยกัน สามารถทำงานร่วมกันได้ ทฤษฎีบท 1.26 สำหรับการอ้างอิง

L (θ | x)

$L(\theta|x)$

L^{p} (π_{θ})

$L^p(\bf {\pi_\theta})$

L^{p}

$L^p$

1 \leq α \leq p

$1 \leq \alpha \leq p$

f

$f$

f^{n}, n \in Z^{+}

$f^n, n \in \mathbb Z^+$

— InfProbSciX

@InfProbSciX ฉันคิดว่าอาจมีหลักฐานที่ซ่อนอยู่ในเงามืดที่นี่ ฉันรับจากคำตอบของคุณว่าสามารถลบได้ หากถูกต้องแล้วเราสามารถแสดงให้เห็นว่าสำหรับใด ๆ ความน่าจะเป็นแบบหลอกจะรวมกันได้ และถ้าความน่าจะเป็นที่รวมเข้าด้วยกันฉันยืนยันว่าด้านหลังจะสามารถรวมกันได้เพราะก่อนหน้านี้มีขอบเขตและผลิตภัณฑ์ของฟังก์ชั่นที่รวมเข้าด้วยกันและขอบเขตมีความสามารถในการรวมกันได้ แจ้งให้เราทราบสิ่งที่คุณคิด.

α

$\alpha$

p > 1

$p > 1$

— Luiz Max Carvalho

ฉันคิดว่าคุณสามารถเพิกเฉยต่อกรณีที่ตามคำถามอย่างชัดเจน การรวมกันของสำหรับกรณีทั่วไปใด ๆ จะต้องมีการแสดง นอกจากนี้ฉันไม่แน่ใจว่าขอบเขตก่อนหน้านั้นเสมอเช่นความหนาแน่นของจะไม่เป็นเช่นนั้นหรือไม่

α < 0

$\alpha < 0$

L^{α}

$L^{\alpha}$

B e t a (0.5, 0.5)

$Beta(0.5, 0.5)$

— InfProbSciX

@InfProbSciX สิ่งที่ฉันหมายถึงคือแม้ว่าไม่ได้อยู่ในคำถามหากหลักฐานของคุณยังคงอยู่ในสภาพนั้นเราก็สามารถแสดงความสามารถในการรวมสำหรับโดยใช้ประโยชน์จากข้อเท็จจริงที่ว่าถ้าสามารถรวมกันได้ เป็น f อย่างที่คุณพูดสิ่งเหล่านี้เป็นศูนย์ถ้าสิ่งก่อนหน้าไม่ได้ถูก จำกัด เราสามารถพยายามที่จะจำกัดความน่าจะเป็นแทนและสำหรับฉันที่โอกาสใด ๆ ที่ใช้ใน MLE จะต้องมีขอบเขตหรือเว้าอย่างรุนแรง ( en.wikipedia.org/wiki/Maximum_likelihood_estimation#Properties ) ซึ่งทั้งสองสามารถใช้เพื่อ สร้างหลักฐานทั่วไป ความคิดใด ๆ

α < 0

$\alpha < 0$

α > 1

$\alpha > 1$

f

$f$

1 / f

$1/f$

— Luiz Max Carvalho

ขออภัยฉันพลาดนั่นใช่ว่าดูเหมือนว่าจะพยายามที่น่าสนใจ!

— InfProbSciX