ฟังก์ชันความหนาแน่นของความน่าจะเป็นเอนโทรปีสูงสุดคืออะไรสำหรับตัวแปรต่อเนื่องที่เป็นบวกของค่าเฉลี่ยและส่วนเบี่ยงเบนมาตรฐาน

13

การกระจายเอนโทรปีสูงสุดสำหรับตัวแปรต่อเนื่องเชิงบวกคืออะไรในช่วงเวลาที่หนึ่งและสอง

ตัวอย่างเช่นการแจกแจงแบบเกาส์คือการแจกแจงแบบเอนโทรปีสูงสุดสำหรับตัวแปรที่ไม่ได้ จำกัด เนื่องจากค่าเฉลี่ยและส่วนเบี่ยงเบนมาตรฐานและการแจกแจงแกมมาเป็นการแจกแจงแบบเอนโทรปีสูงสุดสำหรับตัวแปรบวกโดยให้ค่าเฉลี่ยและค่าเฉลี่ยของลอการิทึม

— becko
แหล่งที่มา

13

หนึ่งก็อาจจะใช้ทฤษฎีของ Boltzmann ของที่อยู่ในตัวมากบทความวิกิพีเดียคุณชี้ไปที่

โปรดทราบว่าการระบุค่าเฉลี่ยและความแปรปรวนเทียบเท่ากับการระบุช่วงเวลาดิบสองช่วงแรก - แต่ละอันจะเป็นตัวกำหนดอื่น ๆ (ไม่จำเป็นต้องเรียกสิ่งนี้จริง ๆ เพราะเราอาจใช้ทฤษฎีบทนี้โดยตรงกับค่าเฉลี่ยและความแปรปรวน )

ทฤษฎีบทได้พิสูจน์แล้วว่าความหนาแน่นจะต้องอยู่ในรูปแบบ:

f (x) = c \exp (λ_{1} x + λ_{2} x^{2}) for all x \geq 0

$f(x)=c \exp\left(\lambda_1 x + \lambda_2 x^2 \right)\quad \mbox{ for all } x \geq 0$

integrability เหนือเส้นจริงบวกจะ จำกัดจะเป็นและฉันคิดว่าสถานที่ที่มีข้อ จำกัด บางประการเกี่ยวกับความสัมพันธ์ระหว่าง s (ซึ่งจะสันนิษฐานได้ว่ามีความพึงพอใจโดยอัตโนมัติเมื่อเริ่มต้นจากความแปรปรวนที่ระบุค่าเฉลี่ยและมากกว่าช่วงเวลาดิบ) $\lambda_2$ $\leq 0$ $\lambda$

ด้วยความประหลาดใจของฉัน (เนื่องจากฉันไม่คาดคิดว่าจะเกิดขึ้นเมื่อฉันเริ่มคำตอบนี้) สิ่งนี้ดูเหมือนจะทำให้เรามีการแจกแจงแบบปกติที่ถูกตัดทอน

อย่างที่มันเกิดขึ้นฉันไม่คิดว่าฉันเคยใช้ทฤษฎีบทนี้มาก่อนดังนั้นการวิพากษ์วิจารณ์หรือคำแนะนำที่เป็นประโยชน์สำหรับทุกสิ่งที่ฉันไม่ได้พิจารณาหรือไม่ได้รับการต้อนรับ

— Glen_b -Reinstate Monica
แหล่งที่มา

+1 ขอบคุณ ดูเหมือนจะไม่เป็นไร เมื่อฉันอ่านบทความ Wikipedia ฉันดูเหมือนจะพลาดความจริงที่ว่าทฤษฎีบท Boltzmann ใช้กับช่วงเวลาปิดทั้งหมด ฉันสันนิษฐานว่ามันใช้กับตัวแปรที่เปลี่ยนจาก

ถึง

เท่านั้น

- \infty

$-\infty$

\infty

$\infty$

— becko

x

$x$

1 / x

$1/x$

\frac{1}{x} \exp (- α x - β x^{2})

$\frac{1}{x}\exp(-\alpha x- \beta x^2)$

7

ฉันต้องการให้คำตอบของ @ Glen_b ชัดเจนยิ่งขึ้นนี่เป็นคำตอบเพิ่มเติมเพียงเพราะมันไม่เหมาะสมกับความคิดเห็น

f (x) \propto N (x | - 1 / 2 λ_{1} / λ_{2}, - 1 / (2 λ_{2}))

$f(x) \propto \mathcal{N}(x | -1/2 \lambda_1/\lambda_2, -1/(2\lambda_2))$

λ_{1}

$\lambda_1$

λ_{2}

$\lambda_2$

a_{1}, a_{2}

$a_1, a_2$

a_{1} = μ, a_{2} = μ^{2} + σ^{2}

$a_1=\mu, a_2=\mu^2 + \sigma^2$

λ_{1} = μ / σ^{2}, λ_{2} = - 0.5 σ^{2}

$\lambda_1=\mu/\sigma^2, \lambda_2=-0.5 \sigma^2$

N (x | μ, σ^{2})

$\mathcal{N}(x|\mu, \sigma^2)$

$x>x_{min}$ $\lambda_{1,2}$ $1/c$ $\mu$ $\sigma^2$ $x_{min}=0$ $x_{min} \to -\infty$

$a_1, a_2$ $\lambda_{1,2}$ $\lambda_{1,2}$

คำถามนี้ซ้ำกับ/math/598608/what-is-the-maximum-entropy-distribution-for-a-continuous-random-variable-on-0

— Fred Schoen
แหล่งที่มา