การกระจายแบบใดที่มีค่าเอนโทรปีสูงสุดสำหรับค่าเบี่ยงเบนสัมบูรณ์ที่ทราบค่าเฉลี่ย?

ฉันอ่านการสนทนาเรื่อง Hacker Newsเกี่ยวกับการใช้ส่วนเบี่ยงเบนมาตรฐานตรงข้ามกับตัวชี้วัดอื่น ๆ เช่นค่าเบี่ยงเบนสัมบูรณ์แบบเฉลี่ย ดังนั้นถ้าเราทำตามหลักการของเอนโทรปีสูงสุดเราจะใช้การกระจายแบบไหนถ้าเรารู้ค่าเฉลี่ยของการแจกแจงและค่าเบี่ยงเบนสัมบูรณ์เฉลี่ยเท่านั้น

หรือมีเหตุผลมากกว่าที่จะใช้ค่ามัธยฐานและค่าเบี่ยงเบนสัมบูรณ์เฉลี่ยจากค่ามัธยฐาน?

ฉันพบกระดาษเอนโทรปีหลักการสูงสุดที่มีมาตรการเบี่ยงเบนทั่วไปโดย Grechuk, Molyboha และ Zabarankin ซึ่งดูเหมือนว่าจะมีข้อมูลที่ฉันอยากรู้ แต่มันใช้เวลาสักครู่ในการถอดรหัส

สุภาพบุรุษผู้ฉลาดเหล่านี้ Kotz, S. , Kozubowski, TJ, & Podgorski, K. (2001) Laplace Distribution and Generalisations: การกลับมาอีกครั้งของแอปพลิเคชันเพื่อการสื่อสาร, เศรษฐศาสตร์, วิศวกรรมและการเงิน (ฉบับที่ 183) สปริงเกอร์

ท้าทายเราด้วยการออกกำลังกาย:

การพิสูจน์สามารถทำตามหลักฐานทางทฤษฎีและข้อมูลที่ว่า Normal คือค่าเอนโทรปีสูงสุดสำหรับค่าเฉลี่ยและความแปรปรวน โดยเฉพาะ: ให้เป็นความหนาแน่น Laplace ด้านบนและให้g ( x )เป็นความหนาแน่นอื่น ๆ แต่มีค่าเฉลี่ยและส่วนเบี่ยงเบนสัมบูรณ์แบบเดียวกัน ซึ่งหมายความว่ามีความเสมอภาคต่อไปนี้:$f(x)$$g(x)$

พิจารณาKullback-Leibler Divergenceของความหนาแน่นทั้งสอง:

$$E_g(|X-c_1|)=\int g(x)|x-c_1|dx=c_2 =\int f(x)|x-c_1|dx =E_f(|X-c_1|)\qquad [1]$$

$$0\le D_{KL}(g||f) = \int g(x)\ln\left(\frac {g(x)}{f(x)}\right)dx = \int g(x)\ln g(x)dx -\int g(x)\ln f(x)dx \qquad [2]$$

$g$$-h(g)$

$$\int g(x)\ln[f(x)]dx = \int g(x)\ln\left[\frac{1}{2c_2}\exp\left\{-\frac 1{c_2} |x-c_1|\right\}\right]dx$$ $$=\ln\left[\frac{1}{2c_2}\right]\int g(x)dx- \frac 1{c_2}\int g(x)|x-c_1|dx$$ $[1]$

$$\int g(x)\ln[f(x)]dx = -\ln\left[2c_2\right] - \frac 1{c_2}\int f(x)|x-c_1|dx = -(\ln\left[2c_2\right] +1)$$ $-h(f)$

การแทรกผลลัพธ์เหล่านี้ลงในสมการ เรามี 0 ≤ D ( g | | f ) $[2]$

$$0\le D(g||f) = -h(g) - (-h(f)) \Rightarrow h(g) \le h(f)$$ $g$