เอนโทรปีต่าง ๆ


13

เอนโทรปีความแตกต่างของเกาส์ RV เป็น ) สิ่งนี้ขึ้นอยู่กับσซึ่งเป็นค่าเบี่ยงเบนมาตรฐานlog2(σ2πe)σ

ถ้าเราทำให้ตัวแปรสุ่มเป็นมาตรฐานเพื่อให้มันมีความแปรปรวนของหน่วย สำหรับฉันนี่คือการตอบโต้ที่ใช้งานง่ายเพราะ Kolmogorov ความซับซ้อนของค่าคงที่ normalizing ควรมีขนาดเล็กมากเมื่อเทียบกับการลดลงของเอนโทรปี หนึ่งสามารถประดิษฐ์ตัวถอดรหัสที่แบ่ง / ทวีคูณด้วยค่าคงที่ normalizing เพื่อกู้คืนชุดข้อมูลใด ๆ ที่สร้างขึ้นโดยตัวแปรสุ่มนี้

ความเข้าใจของฉันอาจจะปิด คุณช่วยชี้จุดบกพร่องของฉันได้ไหม

คำตอบ:


17

ฉันจะไปที่นี้แม้ว่ามันจะค่อนข้างเหนือหัวของฉันดังนั้นรักษาด้วยเกลือโรย ...

คุณไม่ผิดอย่างแน่นอน ฉันคิดว่าการที่การทดลองทางความคิดของคุณล้มลงนั่นคือเอนโทรปีที่ต่างกันไม่ใช่กรณีของเอนโทรปี ฉันเดาว่าเพราะสิ่งนี้ความสัมพันธ์ระหว่างมันกับความซับซ้อนของ Kolmogorov จะหายไป

Xxi

H(X)=iP(X=xi)log(P(X=xi)).

Xp()

H(X)ip(X=xi)δxlog(p(X=xi)δx),
δxxi
H(X)log(δx)ip(X=xi)δxlog(p(X=xi)).

δxdx

H(X)=log(dx)xp(X=x)log(p(X=x))dx.

log(dx)

σ

δ

xp(X=x)log(p(X=x)q(X=x))dx
q(X)Xp(X)q(X)

ขอบคุณ นั่นเป็นเรื่องที่น่าสนใจมาก ฉันไม่รู้ว่ามีกลไกเช่นนี้ในทางทฤษฎี
Cagdas Ozgenc

1
log(dx)p(x)ip(xi)δxlogp(xi)h(X)δx0nh(X)+n

1
log(dx)

@Cagdas - ฉันไม่รู้ว่าถ้าฉันเรียกมันว่าเป็นกลไก มันเป็นเพียงการวัดสิ่งที่แตกต่าง และเมื่อคาร์ดินัลชี้ให้เห็นมันก็มีประโยชน์บางอย่าง สำหรับว่ามันจะแตกเมื่อนำไปใช้กับการกระจายทวินามดีขึ้นอยู่กับว่าคุณจะใช้มัน :) อาจคุ้มค่าที่จะเริ่มหัวข้อใหม่หากคุณไม่แน่ใจ
Pat

ฉันคิดว่าเอนโทรปีนั้นเห็นได้ชัดว่าแตกต่างจากความซับซ้อนของ Kolmogorov เมื่อพิจารณาจากเครื่องกำเนิดตัวเลขแบบหลอก
James Bowery
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.