เหตุผลที่เข้าใจได้ง่ายว่าเหตุใดข้อมูลฟิชเชอร์ของ Binomial จึงแปรผกผันกับ

มันสับสน / พัดใจของฉันที่มีความแปรปรวนทวินามสัดส่วนกับP) เท่าข้อมูลฟิชเชอร์เป็นสัดส่วนกับ(1-P)} อะไรคือสาเหตุของสิ่งนี้? ทำไมข้อมูลฟิชเชอร์ที่ลดลง ? นั่นคือเหตุผลว่าทำไมการอนุมานที่ยากที่สุดที่ ?$p(1-p)$ p=0.5p=$\frac{1}{p(1-p)}$$p=0.5$$p=0.5$

บริบท:

ฉันกำลังทำงานกับเครื่องคิดเลขขนาดตัวอย่างและสูตรสำหรับขนาดตัวอย่างที่ต้องการเป็นปัจจัยที่เพิ่มขึ้นของซึ่งเป็นผลมาจากการประมาณค่าความแปรปรวนในการหาค่าp ( 1 - p $N$$p(1-p)$

หากต้องการดูด้วยวิธีการที่เข้าใจง่ายว่าความแปรปรวนถูกขยายให้ใหญ่สุดที่ให้ใช้เท่ากับ (resp. ) แล้วตัวอย่างจากมีแนวโน้มที่จะมีหลายคน 's (resp. ' s) และเพียงไม่กี่ 's (resp. ' s) มีการเปลี่ยนแปลงไม่มากมีp 0.99 p = 0.01 X ∼ Bernoulli ( p ) 1 0 0 $p = 0.5$$p$$0.99$$p = 0.01$$X \sim \text{Bernoulli}(p)$$1$$0$$0$$1$

ข้อสรุปคือ "ยาก" สำหรับ 'ที่อยู่ตรงกลางเพราะตัวอย่างมีใกล้ตรงกลางมีความสอดคล้องกับช่วงกว้างของหน้าใกล้ปลายมันไม่ไกลนัก - เพราะปลายเป็น "อุปสรรค" เกินกว่าที่ไม่สามารถไปได้พีพี$p$$\hat p$$p$$p$

ฉันคิดว่าสัญชาตญาณนั้นง่ายกว่าเมื่อมองในแง่ความแปรปรวน

สัญชาตญาณเกี่ยวกับความแปรปรวนของทวินามที่มีขนาดใหญ่อยู่ตรงกลางและขนาดเล็กที่ปลายค่อนข้างตรงไปตรงมา: ใกล้กับจุดสิ้นสุดไม่มีที่ว่างสำหรับข้อมูลที่จะ "กระจาย" พิจารณาขนาดเล็ก - เพราะค่าเฉลี่ยอยู่ใกล้กับ 0, รูปแบบที่ไม่สามารถจะมีขนาดใหญ่ - สำหรับข้อมูลที่เฉลี่ยก็สามารถได้รับเพื่อให้ห่างไกลจากค่าเฉลี่ย$p$$p$

ลองพิจารณาความแปรปรวนของสัดส่วนตัวอย่างในชุดการทดลองของ Bernoulli นี่ n ดังนั้นการถือคงที่และการเปลี่ยนแปลงการแปรผันนั้นเล็กกว่าสำหรับใกล้ 0:n พี$\text{Var}(\hat p) = p(1-p)/n$$n$$p$$p$

สัดส่วนตัวอย่างในตัวอย่างทวินาม - ที่นี่เป็นเพียงชุดสุ่ม กล่องสีฟ้ามีค่าเฉลี่ย 0.03 ส่วนสีดำหมายถึง 0.5 (มีกระวนกระวายใจบางตัวเพิ่มเพื่อให้คะแนนไม่มากเกินไปและเสียรายละเอียด) $y$

ฟังก์ชันความน่าจะเป็นที่สอดคล้องกัน:

ในแต่ละกรณีให้ความสนใจกับเส้นที่หมายถึงค่าเฉลี่ย ในขณะที่เส้นเฉลี่ยกลายเป็น 'ติดขัด' มากขึ้นกับสิ่งกีดขวางจุดที่ต่ำกว่าค่าเฉลี่ยจะมีเพียงเล็กน้อยด้านล่าง

ดังนั้นคะแนนเหนือค่าเฉลี่ยจึงไม่สามารถสูงกว่าค่าเฉลี่ยได้มากเกินไป (เพราะค่าเฉลี่ยจะเปลี่ยน!) ใกล้จุดสิ้นสุดไม่ได้ "ดันขึ้น" แบบเดียวกับที่มันทำเมื่อมีสิ่งกีดขวางอยู่ที่นั่น$p = \frac{1}{2}$

เราเห็นในเวลาเดียวกันว่าทำไมการแจกแจงต้องเบ้ปลาย สำหรับตัวแปรสุ่มถึงแม้บางครั้งจะมีค่ามากกว่าสูงกว่าค่าเฉลี่ยก็จะต้องมีความน่าจะเป็นที่จะถูกบีบให้ต่ำกว่าค่าเฉลี่ยเท่าที่จะเป็นไปได้ สิ่งกีดขวางที่ปรากฏที่ 0 ให้ทั้งขีดจำกัดความแปรปรวนและนำไปสู่ความเบ้$\hat p$$p$

[สัญชาตญาณรูปแบบนี้ไม่ได้บอกเราว่าเหตุใดจึงต้องใช้แบบฟอร์มการทำงานที่แน่นอน แต่มันทำให้ชัดเจนว่าทำไมความแปรปรวนจะต้องใกล้ถึงจุดสิ้นสุดเล็กน้อยและยิ่งเข้าใกล้จุดสิ้นสุดมากขึ้น]

ข้อมูลชาวประมงเป็นความแปรปรวนของฟังก์ชั่นคะแนน และมันเกี่ยวข้องกับเอนโทรปี สำหรับการทดลองใช้ Bernoulli เราได้รับหนึ่งบิตสำหรับการทดลองแต่ละครั้ง ดังนั้นข้อมูลฟิชเชอร์นี้มีคุณสมบัติใกล้เคียงกับแชนนอนเอนโทรปีตามที่เราคาดหวัง โดยเฉพาะอย่างยิ่งเอนโทรปีมีค่าสูงสุดที่ 1/2 และข้อมูลมีค่าต่ำสุดที่ 1/2